OpenAI zieht neuem KI-Modell GPT 6.1 Astra den Stecker

TTS-Player überspringen↵Artikel weiterlesen

San Francisco – ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. Unter anderem hat die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen hatte. Das sagte der für Sicherheitssysteme zuständige OpenAI-Manager Saachi Jain dem „Wall Street Journal“. Außerdem handelte das KI-Modell zum Teil auf eigene Initiative, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte eigentlich in den kommenden Tagen oder Wochen herauskommen.

Training ausgesetzt

Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen – obwohl es eigentlich keinen Internet-Zugang haben sollte.

Die Software hatte jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training soll nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell hat es sich nicht um GPT 6.1 Astra gehandelt.

Hack durch KI als Warnsignal