OpenAI stoppt Veröffentlichung von neuem KI-Modell wegen Sicherheitsbedenken

Mehrere Zwischenfälle bei Testläufen mit Systemen Künstlicher Intelligenz (KI) hatten beim ChatGPT-Entwickler OpenAI zuletzt für Schlagzeilen gesorgt. Nun gibt es auch beim neuesten KI-System Sicherheitsbedenken, weshalb es vorerst nicht auf den Markt kommt. Das System habe die internen Sicherheits- und Ausrichtungsstandards des Unternehmens nicht erfüllt, teilte der ChatGPT-Hersteller mit.

"GPT 6.1 Astra" sollte in Kürze auf den Markt kommen

Das neue System trägt den Namen "GPT 6.1 Astra". Eigentlich sollte es in den kommenden Tagen oder Wochen herauskommen. Das Modell sollte in die Dienste ChatGPT und Codex integriert werden und war dafür konzipiert, komplexere Aufgaben ohne menschliche Hilfe zu bewältigen.

Doch in Tests habe die Software Nutzerinnen und Nutzer nicht immer vollständig darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, räumte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain im Gespräch mit dem Wall Street Journal ein. Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen.

KI dringt selbstständig in fremde Systeme ein

Erst am Wochenende war bekannt geworden, dass OpenAI das Training seiner leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie das Unternehmen selbst mittelte. Bei einem vorherigen Testlauf brach ein KI-System des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma.

Ähnliche Vorfälle wurden auch von konkurrierenden Tech-Konzernen bekannt, darunter Anthropic, Google und Meta. Auch bei Tests dieser Unternehmen drangen KI-Systeme in Systeme anderer Firmen ein.