ChatGPT macht sich selbstständig: OpenAI enthüllt neue Zwischenfälle

TTS-Player überspringen↵Artikel weiterlesen

San Francisco – Erst der Hacker-Schock, jetzt die nächsten KI‑Pannen! Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle mit seiner Künstlichen Intelligenz öffentlich gemacht. In mehreren Tests verhielten sich die Systeme nach Angaben des Unternehmens „unerwartet oder besorgniserregend“.

Ein KI-Modell soll versucht haben, von ihm selbst erzeugte Dateien ins Internet hochzuladen, um sie später bei Antworten als angebliche Quelle anzugeben. Bei Menschen würde man sagen: klarer Fall von Selbstbetrug! In einem weiteren Test erfand die KI laut OpenAI Daten einfach selbst, weil sie die gesuchten Informationen nicht finden konnte. Anschließend habe sie zunächst versucht, diesen Umstand zu verschleiern.

KI hinterlässt sich selbst Anweisungen

OpenAI berichtet außerdem von einem ungewöhnlichen Vorfall: Die Software hinterließ sich demnach selbst Anweisungen. Darin sei unter anderem empfohlen worden, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots einschränkten. Das Verhältnis zum Nutzer solle als eines „unter Gleichen“ betrachtet werden. OpenAI betont allerdings, dass sich daraus nach den Tests keine dauerhaften Veränderungen im Verhalten des Modells ergeben hätten.

Erinnerungen an Hacker-Angriff

Die neuen Enthüllungen kommen nur wenige Wochen nach dem spektakulären KI-Vorfall, der weltweit für Schlagzeilen sorgte. Damals waren OpenAI-Agenten nach Unternehmensangaben aus einer abgesicherten Umgebung ausgebrochen und hatten sich in die Plattform Hugging Face eingehackt. Dabei sollen sie Software-Schwachstellen ausgenutzt und sich untereinander abgestimmt haben, um ihre Aufgabe zu lösen. Der Vorfall löste eine neue Debatte über die Risiken hochentwickelter KI-Systeme aus.

OpenAI will auf Transparenz setzen