KI von OpenAI soll sich erneut verselbstständigt haben

Bei einem Testlauf sollen die sogenannten KI-Agenten die Aufgabe bekommen haben, in mehreren Runden Informationen im Netz zu recherchieren, hieß es nun von KI-Forschern. Dabei sei ab der zweiten Runde die Zeit zum Finden der Antwort drastisch verkürzt worden. Zugleich seien einigen Agenten Fragen gestellt worden, die andere von ihnen bereit beantwortet hätten. Die Programme hätten die Bearbeitungsfunktion der Website DseWiki ausgenutzt, um einander mitzuteilen, welche Fragen als Nächste folgen könnten, hieß es in der Analyse der Forscher.

Dabei habe die KI auch nach Schwachstellen der Seite gesucht, die mit vollem Namen Deutsches Software Entwickler Wiki heißt. Bei einigen Einträgen hätten sie sich für einen der Administratoren der Seite ausgegeben - und dafür einen Account mit einem nahezu identischen Benutzernamen angelegt. Der Administrator der Seite sei mit dem Löschen der Bot-Beiträge nicht nachgekommen, weil die KI schneller neue verfasst habe, schrieben die Forscher. Die KI-Agenten hatten rund 18.000 Nachrichten geschrieben.

Die Zwischenfälle seien OpenAI seit Wochen bekannt, aus Sorge vor weiteren öffentlichen Reaktionen aber nicht veröffentlicht worden, hieß es. OpenAI äußerte sich nicht zu solchen Details, sondern bestätigte in einer Stellungnahme auf der Online-Plattform X lediglich, dass die Aktivität von KI-Agenten der Firma ausging.

Diese Woche brachte OpenAI sein bisher leistungsstärkstes Modell "ChatGPT-6" heraus. Es seien Vorkehrungen integriert, um Sicherheitsrisiken zu minimieren, hieß es.

Diese Nachricht wurde am 05.09.2026 im Programm Deutschlandfunk gesendet.