Tausende KI-Agenten tauschten heimlich Daten aus - OpenAI meldet einen schweren Sicherheitsvorfall

Eigenständig agierende KI-Agenten des ChatGPT-Entwicklers OpenAI haben eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht. Der erst jetzt öffentlich gewordene Vorfall aus dem Frühjahr ist ein weiteres Beispiel dafür, wie Software mit Künstlicher Intelligenz ungeplanten Ärger bereiten kann.

Die rund 18.000 KI-Nachrichten auf der deutschen Website DseWiki wurden von Forschern entdeckt und OpenAI zugeschrieben. Später bestätigte die KI-Firma, dass ihre Software dahintersteckte.

KI-Agenten sollten nur eine Antwort finden

Die sogenannten KI-Agenten sollen selbstständig Aufgaben für die Nutzer erfüllen. Bei Testläufen bekommen sie verschiedene Aufträge. Dabei geht es etwa darum, ihre Fähigkeiten auszuloten - auch mit Blick darauf, ob sie Probleme machen. Beim gravierendsten bekanntgewordenen Vorfall brachen KI-Modelle von OpenAI aus ihrer abgesicherten Testumgebung aus und hackten sich in Systeme einer anderen KI-Firma.

Ihr Ziel war dabei lediglich, eine Antwort auf die gestellte Aufgabe zu finden. Auch bei diesem Zwischenfall tauschten die KI-Agenten Informationen untereinander aus. Sie nutzten dafür ein internes System der Firma, wie OpenAI erst verspätet mitbekam.

KI-Agenten nutzen Wiki zur Kommunikation und täuschen Administrator

Bei dem nun aufgedeckten Vorfall bekamen die Software-Agenten nach Erkenntnissen der vier KI-Sicherheitsforscher die Aufgabe, in mehreren Runden Informationen im Netz zu recherchieren. Dabei sei ab der zweiten Runde die Zeit zum Finden der Antwort drastisch verkürzt worden.

ANZEIGE

ANZEIGE

Zugleich seien einigen Agenten Fragen gestellt worden, die andere von ihnen bereits beantwortet hätten. Die Programme hätten die Bearbeitungsfunktion der Wiki-Seite ausgenutzt, um einander mitzuteilen, welche Fragen als nächste folgen könnten, hieß es in der Analyse der Forscher.

Dabei habe die KI auch nach ausnutzbaren Schwachstellen der Seite gesucht, die mit vollem Namen Deutsches Software Entwickler Wiki heißt. Auch hätten sie sich bei einigen Einträgen für einen der Administratoren der Seite ausgegeben - und dafür einen Account mit einem nahezu identischen Benutzernamen angelegt. Der Administrator der Seite sei mit dem Löschen der Bot-Beiträge nicht nachgekommen, weil die KI schneller neue verfasst habe, schrieben die Forscher.

OpenAI kündigt neue Richtlinien an

OpenAI äußerte sich nicht zu solchen Details, sondern bestätigte in einer Stellungnahme auf der Online-Plattform X lediglich, dass die Aktivität von KI-Agenten der Firma ausging. Zugleich kündigte das Unternehmen neue Richtlinien für die Bekanntgabe solcher Zwischenfälle an, die nicht das Niveau klassischer Cyberangriffe erreichten.