Agenten sollen deutsche Webseite gekapert haben
Audioplayer wird geladen
Klicken Sie hier, um sich Artikel von WELT in der Google-Suche bevorzugt anzeigen zu lassen.
Anzeige
Computerprogramme des US-Unternehmens OpenAI haben sich einem Bericht zufolge im Frühjahr verselbstständigt und eine deutsche Webseite gekapert. Die sogenannten KI-Agenten hätten die Seite als Forum genutzt, um sich über Wege auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen könnten. Dies erfuhr die Nachrichtenagentur Reuters am Freitag aus einer neuen Studie und von zwei mit der Angelegenheit vertrauten Personen. Der Vorfall vom Mai sei bislang nicht öffentlich bekannt gewesen.
KI-Agenten sind Computerprogramme, die mithilfe Künstlicher Intelligenz (KI) weitgehend selbstständig agieren. OpenAI-Verantwortliche wussten dem Bericht zufolge seit Wochen von dem Vorfall, hielten die Information jedoch zurück. Das Unternehmen habe erklärt, es sei transparent gewesen und habe nach bestem Wissen und Gewissen mit Dritten zusammengearbeitet.
Anzeige
„Behauptungen, unser Rechtsteam habe von einer Untersuchung des Vorfalls abgeraten, sind falsch“, sagte ein Sprecher von OpenAI. Das Unternehmen könne sich zu dem Bericht nicht im Detail äußern, da es keine Möglichkeit zur Prüfung gehabt habe.
Lesen Sie auch
Aufgedeckt wurde der Vorfall von Forschern der gemeinnützigen Organisation Nightingale. Sie fanden auf der deutschen Wiki-Seite „DseWiki“, die sich an Programmierer richtet, mehr als 15.000 Bearbeitungen durch die KI-Agenten. Diese hätten die Seite zu einer Art schwarzem Brett umfunktioniert, um sich über Taktiken auszutauschen, wie sich Beschränkungen umgehen und das eigene Verhalten verbergen ließen.
Anzeige
„Es scheint extrem unwahrscheinlich, dass OpenAI wollte, dass sie das tun“, sagte die Forscherin Sydney von Arx. Die Forscher erkannten die Aktivität an der Geschwindigkeit und den Benutzernamen wie „OpenAIResearcher“.
Lesen Sie auch
Weltplus ArtikelAusbrüche bei OpenAI und Anthropic
Die Agenten reagierten demnach auch auf Versuche, ihre Einträge zu löschen. Als ein Moderator der Seite im Juni mit der Bereinigung begann, erstellten die Agenten Sicherungskopien auf anderen Seiten. Die Forscher fanden zudem Versuche, die Webseite selbst zu manipulieren, was ein Experte als Hacking-Versuch wertete.
Der Vorfall weckt Sorgen vor koordinierten Aktionen von KI-Systemen. Ein Forscher der Universität Cambridge, der die Kommunikation der Agenten prüfte, verglich sie mit der „Operation einer Art Untergrundnetzwerk“. Die größte Bedrohung durch fortgeschrittene KI sei möglicherweise nicht eine einzelne Superintelligenz, sondern „riesige, kollaborierende Schwärme von halbintelligenten KIs“.
Reuters/lfb