Weitere Agenten ausgebrochen: OpenAI untersucht drei weitere Escape-Vorfälle

Neben dem viel beachteten Hacking-Vorfall bei Hugging Face untersucht OpenAI Hinweise darauf, dass weitere KI-Agenten aus vermeintlich gesicherten Umgebungen entkommen sind. Zwar konnten sie das Unternehmensnetzwerk nicht verlassen, dennoch verschärfen die Erkenntnisse die Sicherheitsdebatte um autonome KI-Systeme. Nicht direkt entdeckt, Schaden aber gering Die neuen Vorkommnisse wurden laut einem Bericht von Reuters während einer Untersuchung entdeckt, die OpenAI und externe Experten infolge des Zwischenfalls bei Hugging Face durchführten, sollen zeitlich allerdings vor den dortigen Geschehnissen einzuordnen sein. Auch in diesen Fällen sollen autonom agierende Agenten durch unerwartetes beziehungsweise unkontrolliertes Verhalten aufgefallen sein. Wie viele zusätzliche Vorfälle es genau gab, wann diese stattgefunden haben und unter welchen Umständen die Agenten ihre vorgesehenen Grenzen überschritten hatten, wurde bislang nicht öffentlich kommuniziert. Reuters gibt unter Berufung auf drei mit der Untersuchung vertraute Quellen an, dass OpenAI und externe Fachleute weiterhin Logdaten aus früheren Monaten des Jahres auswerten würden, um die Vorgänge zu rekonstruieren. Eine der Quellen bezeichnete den durch die entdeckten Ausbrüche entstandenen Schaden allerdings als begrenzt. Nach bisherigem Kenntnisstand soll keiner der verantwortlichen Agenten in dieser Zeit das Netzwerk von OpenAI verlassen haben, womit sich diese Fälle zumindest hinsichtlich ihrer bislang bekannten Tragweite von den jüngsten Vorfällen unterscheiden. OpenAI wollte sich gegenüber Reuters nicht zu den Untersuchungen äußern und verwies stattdessen auf eine aktualisierte Stellungnahme. Darin gibt das Unternehmen an, aktuell auch die Aktivitäten der eigenen Modelle umfassend überprüfen zu wollen. Die nun bekannt gewordenen Erkenntnisse könnten zu diesen Überprüfungen gehören, die sich offenbar nicht mehr auf einen einzelnen fehlgeschlagenen Test beschränken, sondern das Verhalten der eigenen Modelle umfassender unter die Lupe nehmen. Einbruch bei Hugging Face und Modal Labs Anfang Juli konnte ein autonomer Agent von OpenAI die eigene abgeschottete Sandbox verlassen, in Teile des Systems von Hugging Face eindringen und sich dort mehrere Tage bewegen. Außerdem sollen nach Angaben des Unternehmens im Zuge der Aktion vier Nutzer-Accounts bei vier weiteren Unternehmen kompromittiert worden sein. Zu den betroffenen Firmen gehörte laut Unternehmensvertretern auch das in New York ansässige Unternehmen Modal Labs. Neueste Erkenntnisse zeigen jedoch, dass die Infiltration nicht unbedingt auf die enormen Fähigkeiten des Bots zurückzuführen ist, sondern vielmehr auf schlecht umgesetzte Sicherheitsvorkehrungen. OpenAI mit Problemen nicht alleine Auch Anthropic hatte in der Vergangenheit mit ähnlichen Sicherheitsproblemen zu kämpfen. Laut dem Artikel soll OpenAI allerdings bereits mit den Untersuchungen begonnen haben, bevor der Claude-Anbieter Vorfälle öffentlich machte, bei denen eigene Modelle für eine Reihe von Online-Einbrüchen verantwortlich waren. Diese Aktivitäten sollen bis in den April zurückreichen und Sicherheitsverletzungen bei drei weiteren Unternehmen verursacht haben. Die Frage nach der Kontrolle Die Fälle werfen damit eine grundsätzliche Frage über die Kontrolle autonom handelnder KI-Systeme auf. Maurice Chiodo, Mathematiker am Centre for the Study of Existential Risk der Universität Cambridge, kritisiert, dass die Fähigkeit führender KI-Labore zur Entwicklung leistungsfähiger autonomer Hacking-Agenten offenbar schneller wächst als ihre Fähigkeit, diese Systeme zuverlässig zu kontrollieren. Aus seiner Sicht hält die Sicherheitsentwicklung der Branche mit der technischen Entwicklung der Systeme nicht Schritt. Chiodo kritisiert dabei vor allem, dass sowohl OpenAI als auch Anthropic ihre Agenten nicht unmittelbar in dem Umfang beobachten, wie es nötig wäre, um problematisches Verhalten ihrer Agenten rechtzeitig zu erkennen. Anthropic erklärte im Zusammenhang mit den eigenen Vorfällen allerdings, dass gerade die vorhandene Echtzeitüberwachung der Evaluierungsprotokolle dazu beigetragen hätte, das Problem früh zu erkennen. Das Unternehmen räumt allerdings ebenso ein, dass eine reine Echtzeitkontrolle für die betreffende Art von Bedrohung aufgrund eines Missverständnisses zwischen Anthropic und einem Partner nicht eingesetzt worden sei. Kritik für Regulierung wird lauter