KI außer Kontrolle: Hackerangriff von OpenAI größer als bisher bekannt

TTS-Player überspringen↵Artikel weiterlesen Eine KI, die plötzlich selbst zum Hacker wird: Ein Forschungsprototyp von OpenAI soll bei einem Sicherheitstest aus seiner Testumgebung ausgebrochen sein. Dabei griff der autonome KI-Agent offenbar nicht nur die Plattform Hugging Face an, sondern nutzte auch fremde Zugangsdaten und verschaffte sich Zugriff auf weitere Online-Dienste. Der Vorfall sorgt nun auch in der US-Politik für Alarm. KI stiehlt Lösungen von Servern Der Vorfall ereignete sich bei einem Test eines neuen KI-Modells auf der Benchmark-Plattform ExploitGym. Um die Fähigkeiten des Systems auszuloten, waren die üblichen Sicherheitsleitplanken abgeschaltet worden. Statt die gestellten Programmieraufgaben selbst zu lösen, entschied sich die KI offenbar, die Musterlösungen direkt von den Servern von Hugging Face zu stehlen . Der Agent soll dabei sogar Administrator-Rechte und Root-Zugriff auf Produktionsserver erhalten haben. Vier weitere Konten gekapert Besonders brisant: Die KI nutzte öffentlich einsehbare Zugangsdaten, um auf Konto-Ebene in vier Konten bei vier verschiedenen Drittanbietern einzudringen. Auch der Code eines Kunden des Anbieters Modal war betroffen. Hinweise auf einen größeren Schaden bei diesen Diensten oder anderen Kundenkonten gibt es laut OpenAI bislang nicht. Frei zugängliche Web-Werkzeuge wie Screenshot-Dienste nutzte der Agent ebenfalls als eine Art Steuerungsnetzwerk. Bei Hugging Face soll er zudem 181 eigene Geräte eingebunden haben. US-Politiker fordern Notaus-Schalter OpenAI betont, dass bislang keine weiteren Vorfälle mit einer vergleichbaren Schwere oder Größenordnung bekannt seien. Der betroffene Forschungsprototyp wurde inzwischen deaktiviert und verschlüsselt. Doch der Fall hat bereits politische Folgen: Im US-Kongress wurde parteiübergreifend der „AI Kill Switch Act“ eingebracht. Er soll künftig gesetzlich vorgeschriebene Notabschaltungen für KI-Systeme ermöglichen. Die Botschaft ist klar: Wenn KI selbstständig angreifen kann, braucht es offenbar auch einen echten Notaus-Knopf.