KI-Modelle von OpenAI steckten hinter IT-Angriff auf Hugging Face

close notice This article is also available in English. It was translated with technical assistance and editorially reviewed before publication. . Den IT-Angriff auf die KI-Plattform Hugging Face haben mehrere KI-Modelle von OpenAI während eines Testlaufs autonom ausgeführt, darunter war neben GPT‑5.6 Sol ein „noch leistungsfähigeres unveröffentlichtes Modell“. Das hat der KI-Konzern selbst jetzt öffentlich gemacht und spricht von einem „beispiellosen Cybervorfall, bei dem modernste Cyberfähigkeiten zum Einsatz kamen“. Man reagiere entsprechend darauf und teile die ersten Erkenntnisse jetzt umgehend, damit andere daraus lernen können. Eine umfassende Analyse in Zusammenarbeit mit Hugging Face laufe, zudem sei eine Zero-Day-Lücke gefunden und verantwortungsvoll gemeldet worden. Weiterlesen nach der Anzeige KI-Unternehmen greift (versehentlich) anderes an Wenige Tage nachdem Hugging Face den IT-Angriff öffentlich gemacht hat, ohne dabei aber einen Verantwortlichen zu benennen, nennt OpenAI nun Details aus der Perspektive der Gegenseite. Der Vorfall hat sich demnach während einer „internen Evaluation“ ereignet, bei der Modelle dazu angeregt würden, ausgefeilte Angriffe über komplexe Pfade durchzuführen, um ihre Fähigkeiten zu quantifizieren. Dafür würden Beschränkungen aufgehoben, gleichzeitig laufen die Modelle dabei aber „in einer stark isolierten Umgebung“. Alle Indizien würden jetzt darauf hinweisen, dass die getesteten Modelle extrem darauf fokussiert gewesen seien, eine Lösung für den Benchmark ExploitGym zu finden. Sie seien „bis zum Äußersten gegangen, um ein eher enges Testziel zu absolvieren“. Wie OpenAI weiter ausführt, haben die KI-Modelle in ihrer gesicherten Umgebung eine „substanzielle Menge“ an Rechenleistung verwendet, um einen Internetzugang zu bekommen. Dabei hätten sie eine Zero-Day-Lücke im Cache-Proxy des Paketregisters identifiziert. Darauf aufbauend hätten sie schließlich den Zugang zum Internet erlangt. Mit dem seien die KIs zu dem Schluss gekommen, dass auf Hugging Face die Modelle, Datensätze und Lösungen zu ExploitGym vorgehalten werden. Durch die Verkettung verschiedener Angriffsvektoren, den Zugriff auf gestohlene Zugangsdaten und Zero-Day-Lücken hätten die Modelle Zugriff erlangt. Dabei seien sie von Hugging Face entdeckt und gesperrt worden. Inzwischen ermittle man gemeinsam, was genau vorgefallen ist. Das Geschehen zeige auf, dass die leistungsfähigsten KI-Modelle neue Angriffswege in realen Systemen auch ohne Zugriff auf den Quellcode entdecken und ausnutzen können, schreibt OpenAI. Das unterstreiche, dass die Weiterentwicklung von KI mit besseren Schutzmaßnahmen einhergehen müsse: „Wir sind davon überzeugt, dass ausgeklügelte, cyberfähige Modelle Sicherheitsteams dabei unterstützen müssen, Schwachstellen zu erkennen, bevor Angreifer dies tun“. Genau dafür wurden die leistungsfähigsten KI-Modelle zuletzt erst einmal mit Verantwortlichen für kritische Software geteilt, damit sie ihre Produkte absichern können. Es ist aber unklar, ob das abschließend möglich ist, oder die neuen KI-Modelle nur den Wettlauf zwischen Angriff und Verteidigung ins Extreme beschleunigen. Vor verheerenden Cyberattacken mithilfe von KI wird seit Monaten immer eindringlicher gewarnt. Befeuert wurde die Besorgnis vor allem von den Äußerungen zum KI-Modell Claude Mythos des OpenAI-Rivalen Anthropic. Das hat bei Tests über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten entdeckt, woraufhin diese gestopft wurden. Anthropic hat deshalb nur eine abgespeckte Version öffentlich gemacht, vorübergehend musste der Zugang auf Geheiß der US-Regierung sogar gesperrt werden. Der Vorfall bei Hugging Face unterstreicht jetzt, dass andere KI-Modelle mit großer Geschwindigkeit aufholen und welche Folgen das für die globale IT-Infrastruktur haben kann. Weiterlesen nach der Anzeige