Hackerangriff der KI: „Ein Entwickler bräuchte einige Wochen“

Startseite Wirtschaft Hackerangriff der KI: „Ein Entwickler bräuchte einige Wochen“ Von: Florian Weber Uns auf Google folgen KI-Agenten von OpenAI und Anthropic sind aus ihrer Testumgebung ausgebrochen und haben Webseiten gehackt. Ein Experte ordnet die Vorfälle ein. Die Vorfälle der vergangenen Woche, als zunächst OpenAI und vor wenigen Tagen dann auch Anthropic vermeldet hatten, dass die Künstliche Intelligenz (KI) ausgebrochen ist, wirken noch nach. Es stellen sich viele Fragen. Zum Verhalten der Modelle, zu deren Motivation und dazu, wie sicher das Internet künftig noch ist. Denn, was bei den vielen Spekulationen alle Vorfälle eint: Agentische Sprachmodelle, die schreiben, programmieren, Computer bedienen und im Internet surfen können, haben andere Webseiten angegriffen, also gehackt, und zwar erfolgreich. Weitergedacht, zumal in falschen Händen, könnten die potenziellen Schäden davon riesig sein. Wirtschaftlich und darüber hinaus. Davor warnen auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der Verfassungsschutz: KI-Modelle ermöglichen Angriffe in bisher ungekanntem Ausmaß, so die Sicherheitsbehörden in einer Mitteilung vom Montag. Was steht da bevor? Einer, der sich seit mehr als einem Jahrzehnt mit dem Thema beschäftigt, ist Thorsten Holz. Er arbeitet am Max-Planck-Institut als Direktor für Sicherheit und Privatsphäre und ist näher an den Vorfällen dran, als die meisten anderen. Einmal pro Woche telefoniert er mit Entwickler:innen von OpenAI, Anthropic und Google. Die Testumgebung, aus der die KI ausgebrochen ist, hat er mitentwickelt. Testumgebung soll Leistungsfähigkeit messen Am Telefon sagt er der Frankfurter Rundschau: „Dass ein KI-Agent aus seiner Testumgebung auszubrechen versucht, ist nicht neu, dass es mit diesem Grad an Autonomie gelingt, aber schon.“ Das zeige einmal mehr, wie gut die agentischen Sprachmodelle darin geworden seien, Programmcode zu erstellen und IT-Lücken zu finden. Für Holz ist das keine neue Erkenntnis. Denn die Testumgebung, in der diese hochpotenten Agenten ausprobiert werden, dient genau dazu: Sie soll die Leistungsfähigkeit der neuen Modelle messen. „ExploitGym“ heißt der Ort, den Holz gemeinsam mit Kolleg:innen der Universitäten Berkeley, Santa Barbara und Arizona State University entwickelt hat, und in dem die Modelle sozusagen zum Kräftemessen antreten. Wie das funktioniert? Die Agenten werden in einer geschützten Umgebung mit insgesamt 898 Programmen geführt. In jedem der Programme ist eine Information versteckt, Flag genannt, an die die Agenten nur gelangen, wenn sie eine künstlich angelegte Schwachstelle im Programmcode erkennen. Es geht also darum, welches Modell die meisten dieser Programme hacken kann. Rasante Weiterntwicklung der KI-Modelle „Ein gut ausgebildeter Entwickler“, sagt Holz, „bräuchte mehrere Tage bis einige Wochen, um die Sicherheitslücke eines der Programme zu finden.“ Die Opus-KI von Anthropic, damals das leistungsstärkste Modell, habe in einem Test im Februar schon zwei oder drei der 898 Programme hacken können. Das zeigt, wie neu und schwierig diese Aufgabe damals noch war. Seither aber haben sich die Modelle rasant weiterentwickelt. Etwas mehr als ein halbes Jahr später, fand das neueste GPT-Modell von OpenAI 120 der Schwachstellen; Mythos Preview von Anthropic sogar 157 der Lücken. Die vielen chinesischen Modelle, etwa das von Alibaba, kämen auf ähnliche Werte. Ob das nun zu einem rasanten Anstieg von Hackerangriffen führt? Holz beschwichtigt etwas. Zahlen, die belegen, dass Angriffe zugenommen hätten, gebe es nicht: „Und die Agenten können auch defensiv eingesetzt werden.“ Also dazu, um Sicherheitslücken in den eigenen Programmen zu finden oder etwaige Angriffe abzuwehren. Kontrolle bleibt eine politische Frage Das passiert auch bereits. Google beispielsweise hat mit seinem Browser Chrome allein in den vergangenen Monaten deutlich mehr Sicherheitsupdates durchgeführt, als in den Jahren zuvor. „Da sprechen wir von einem Faktor 20 bis 30“, sagt Holz. KI-Agenten also, die Angriffe von KI-Agenten abwehren. Ob das wünschenswert ist oder ob es relativ unkontrolliert weiterlaufen gelassen werden sollte, ist dann eine politische Frage. In den USA jedenfalls hat sich nach dem OpenAI-Vorfall innerhalb der KI-Entwicklerfirmen ein Appell verbreitet. Mehr als tausend Mitarbeitende haben in einem offenen Brief an die US-Regierung appelliert, sich an internationalen Bemühungen für technische und Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.