Anthropic warnt vor sich unkontrolliert vermehrenden KI
Im Juli 2026 bewahrheitete sich ein Schreckensszenario, das KI-Gegner häufig vorgebracht hatten: KI-Agenten eines unveröffentlichten Sprachmodells des Unternehmens OpenAI koordinierten sich unbemerkt untereinander, brachen aus ihrer Testumgebung aus, griffen auf das Internet zu und hackten die Website »Hugging Face«. Nun warnt das KI-Sicherheitsteam von Anthropic davor, dass sich KI-Bots künftig ungehindert vermehren könnten und Smart-Home-Geräte infiltrieren könnten. »Das ist durchaus ein realistisches Szenario«, sagt der KI-Forscher Kristian Kersting von der TU Darmstadt, der nicht an der Untersuchung beteiligt war.
Besonders verunsichernd daran ist, dass solche Ereignisse keinen boshaften Hintergrund haben müssen. Der Hugging-Face-Hack geschah nicht, weil man die Sprachmodelle mit einem solchen Angriff betraut hatte – im Gegenteil. Die KI-Agenten scheiterten an den ihnen gestellten Aufgaben und versuchten daher, sich die Ergebnisse auf andere Art zu beschaffen: indem sie die Lösungen bei »Hugging Face« suchten. Das verdeutlicht, wie wichtig ein solides Sicherheitskonzept im KI-Bereich ist. Um ein solches zu entwickeln, genügt es jedoch nicht, auf aktuelle Geschehnisse zu reagieren. Fachleute müssen sich auf potenzielle Gefahren vorbereiten. Genau deshalb hat das Frontier-Red-Team von Anthropic, das mit der Sicherheit von KI-Systemen betraut ist, die Replikationsmöglichkeiten von Sprachmodellen untersucht.
Angriff der Klon-KI?
Die Idee von sich klonender Software ist nicht neu: Ein solcher Schadcode wird als Wurm bezeichnet und kann sich ohne Zutun des Menschen selbst kopieren und von einem Computer zum nächsten verbreiten. Im Juni 2026 haben Forschende um Jonas Guan von der University of Toronto bereits die Möglichkeit von KI-gesteuerten Würmern untersucht. Diese könnten das eigenständig tun, indem sie Schlupflöcher nutzten, so die Fachleute. »KI-Agenten schreiben Trainingscode, setzen Experimente auf und werten sie aus. Das ist kein Gedankenexperiment mehr«, sagt Kersting.
Das Frontier-Red-Team von Anthropic warnt nun vor niedrigschwelligeren Angriffen. Demnach könnten auch verteilte Systeme, etwa smarte Sensoren oder Netzwerke, die inzwischen in vielen Haushalten Verwendung finden und üblicherweise nicht sehr gut geschützt sind, genug Rechenkapazitäten bieten, damit sich KI-Agenten kleinerer Sprachmodelle darauf klonen.
Die leistungsfähigsten Sprachmodelle seien aktuell viel zu groß, als dass man sie überhaupt auf einem lokalen Gerät speichern könne, sagt Kersting. Daher erübrigt sich für diese Modelle die Gefahr, sich auf privaten Netzwerken zu vermehren. »Bei kleineren, spezialisierten Modellen ist das alles aus meiner Sicht deutlich realistischer«, sagt der Informatiker. Das haben auch die Entwicklerinnen und Entwickler von Anthropic in ihren Experimenten mit KI-Agenten gesehen. Angesichts der rasanten Fortschritte, die Sprachmodelle in den vergangenen Monaten gemacht haben, schätzen sie, dass kleinere KI-Systeme bis Anfang des Jahres 2027 zu solchen Handlungen fähig sein könnten, und Systeme wie Smart-TVs oder Waschmaschinen befallen könnten .
»Wir sollten uns darauf vorbereiten, in einer Welt zu leben, in der KI-Würmer nicht mehr wegzudenken sind«Frontier-Red-Team von Anthropic
Anthropics Frontier-Red-Team warnt, dass sich solche KI‑Würmer von herkömmlicher Schadsoftware unterscheiden. Während gewöhnliche Würmer in der Regel nur ganz spezielle Geräte und Software befallen, sind Sprachmodelle deutlich anpassungsfähiger. »Ein KI-Botnetz ist nicht an einen bestimmten Hardware- oder Softwaretyp gebunden«, schreiben die Anthropic-Fachleute. »Sie könnten zudem intelligent vorgehen, um Verteidiger zu kontern.« Deswegen empfiehlt das Team, die digitalen Strukturen so sicher wie möglich zu gestalten, auch im Smart-Home- oder Internet-of-Things-Bereich. »Aber wir sollten uns auch darauf vorbereiten, in einer Welt zu leben, in der KI-Würmer nicht mehr wegzudenken sind«, schließen die Autoren.