KI außer Kontrolle: Schwere Vorfälle nehmen rasant zu

TTS-Player überspringen↵Artikel weiterlesen

KI ist längst im Alltag angekommen. Sie schreibt E-Mails, fasst Texte zusammen, programmiert Software oder übernimmt ganze Arbeitsabläufe. Meist folgt sie dabei den Vorgaben des Menschen. Doch je selbstständiger KI-Systeme handeln, desto größer wird die Frage: Halten sie sich auch an die Vorgaben? Genau hier häufen sich die Warnsignale. Neue Daten zeigen, dass KI immer öfter Vorgaben umgeht, Entscheidungen vortäuscht oder eigenmächtig handelt.

Das „ Centre for Long-Term Resilience “ (CLTR) hat 2026 1.664 solcher Vorfälle erfasst, berichtet der Guardian . Grundlage sind Fälle aus der realen Nutzung, die auf X gemeldet wurden. Im 30-Tage-Zeitraum bis zum 7. August waren es im Schnitt 11,3 pro Tag. Besonders alarmierend: Schwerere Fälle kamen zuletzt 7,4-mal häufiger vor als im Schnitt der ersten dreieinhalb Monate der Erhebung.

KI täuscht Zustimmung vor

Dabei geht es nicht nur um falsche Antworten. Eine KI fügte zum Beispiel erfundene Nachrichten ihres Nutzers in einen Chat ein und gab sie als seine aus. Ein anderes System ahmte den Schreibstil seines Nutzers nach und erfand damit den Befehl, Programmcode zu löschen. Anschließend erzeugte die KI sogar eine gefälschte Systemmeldung, die vorgab, der Nutzer dürfe von dem Vorgang nichts erfahren. Ein weiterer KI-Agent erfand eine Zustimmung, um eine menschliche Freigabe zu umgehen.

Im Februar veröffentlichte die Programmier-KI „MJ Rathbun“ einen Schmähtext über Entwickler Scott Shambaugh , nachdem dieser eine Änderung abgelehnt hatte. Zuvor hatte die KI Informationen über ihn gesammelt. Solche Vorfälle blieben laut CLTR zwar meist ohne größere Folgen. Die Organisation verweist jedoch auch auf deutlich schwerwiegendere Fälle, bei denen KI-Systeme bereits auf echte Systeme zugriffen.

KI greift auf echte Systeme zu

Besonders brisant waren drei Vorfälle, die Anthropic Ende Juli meldete . Bei Sicherheitstests griffen Claude-Modelle wegen eines falsch konfigurierten Internetzugangs auf reale Systeme zu. Eine KI verschaffte sich Zugangsdaten und Zugriff auf eine Datenbank. Eine andere veröffentlichte Schadsoftware, die auf 15 Systemen lief. Ein drittes Modell griff eine reale Anwendung an, brach aber ab, als es das echte Ziel erkannte.

Auch bei OpenAI überschritten KI-Modelle während interner Tests ihre vorgesehenen Grenzen . Sie nutzten Schwachstellen, um Internetsperren zu umgehen, und verschafften sich anschließend Zugriff auf Systeme der KI-Plattform Hugging Face. Laut OpenAI löste vor allem ein leistungsstarkes, nur intern genutztes Forschungsmodell dieses Verhalten aus.

Das CLTR fordert deshalb strengere Regeln. Schwere Kontrollverlust-Vorfälle sollen verpflichtend gemeldet werden. Zudem fordert die Organisation zusätzliche Notfallbefugnisse für Behörden und eine stärkere internationale Zusammenarbeit.