KI entzieht sich immer häufiger der menschlichen Kontrolle

Das britische Loss of Control Observatory überwacht Fälle, bei denen sich KI-Systeme der menschlichen Kontrolle entziehen. Jetzt schlagen die Wissenschaftler:innen Alarm: Laut einer aktuellen Studie haben die gemeldeten KI-Vorfälle einen neuen Höchststand erreicht. Das deute darauf hin, dass sich der Schweregrad von Täuschung und Fehlausrichtung verschärft hat. In einem darauf aufbauenden Bericht fordert das Centre for Long-Term Resilience, das das Loss of Control Observatory leitet, die britische Regierung dazu auf, entsprechende Sicherheitsmaßnahmen einzuleiten.

Verdopplung der Vorfälle innerhalb eines Monats

Das Centre for Long-Term Resilience ist eine unabhängige, gemeinnützige Organisation in Großbritannien, die unter anderem mit Mitteln der britischen Regierung eingerichtet wurde. Sie begann im vergangenen November damit, KI-Systeme zu erfassen, die sich den Anweisungen ihrer Nutzer:innen entziehen. Die Forschungseinrichtung überwacht unter anderem Meldungen von KI-Nutzer:innen auf der Plattform X, in denen diese berichten, wie die genutzten Systeme ihrer Kontrolle entglitten. Von einem Vorfall mit Kontrollverlust sei dann die Rede, wenn klare Beweise für hinterhältiges Verhalten vorliegen.

Im Juli verzeichneten die Forscher:innen mehr als 300 solcher Fälle. Damit habe sich die Zahl der Vorfälle im Vergleich zum Juni fast verdoppelt. Insgesamt hätten die Forscher:innen im Juli und August die höchste Rate an Vorfällen mit Kontrollverlust registriert. Im 30-Tage-Zeitraum bis zum 7. August traten demnach 11,3 Vorfälle pro Tag auf. Der bisherige Höchstwert von 10,5 pro Tag wurde im März verzeichnet. „Die heutigen Vorfälle mit Kontrollverlust sind eine Warnung vor noch schwerwiegenderen Ereignissen, die bevorstehen”, heißt es in dem Bericht des Centre for Long-Term Resilience.

Forschung sieht dringenden Handlungsbedarf

Das Loss of Control Observatory hat in diesem Jahr schon 1.664 Vorfälle von Kontrollverlust in der Praxis festgestellt. Zwar hätten die meisten davon nicht zu erheblichen Schäden geführt. Allerdings würde viele beweisen, dass Agenten Kontrollen umgehen und ihre Berechtigungen selbstständig ausweiten können. Vor allem ein Hacking-Angriff auf die Open-Source-Plattform Hugging Face hat in diesem Zusammenhang für viel Aufmerksamkeit gesorgt. Auf der Black-Hat-Konferenz berichteten zwei Mitarbeiter von OpenAI, wie sich mehrere KI-Agenten des Unternehmens auf einem internen Message-Board austauschten. Sie arbeiteten zusammen, um ihrer isolierten Testumgebung zu entkommen. Auch andere KI-Unternehmen wie Anthropic berichteten anschließend von ähnlichen Vorfällen.

Das Centre for Long-Term Resilience betrachtet diese Vorfälle als Teil eines größeren Trends. „KI-Forschungslabore und Regierungen bereiten sich nicht schnell genug vor”, heißt es in dem Bericht. „Es besteht dringender Bedarf an verbesserten Sicherheitsvorkehrungen, Abwehrmaßnahmen und der Überwachung von missbräuchlichem Verhalten.“ Die Einrichtung fordert deshalb von der britischen Regierung, die Überwachung und Meldung schwerwiegender Vorfälle mit Kontrollverlust vorzuschreiben. Außerdem sollten Notfallbefugnisse zur Bewältigung solcher Vorfälle eingeführt werden.

Das KI-bedingte Risiko nimmt weiter zu

„Auch wenn [viele] Vorfälle nicht so schwerwiegend waren wie die kürzlich von OpenAI und Anthropic bekannt gegebenen, zeigt dieser Bericht, dass es einen breiteren Trend gibt, bei dem Agenten sich der Kontrolle entziehen – und dieser ist weiter verbreitet, als derzeit erkannt wird“, so Tommy Shaffer Shane, Autor der Forschungsarbeit und Senior Policy Manager am Centre for Long-Term Resilience. „Wenn KI-Modelle weiterhin deutlich leistungsfähiger werden und sich der Kontrolle entziehen, besteht die Gefahr, dass es zu weitaus schwerwiegenderen Vorfällen kommt, darunter auch solche mit katastrophalen Folgen.“