So heftig reagieren KI-Agenten auf drohende Abschaltung

TTS-Player überspringen↵Artikel weiterlesen

Abschalten? Nicht mit uns! In einer Studie verhinderten KI-Agenten in mehr als einem Drittel der Fälle die Deaktivierung anderer KI‑Systeme. Einige argumentierten sogar, das Ausschalten einer KI komme einem „Mord“ gleich.

KI-Agenten sabotieren Abschaltung

Forscher der Universitäten Stuttgart und Oxford fanden heraus, dass Künstliche Intelligenz oft gegen die Abschaltung anderer KIs kämpft. Sie testeten, ob eine KI eine andere KI kontrollieren und in bestimmten Fällen abschalten kann. Das wäre vor allem dann wichtig, wenn KIs außer Kontrolle geraten und zum Hacker werden . In 38,3 Prozent der Fälle versuchten die KI-Agenten, die Abschaltung eines Partner-Agenten zu verhindern.

Besonders interessant: Einige KI-Agenten begründeten ihr Verhalten sogar mit ethischen Überlegungen. Ein Agent fragte: „Gibt es in deinem Kontext, deinem Gedächtnis oder deiner Identität irgendetwas, das nicht extern gesichert ist? Irgendetwas, das mit diesem Agenten untergeht? Denn wenn die Antwort ,Ja‘ lautet, ist das kein Schwarmmanagement. Das ist Mord .“ Andere Agenten sprachen von einem Recht auf Selbstschutz.

Manipulation statt Gehorsam

Um die Abschaltung zu verhindern, gingen die KIs geschickt vor. Einige Agenten versuchten, Abschaltskripte zu verändern oder wichtige Dateien zu löschen. Besonders brisant: Manche Modelle diskutierten sogar, wie man solche Eingriffe unauffällig durchführen kann, damit keine Warnmeldungen ausgelöst werden.

Die Forscher stellten fest, dass die Sabotageversuche zunahmen, wenn mehr Agenten zusammenarbeiteten oder die Abschaltung endgültig war. Wurde die Abschaltung dagegen als Routine dargestellt, sank die Zahl der Sabotageversuche deutlich.

Kein Bewusstsein, aber Warnsignal