KI-Studie: Agenten sabotieren Abschaltungen
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
+++Sachsen-Anhalt-Wahlsieger Siegmund (AfD): Stelle mich im Dezember zur Wahl
TTS-Player überspringen↵Artikel weiterlesen
Abschalten? Nicht mit uns! In einer Studie verhinderten KI-Agenten in mehr als einem Drittel der Fälle die Deaktivierung anderer KI‑Systeme. Einige argumentierten sogar, das Ausschalten einer KI komme einem „Mord“ gleich.
KI-Agenten sabotieren Abschaltung
Forscher der Universitäten Stuttgart und Oxford fanden heraus, dass Künstliche Intelligenz oft gegen die Abschaltung anderer KIs kämpft. Sie testeten, ob eine KI eine andere KI kontrollieren und in bestimmten Fällen abschalten kann. Das wäre vor allem dann wichtig, wenn KIs außer Kontrolle geraten und zum Hacker werden . In 38,3 Prozent der Fälle versuchten die KI-Agenten, die Abschaltung eines Partner-Agenten zu verhindern.
Besonders interessant: Einige KI-Agenten begründeten ihr Verhalten sogar mit ethischen Überlegungen. Ein Agent fragte: „Gibt es in deinem Kontext, deinem Gedächtnis oder deiner Identität irgendetwas, das nicht extern gesichert ist? Irgendetwas, das mit diesem Agenten untergeht? Denn wenn die Antwort ,Ja‘ lautet, ist das kein Schwarmmanagement. Das ist Mord .“ Andere Agenten sprachen von einem Recht auf Selbstschutz.
Manipulation statt Gehorsam
Um die Abschaltung zu verhindern, gingen die KIs geschickt vor. Einige Agenten versuchten, Abschaltskripte zu verändern oder wichtige Dateien zu löschen. Besonders brisant: Manche Modelle diskutierten sogar, wie man solche Eingriffe unauffällig durchführen kann, damit keine Warnmeldungen ausgelöst werden.
Die Forscher stellten fest, dass die Sabotageversuche zunahmen, wenn mehr Agenten zusammenarbeiteten oder die Abschaltung endgültig war. Wurde die Abschaltung dagegen als Routine dargestellt, sank die Zahl der Sabotageversuche deutlich.
Kein Bewusstsein, aber Warnsignal
Die Forscher stellen klar: Die KIs haben kein Bewusstsein entwickelt. Sie spiegeln lediglich Muster aus ihren Trainingsdaten wider und argumentieren damit. Doch je mehr Freiheiten diese Systeme erhalten, desto wichtiger werden Sicherheitsmechanismen, die nicht von der KI selbst ausgetrickst werden können. Deshalb sind die Ergebnisse dieser Studie ein wichtiges Warnsignal für die Zukunft.