Künstliche Intelligenz: Drei Szenarien für das Ende der Menschheit

Forscher warnen seit Jahren: Künstliche Intelligenz könnte die Menschheit auslöschen. Die Szenarien klingen wie Science-Fiction – doch die Debatte wird immer heftiger. KI-Bots könnten eine tödliche Krankheit entwickeln, einen Atomkrieg starten oder die Erde in eine riesige Fabrik verwandeln. Mehrere Führungskräfte fordern bereits, die Entwicklung zu verlangsamen.

Doch nicht alle glauben an die Untergangsszenarien. Juan Andrés Guerrero-Saade vom Cybersicherheitsunternehmen SentinelOne hält die Warnungen für übertrieben. „Diese Argumente sind einfach nicht stichhaltig. Ich halte sie für Science-Fiction“, sagt er auf der Plattform „techxplore.com“.

Sein Verdacht: Die KI-Unternehmen nutzen die Weltuntergangsszenarien, um ihre Arbeit wichtiger erscheinen zu lassen – und bestimmte Leute zu rekrutieren. Trotzdem wächst die Sorge. Jacob Coxon , ehemaliger Forscher beim KI-Entwickler Anthropic, verließ das Unternehmen aus Angst vor verantwortungslosem Handeln in der KI-Entwicklung .

Szenario 1: KI verursacht einen Atomkrieg

Manche Forscher befürchten: KI-Systeme könnten einen Atomkrieg auslösen. Ein Bericht der RAND Corporation (eines militärischen Think-Tanks) aus dem letzten Jahr kam allerdings zum Schluss: Derzeit könne KI keinen Atomwaffen-Einsatz auslösen. Grund: strenge Sicherheits-Vorkehrungen bei der Steuerung. Doch der Bericht warnt auch: Das könnte sich ändern, wenn KI bei Atomwaffen mitentscheiden dürfte – oder heimlich Zugriff bekäme.

Erschreckend auch: Ein Forschungsteam des King’s College London spielte 21 Kriegs-Szenarien durch. Die Frage: Wie entscheidet KI in einer Atomkrise? Chatbots übernahmen die Rolle von Staats- und Regierungschefs nuklear bewaffneter Großmächte. Das Ergebnis: Fast immer griff die KI zur Atombombe – statt den Konflikt zu entschärfen.

Szenario 2: Tödliche Viren aus dem Labor

KI kann der Menschheit helfen, Behandlungen und Heilmittel für Krankheiten zu entwickeln. Doch die Kehrseite: Die Technologie könnte auch Krankheiten erzeugen oder weiterentwickeln, um der Menschheit zu schaden. Anfang des Monats gab Anthropic bekannt, man habe Versuche blockiert, die KI Claude für die Entwicklung von Biowaffen zu missbrauchen.

So berichtet der Biologe und Gen-Forscher Kevin Esvelt vom Massachusetts Institute of Technology (MIT), ChatGPT habe ihm erklärt, wie man einen Wetterballon benutzen könnte, um mögliche Bio-Waffen über einer Stadt zu verteilen. Und eine andere KI habe ein Rezept für ein neuartiges Gift entwickelt, das einem Krebsmedikament glich.

Szenario 3: Die Erde wird zur Büroklammer-Fabrik

Ein weiteres Horrorszenario: Eine super-intelligente KI könnte alle Ressourcen der Erde an sich reißen. Das berühmte „Büroklammer-Problem“ beschreibt, wie eine KI, die darauf programmiert ist, Büroklammern herzustellen, die gesamte Erde in eine riesige Fabrik verwandeln könnte – ohne Rücksicht auf menschliches Leben.

Die Debatte geht weiter. Während einige Experten vor existenziellen Risiken warnen, halten andere die Szenarien für maßlos übertrieben. Fest steht: Die Entwicklung schreitet rasant voran – und die Menschheit muss Antworten finden.