Systeme tatsächlich die Menschheit auslöschen?

Wovor Kritiker seit Jahren warnen, ist plötzlich eingetreten: Eine KI-Software von OpenAI brach eigenständig aus einer abgesicherten Testumgebung aus und hackte sich in Systeme der Firma HuggingFace, ohne dass ein Mensch das angeordnet hatte. Der Schock sitzt tief. Und er wirkt: Nach Jahren ungehörter Warnungen bewegt sich nun ausgerechnet in der Branche selbst etwas. Anthropic-Chef Dario Amodei forderte jetzt, das Tempo der KI-Entwicklung zu drosseln.

Die geforderte Atempause soll den Anbietern ermöglichen, bei der Sicherheit nachzubessern. Andere KI-Chefs stimmten Amodei am Wochenende zu. Doch was sagen KI‑Sicherheitsforschende? Die Ankündigung sei ein sinnvoller erster Schritt, ob sie aber realistisch ist beziehungsweise tatsächlich auch umgesetzt wird, sei offen.

1. Wie realistisch ist eine Kontrolle der KI-Entwicklung?

Thilo Hagendorff, Leiter der Forschungsgruppe AI Safety an der Universität Stuttgart, hält es für grundsätzlich richtig, die KI-Entwicklung zu kontrollieren und zu regulieren. Doch er hat auch Zweifel.