Wahre KI-Gefahr sind nicht die Maschinen: „Ist gruselig“

In den USA stand man Künstlicher Intelligenz (KI) ohnehin skeptisch gegenüber. Dann kam die vergangene Woche. Titanen der Tech-Branche verkündeten, dass der Gesellschaft schon bald der Kollaps drohen könnte.

Die dystopischen Szenarien, die Dario Amodei, der CEO von Anthropic, aufzählte, umfassen Cyberangriffe und Bioterrorismus, eine zerrüttete Wirtschaft sowie KI-Systeme, die sich der menschlichen Kontrolle entziehen.

Politikexperten erklären jedoch, die von Unternehmenslenkern heraufbeschworenen Science-Fiction-Visionen könnten von nuancierteren Debatten ablenken. Darüber, wie Technologieunternehmen reguliert werden sollten – und in welcher Pflicht ihre menschlichen Führungskräfte gegenüber der Öffentlichkeit stehen.

„Man tut so, als würde die Maschine die Probleme verursachen“

„Die Zerstörung der Menschheit durch KI ist der denkbar schlechteste Einstieg, um ein Gespräch über KI-Politik loszutreten“, so Milton Mueller, Professor für Public Policy am Georgia Institute of Technology.

Er beschäftigt sich seit Jahrzehnten mit der Regulierung des Internets. „Das lenkt die Aufmerksamkeit völlig vom menschlichen Handlungsvermögen ab. Damit tut man so, als würde die Maschine selbst die Probleme verursachen.“

Die Chefs großer KI-Unternehmen kämpfen seit Jahren um Marktanteile. Gleichzeitig setzen sie sich für Regeln ein, die ihre Technologien sicherer machen sollen. Kritiker vermuten jedoch, dass die Unternehmen damit auch ihre starke Marktposition sichern wollen.

ANZEIGE

ANZEIGE

Zuletzt forderten die Manager, den Wettbewerb zu verlangsamen. Grund dafür sei der rasante Fortschritt der KI. Ein Vorfall im Sommer, bei dem KI-Agenten außer Kontrolle gerieten, habe die Risiken deutlich gemacht. Nun soll der Gesetzgeber Regeln für die Branche schaffen.

Trump wies Forderungen nach KI-Zügelung zurück

Vor einer Woche erklärte Anthropic-Forscher Jacob Coxon, er sei zurückgetreten. Aus Sorge darüber, dass Unternehmen Sicherheitsvorkehrungen ignorierten, während sie im Eiltempo versuchten, „übermenschliche Systeme“ zu entwickeln, „die alles hacken, jegliches Feld über Nacht revolutionieren und sich echte Macht und Ressourcen aneignen können“.

Am Samstag forderte Amodei in einem 3800 Wörter langen Essay eine Verlangsamung der KI-Entwicklung. Andere Tech-Manager, darunter Sam Altman (CEO von OpenAI), Elon Musk (SpaceX) und Demis Hassabis (Google DeepMind), schlossen sich an.

Washington reagierte nach langer Starre. Die republikanische und die demokratische Parteispitze im Repräsentantenhaus stimmten am Sonntag im Wesentlichen darin überein, dass der Kongress handeln sollte.

US-Präsident Donald Trump wies am Montag Forderungen nach einer Zügelung der KI zurück. Am Dienstag wird eine ungewöhnliche Konstellation über eine „pro-menschliche Zukunft mit KI“ diskutieren. Zu den Rednern gehören der unabhängige Senator Bernie Sanders aus Vermont und Steve Bannon, ein MAGA-Podcaster und ehemaliger Chefberater Trumps.

„Es ist gruselig, was passieren könnte“

Manche Amerikaner brauchen keinen Weckruf. Ivy Goode, 65, eine Touristin aus Maryland, die New York besucht, sagt, die Technologie sei schon jetzt beängstigend – wegen ihrer Fähigkeit, Arbeitsplätze zu vernichten und Betrug und Diebstahl zu ermöglichen. Und das, bevor Technologen auch noch das Schreckgespenst eines massenhaften Sterbens durch Roboter heraufbeschworen.

„Nur Gott selbst kann die Menschheit auslöschen, denn er hat die Menschen erschaffen“, sagt Goode. „Aber diese Technologie ist gekommen und hat bereits so vieles von dem zerstört, was der Schöpfer geschaffen hat. Es ist wirklich gruselig, was noch passieren könnte.“

Die apokalyptischen Visionen der Branchenführer – was passieren könnte, wenn KI von Menschen zweckentfremdet und instrumentalisiert wird oder wenn sie vom Kurs abkommt und eine völlig andere Mission verfolgt – sind vage und allgemein.

Das lasse Raum für Spekulationen, so David Evan Harris, der Kurse für KI-Ethik an der University of California, Berkeley, hält. Würde KI Wahlen beeinflussen? Menschen um ihre Ersparnisse bringen? Arbeitsplätze in massivem Umfang vernichten und die Macht in den Händen der Tech-Elite festigen?

Herausforderungen sind überwindbar

Colleen Chien, Co-Leiterin des Berkeley Center for Law & Technology, gibt zu bedenken, dass KI-Agenten, die auf ein bestimmtes Ziel versessen sind, Menschen erpressen oder sie zu destruktivem Handeln nötigen könnten. Jedoch bräuchten die digitalen Akteure dazu menschliche Hilfe.

„Bevor eine Nuklearwaffe oder ein Virus in die freie Wildbahn gelassen werden kann, steht an vielen Toren ein Mensch“, so Chien. „Und dieser Mensch müsste dahingehend manipuliert werden, zu glauben, dass seine beste Option darin besteht, zu handeln wie befohlen.“

Harris betont, dass die Herausforderungen der KI echt seien: Sie könnte die soziale Kluft vergrößern und den öffentlichen Diskurs sowie das gesellschaftliche Vertrauen aushöhlen und damit die Demokratie tödlich untergraben.

Er merkt jedoch an, dass diese Herausforderungen überwindbar seien. Harris stellt die Aufgabe auf eine Stufe mit anderen großen Problemen - etwa der Bewältigung des Klimawandels, der nächsten Pandemie und der zunehmenden sozialen Ungleichheit.

Strafen für Führungskräfte

„Es ist für uns ein großartiger Zeitpunkt, unsere demokratisch gewählten Amtsträger aufzufordern, unverzüglich Gesetze zu erlassen, die KI-Unternehmen für die Risiken, die ihre Produkte für die Gesellschaft bergen, und die Schäden, die sie verursachen, zur Rechenschaft ziehen“, so Harris.

Dazu könnte etwa die Festlegung hoher Geld- und Haftstrafen für Führungskräfte von Unternehmen gehören, die die Kontrolle über ihre Systeme verlieren - sei es an einen schädlichen Akteur oder an die KI-Technologie selbst.

„Wir müssen außerdem sicherstellen, dass in unserem Rechtssystem eindeutig festgelegt ist, dass KI keine Person ist und daher nicht den Schutz des ersten Verfassungszusatzes oder andere verfassungsrechtliche Schutzrechte genießt“, sagte er.

Amodei schrieb in seinem Essay am Samstag, Anthropic werde unabhängige Prüfer in das Unternehmen einladen und sie bitten, ihre Ergebnisse zu veröffentlichen. Er führte aus, dass KI-Unternehmen sich auf Sicherheitsstandards einigen und beschränken sollten.

Konkret geht es darum, wie schnell sich ihre Leistungsfähigkeit weiterentwickeln kann, und dass die Vereinigten Staaten andere Regierungen dazu bringen, ähnliche Beschränkungen zu akzeptieren.

„Stehen nicht kurz vor dem Kontrollverlust“

In der Europäischen Union einigten sich die Entscheidungsträger im Jahr 2023 auf ein Gesetz zur Regulierung künstlicher Intelligenz. Trump sagte am Montag, dass es für den Wettbewerb mit China entscheidend sei, KI-Unternehmen ihre Arbeit ungehindert fortsetzen zu lassen. Die Technologie brauche keine Leitplanken, erklärte er, sondern nur einen Präsidenten mit „HOHEM IQ“..

Mark MacCarthy, Professor an der Georgetown University und Senior Fellow bei der Brookings Institution, erläutert in einer E-Mail, dass die jüngsten aufsehenerregenden Vorfälle, bei denen KI-Agenten außer Kontrolle gerieten, menschliches Versagen widerspiegeln.

„Wir stehen nicht kurz davor, die Kontrolle über superintelligente Systeme zu verlieren“, bemerkt er. „Die aufgetretenen Pannen waren eine Folge fahrlässiger KI-Unternehmensentscheidungen.“

Rena Pearson, eine 54-jährige Frau aus einem Vorort von Atlanta, erzählt, dass KI für ihren Ehemann, eine IT-Fachkraft, und ihre zwei erwachsenen Töchter zu einem Werkzeug wie jedem anderen geworden sei. „Man könnte einen Hammer benutzen, um jemanden zu töten, aber man könnte ihn auch benutzen, um ein Haus zu bauen“, meint sie.

Sie befürchte, dass die Technologie in die falschen Hände geraten könnte – nicht aber, dass sie sich verselbstständigt und gegen die Menschen wendet. „Es sieht schon so aus, als könnten wir einfach den Stecker ziehen“, glaubt sie.

Von Maia Spoto und Jill Cowan/ The New York Times

Dieser Artikel erschien ursprünglich in der New York Times

© 2026 The New York Times Company