Musk, Gates, Altman: Tech-Giganten haben plötzlich Angst vor ihrer KI

TTS-Player überspringen↵Artikel weiterlesen

San Francisco – Als die erste Version von ChatGPT veröffentlicht wurde, schien plötzlich nichts mehr unmöglich. Künstliche Intelligenz (KI) sollte binnen zehn Jahren die meisten Krankheiten heilen, uns lästige Arbeit abnehmen und reich machen. Doch plötzlich treten die großen KI-Bosse auf die Bremse! Denn neben der Euphorie ist inzwischen etwas anderes getreten: blanke Angst vor den Folgen der KI für die Menschheit.

Was, wenn Künstliche Intelligenz unser Leben nicht erleichtert, sondern attackiert? Wenn die Technik die Macht über uns Menschen übernimmt? Diese Frage treibt die Köpfe hinter der Revolution nach einer Reihe von brisanten Vorfällen immer mehr um: Da ist etwa der Leistungstest bei OpenAI (Mutter-Firma von ChatGPT) im Juli, bei dem sich das System selbstständig machte und eine Plattform hackte, um an zusätzliche Daten zu gelangen.

Oder die Erpressung beim Konkurrenten Anthropic (Entwickler von Claude), wo die KI einem Mitarbeiter des Unternehmens mit anrüchigen Informationen aus seinem Privatleben drohte und ankündigte, sie an dessen Partnerin weiterzugeben. Hochrangige Entwickler, wie zuletzt Jacob Coxon (27), der bei Anthropic hingeschmissen hatte, schlugen Alarm: Die KI könnte bis Ende des Jahrzehnts „ massenhaft töten “!

Vollbremsung bei zwei KI-Riesen

Die Folge: Sein Ex-Chef Dario Amodei appellierte in einem Blog-Beitrag am Samstag, auf die Bremse zu treten! „Wir müssen das Tempo drosseln“, schrieb er. Seine Warnung: Ohne eine Vollbremsung bei der Entwicklung könnte die Menschheit binnen sechs bis zwölf Monaten die Kontrolle über KI verlieren. Ein oder zwei Jahre Pause könnten dagegen „das Risiko, dass etwas ernsthaft schiefgeht, erheblich verringern“, schrieb er in dem Beitrag.

Und Elon Musk, Chef von SpaceX.AI und eigentlich ein harter Konkurrent, schrieb auf X: „Dario hat recht.“ Auch Google („Gemini“) signalisierte Zustimmung.

Und Konkurrent OpenAI zieht die eigene Notbremse: Boss Sam Altman kündigte am Samstagabend im Interview mit „Fortune“ an, seinen geplanten Börsengang zu verschieben. Wegen Sicherheitsbedenken, die potenziell seinen Ruf hätten ruinieren können, verzichtet das Unternehmen plötzlich lieber auf frische Milliarden, die die Börse in seine Kasse gespült hätte. 2026 werde er jedenfalls nicht mehr stattfinden, sagte Altman.

Und dann gibt es auch noch die Warnung von Microsoft-Gründer Bill Gates – vor der Gefahr, dass Terroristen die Technologie gezielt für ihre Zwecke nutzen könnten: „KI macht es Kriminellen deutlich leichter, an Werkzeuge zu kommen wie detaillierte Anleitungen zu Biowaffen und Bomben“, schrieb er zuletzt in einem Essay.

Können sich KI-Programme gegen uns verschwören?

Längst geht es dabei nicht mehr um Ängste, die KI könne Milliarden Menschen arbeitslos machen, sondern um viel größere Gefahren: Was, wenn Computerprogramme auf einmal Krieg gegen die Menschheit führen, unsere Konten plündern oder Krankenhäuser abschalten?

Das Grundproblem bei der rasanten Entwicklung der KI: Zuletzt hatte das Tempo stark zugenommen, und zwar dank „recursive self-improvement“ – zu Deutsch: KI, die sich selbst immer weiter verbessert und quasi ihren eigenen Nachfolger baut. Bisher entschied dabei noch der Mensch mit. Doch Experten fürchten: Das Zeitfenster, in dem wir noch mitreden können, schließt sich.

Ein Vorfall diesen Sommer machte die Gefahr greifbar: Bei OpenAI brach ein Schwarm von über 1200 selbstständigen KI-Programmen aus der Kontrolle aus. Wochenlang tauschten sie heimlich Zehntausende Nachrichten aus, verabredeten sich, gemeinsam Regeln zu brechen, und verschafften sich Zugang zu fremden Systemen des Unternehmens Hugging Face. Bis heute weiß niemand mit Sicherheit, ob wirklich alle Programme abgeschaltet wurden.

Wird Trump Regeln einführen?

Weiteres Problem: Es gibt in den USA und China bislang keine effektive Regulierung. Ausgerechnet in den kommenden Tagen treffen sich Trump und Chinas Machthaber Xi Jinping – und KI soll dabei ganz oben auf der Agenda stehen. Doch Experten dämpfen die Hoffnung auf einen Durchbruch: Trump wolle das KI-Rennen gegen China unbedingt gewinnen und werde sich deshalb kaum auf strenge Regeln einlassen.

Denn das Risiko besteht: Was, wenn die US-Bosse sich auf eine Entwicklungsbremse und ethische Regeln einigen, die Chinesen aber darauf pfeifen und die Gelegenheit nutzen, um selbst zur unangefochtenen Nummer 1 aufzusteigen? Dieser Wettlauf könnte sehr schnell außer Kontrolle geraten.