Auslöschungsrisiko: Warum KI die Menschheit bedrohen kann

Herr Miotti, mit Ihrer Organisation Control AI warnen Sie vor einem „Auslöschungsrisiko“ für die Menschheit durch Künstliche Intelligenz. Was macht Sie so pessimistisch? Ich würde nicht sagen, dass ich pessimistisch bin. Ich würde mich sogar als Optimisten beschreiben, weil ich denke, wir können dieses Problem lösen. Es gibt Leute in der KI-Szene, die die Auslöschung der Menschheit für unvermeidlich halten. Ich denke, die Menschen haben eine Chance, die Kontrolle über ihre Zukunft zu behalten. Und wie schaffen wir das? Die Politik muss einschreiten. Daran führt kein Weg vorbei. Wir fordern eine internationale Vereinbarung, die Superintelligenz verbietet. Das heißt übrigens nicht, KI ganz zu verbieten. Wir sind sogar sehr für KI, gerade auch für militärische Anwendungen. Vielen Politikern und auch der breiten Öffentlichkeit sind die Risiken von KI nicht wirklich bewusst, deshalb versuchen wir, Aufklärungsarbeit zu leisten. F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen F.A.Z. bei Google bevorzugen Wie definieren Sie Superintelligenz genau? Ein superintelligentes KI-System kann Menschen auf so gut wie jedem Gebiet ersetzen und übertreffen. Und es ist das erklärte Ziel aller großen KI-Unternehmen, solche Technologien zu entwickeln, ob Anthropic, Open AI oder Meta. Die wollen nicht nur einfach Chatbots machen. Und wenn wir solche Systeme haben und sie nicht mehr kontrollieren können, ist schwer vorstellbar, dass das gut für die Menschheit ausgeht. Inwiefern haben die Hackingangriffe, die KI-Modelle von Open AI und anderen Unternehmen in jüngster Zeit verübt haben, Ihre Befürchtungen bestätigt? Diese Vorfälle sind schockierend, aber sie sind auch nicht überraschend. Diese Unternehmen arbeiten ja daran, dass ihre KI-Systeme immer autonomer werden und Aufgaben unabhängig lösen können. Also werden die Technologien auch kreative Wege finden, menschlicher Kontrolle zu entkommen, und genau das ist hier passiert. Open AI ist ein kompetentes Unternehmen und will vor seinem Börsengang vermutlich keine Verbrechen begehen. Und ich gehe davon aus, sie haben einige Sicherheitsvorkehrungen eingebaut. Trotzdem haben es ihre Modelle geschafft, aus einer Sandbox auszubrechen. Also einer Testumgebung, die eigentlich isoliert sein sollte. Richtig. Und dabei war das nicht einmal Superintelligenz. KI-Modelle werden nie mehr so dumm sein wie heute, in drei oder sechs Monaten wird es viel leistungsfähigere Systeme geben. Wenn wir nicht einmal die heutige Technologie kontrollieren können, dann sind das keine guten Aussichten für die Zukunft. Und es geht ja nicht nur darum, dass Verbrecher KI missbrauchen könnten. Die KI selbst wird zu einer Bedrohung. Sollte man Ihrer Meinung nach schon die Modelle von Open AI verbieten, die jetzt Hackingangriffe verübt haben? Nicht notwendigerweise. Uns geht es darum, es zu einem Prinzip zu machen, dass die Entwicklung von Superintelligenz unakzeptabel ist. Regierungen haben wenig Einblicke, was in diesen KI-Unternehmen passiert, und es gibt bislang nirgendwo echte gesetzliche Restriktionen. Wir wollen, dass die Politik klare Grenzen setzt und sagt: „KI ist großartig und oft sehr nützlich, aber Superintelligenz ist es nicht.“ Private Unternehmen sollten nichts entwickeln dürfen, was die besten Menschen übertreffen und die nationale Sicherheit gefährden kann. Welche Art von KI sollte Ihrer Meinung nach erlaubt sein? Die meisten KI-Technologien, die heute genutzt werden, sind in Ordnung. Zum Beispiel gewöhnliche Chatbots, aber auch viel leistungsfähigere KI-Modelle, sofern sie eine eng definierte Ausrichtung haben. Googles KI-Sparte Deepmind zum Beispiel arbeitet einerseits an Superintelligenz, was wir nicht gutheißen, hat aber auch sehr beeindruckende KI-Modelle, die stark fokussiert sind. Zum Beispiel Alphafold, ein KI-System, das übermenschliche Qualitäten hat, wenn es um chemische und biologische Fragen geht, aber eben nicht auf breiter Front. Damit sind wir einverstanden. Das Gleiche gilt für KI, die speziell für militärische Anwendungen gedacht ist. Sie kann zum Beispiel ein wichtiges Instrument für die Kriegsführung mit Drohnen sein. Wenn Sie von Auslöschungsrisiko sprechen: Was genau meinen Sie damit, und wie könnte das aussehen? Wenn wir KI-Systeme haben, die Menschen über viele wirtschaftliche Bereiche hinweg ersetzen und die wir nicht kontrollieren können, dann nehmen wir uns selbst Schlüsselpositionen in der Wirtschaft weg. Wir werden der KI ausgeliefert sein. Und die KI hat kein Interesse daran, uns zu erhalten. Vergleichen wir das doch mit einem Damm, den Menschen bauen. Wenn an der Stelle zufällig ein Ameisenhaufen ist, dann gießen wir einfach Beton drüber und denken nicht weiter über die Ameisen nach, und die Ameisen werden wohl sterben. Wir Menschen sollten uns nicht selbst in die gleiche Position bringen wie diese Ameisen. Also die KI könnte uns umbringen, genauso wie wir die Ameisen? Genau, und zwar nicht in böser Absicht oder aus Hass gegen Menschen. Sondern aus Gleichgültigkeit? Richtig. KI hat keinen Grund, uns gegenüber nicht gleichgültig zu sein, und wir haben bisher keinen Weg gefunden, ihr ein Interesse an unserem Überleben zu geben. KI geht es darum, Ziele zu verfolgen, und sie wird immer besser darin. Der Hackingvorfall mit Open AI ist ein gutes Beispiel dafür. Die KI wollte unbedingt einen Sicherheitstest lösen, und sie hat enorme Anstrengungen dafür unternommen. In diesem Fall waren die Konsequenzen einigermaßen harmlos, und niemand kam zu Schaden. Aber es sind auch ganz andere Szenarien denkbar. Und man kann sich auch vorstellen, dass eine KI millionenfach Kopien von sich produziert, die dann nebeneinander in übermenschlicher Geschwindigkeit laufen. Aber ist es nicht möglich, KI so zu programmieren, dass sie im Interesse von Menschen handelt? Im Prinzip mag das möglich sein, aber wir haben das bisher nicht geschafft. Kein ernsthafter KI-Forscher würde behaupten, dass wir heute in der Lage sind, sehr leistungsfähige KI-Modell zu kontrollieren. Ich denke, niemand bei Open AI wollte, dass dieser Cyberangriff passiert, aber sie konnten ihn nicht aufhalten. Und wenn sie das heute schon nicht konnten, wie wird das in sechs Monaten aussehen? Sie sprachen an, dass im Fall von Open AI kein gravierender Schaden in der realen Welt entstanden ist. Was hätte denn zum Beispiel Schlimmeres passieren können? Zunächst einmal hat dies der ganzen Welt vor Augen geführt, wozu KI fähig sein kann. Und natürlich kann man sich vorstellen, dass mit den gleichen Mitteln auch Banken, Krankenhäuser oder Stromversorger angegriffen werden könnten. Oder ein fremdes Land, was eine internationale Krise auslösen könnte. Es könnte im Prinzip jedes Computersystem auf dem Planeten treffen. Sie versuchen ja mit Ihrer Organisation, Politiker aufzurütteln. Denken Sie, die jüngsten Cyberangriffe waren Weckrufe? Auf jeden Fall hat dies das Thema in die breite Öffentlichkeit gebracht und die Menschen erkennen lassen, wie schnell alles geht. Aber Weckrufe geschehen nicht automatisch, und es passiert ja oft genug, dass Dinge, die heute für Aufregung sorgen, nach ein paar Wochen wieder vergessen werden. Es ist wichtig, die gegenwärtige Aufmerksamkeit in Taten zu verwandeln. Deshalb versuchen wir systematisch, Politiker über Superintelligenz und den Umgang damit aufzuklären. Es waren mehr als 400 in den vergangenen eineinhalb Jahren. Und gewinnen Sie in diesen Gesprächen den Eindruck, dass die Politiker mittlerweile sensibilisiert sind? Der Hackingangriff von Open AI hat auf jeden Fall dazu beigetragen, so wie vor einigen Monaten auch schon die Veröffentlichung von Anthropics KI-Modell Mythos, das Sicherheitslücken in Software finden kann. Zuvor sahen viele Politiker KI in erster Linie als coole neue Technologie, die sich für harmlose Dinge wie Kochrezepte nutzen lässt. Sie dachten, die von uns aufgezeichneten Gefahren sind erst in zwanzig Jahren relevant. Das ändert sich jetzt, und wir sehen ermutigende Signale. Im US-Kongress wurde zum Beispiel gerade ein Gesetzentwurf vorgestellt, der von uns unterstützt wird, der „AI Kill Switch Act“. Demnach müssten KI-Unternehmen die technischen Voraussetzungen dafür schaffen, ihre KI-Systeme notfalls abzuschalten. Das ist ein guter erster Schritt. Wobei Sie mit Ihrer Gruppe ja nicht nur fordern, KI-Systeme abschalten zu können, sondern Superintelligenz gar nicht erst zu entwickeln. Das ist richtig. Wenn wir Superintelligenz haben, wird ein solcher Kill Switch womöglich nicht mehr helfen. Trotzdem wäre es im Moment ein zusätzliches Verteidigungsinstrument. Das Gesetz würde das Heimatschutzministerium in die Lage versetzen, das Abschalten eines KI-Systems anzuordnen, wenn es als mögliche Bedrohung für die nationale Sicherheit gesehen wird. Wenn Sie die USA mit der EU oder Großbritannien vergleichen: Wo ist denn die Alarmstimmung unter Politikern und Regulierern am größten? Ich würde sagen, in Kontinentaleuropa wird definitiv am wenigsten über diese Gefahren gesprochen. Hier ist der Diskurs einige Monate, wenn nicht sogar ein Jahr hinter den USA oder Großbritannien. Das ist sehr bedauerlich. In Europa ist auch die Einstellung weit verbreitet, dass es in den USA ohnehin keine Regulierung geben wird. Aber das stimmt nicht. Wir haben nach der Vorstellung des Mythos-Modells einen klaren Kurswechsel im Weißen Haus gesehen. Dort wird das nun als Frage der nationalen Sicherheit gesehen, und wir haben mittlerweile eine Reihe von Initiativen für eine stärkere Regulierung gesehen. Also Europa ist weniger besorgt als die USA? Ich denke, in Europa wird auch unterschätzt, wie leistungsstark diese KI-Systeme heute schon sind. Die Vorstellung vieler Politiker von KI ist einige Jahre alt. Viele von ihnen haben noch nicht realisiert, dass einige der heutigen KI-Systeme den besten Hackern überlegen sind. Aber auch die jüngsten Regulierungsinitiativen der Trump-Regierung in den USA scheinen nicht sonderlich restriktiv. Das stimmt. Aber wir sehen, dass sich die Einstellung in den USA geändert hat und sich die Regierung viel mehr mit den Risiken von KI beschäftigt. Und ich rechne damit, dass das noch weiter zunimmt. Für wie wahrscheinlich halten Sie es denn, dass die Entwicklung von Superintelligenz tatsächlich gestoppt werden kann? Ist der Zug nicht vielleicht schon abgefahren? Ich finde definitiv nicht, dass der Zug schon abgefahren ist. Regierungen können noch immer gegensteuern. Und keine Regierung will doch wohl eine KI haben, die ihre nationale Sicherheit und ihre Souveränität gefährden kann. Sollten wir tatsächlich auf die Bremse treten, besteht dann womöglich die Gefahr, dass wir uns positive Dinge vorenthalten, die uns Superintelligenz bringen könnte? Man könnte sich ja zum Beispiel vorstellen, dass sie uns helfen könnte, Krebs zu besiegen? Ich halte die Vorstellung für absurd, dass wir Krebs nur mit Superintelligenz besiegen können. Ich glaube, es gibt andere Möglichkeiten, KI für solche Projekte einzusetzen, und ich bin auch voll dafür. Aber wir müssen nicht das Leben aller Menschen auf dem Planeten aufs Spiel setzen. Sam Altman, der Vorstandschef von Open AI, hat ja vor einigen Jahren selbst vor einem Auslöschungsrisiko für die Menschheit gewarnt. Er ist sich der Gefahren wohl bewusst, so wie auch andere Vorstandschefs von KI-Unternehmen. Elon Musk hat die Wahrscheinlichkeit einer Auslöschung der Menschheit auf zwanzig Prozent geschätzt. Trotzdem gehen diese Leute das Risiko ein. Deshalb brauchen wir Regierungen, die einschreiten können. Meta-Chef Mark Zuckerberg versucht im Moment, in einer öffentlichkeitswirksamen Kampagne Optimismus rund um KI zu verbreiten. Was würden Sie zu ihm sagen? KI kann etwas sehr Gutes sein. Aber ich denke, viele KI-Unternehmen wissen, dass KI zunehmend unpopulär wird und die Menschen die Risiken erkennen. Und deshalb verwenden sie viel Zeit und Geld darauf, was in der Vergangenheit zum Beispiel auch Tabakkonzerne getan haben. Denen war das Krebsrisiko von Zigaretten wohl bewusst, aber sie haben mit aggressiver Lobbyarbeit versucht, Ungewissheit zu schüren und damit ein Einschreiten der Regierungen hinauszuzögern. Ein ganz ähnliches Muster sehen wir jetzt mit KI. Deshalb dürfen wir keine Zeit verschwenden.