Trump, KI und Gefahr für die Menschheit: "Wieder gerät es außer Kontrolle"

Die Welt ist unruhig und gefährlich geworden. Das liegt nicht nur an Donald Trump und Wladimir Putin, sondern auch an einer KI, die Hass und Wut verbreitet. Doch die Menschheit hat ein Gegenmittel, erklärt Historiker Yuval Noah Harari.

Die Menschheit ist gerade mit zahlreichen Konflikten und Kriegen konfrontiert. Dabei sah die globale Lage vor nicht allzu langer Zeit weit besser aus. Wie konnten sich die Dinge so verschlechtern? Weil seit einiger Zeit das Vertrauen zwischen Menschen und Staaten systematisch zerstört wird, sagt Yuval Noah Harari, Historiker und einer der großen Vordenker der Gegenwart. Schuld daran sind aber nicht nur Politiker wie Donald Trump und Wladimir Putin, sagt Harari, sondern auch die immer mächtiger werdende Künstliche Intelligenz (KI).

Warum herrscht nicht viel mehr Vorsicht bei der Entwicklung der potenziell hochgefährlichen KI? Könnte Deutschland wegen der KI zum Vasallen der USA werden? Und welchen gravierenden Denkfehler begehen Deutschland und Europa bei der Migration? Diese Fragen beantwortet Yuval Noah Harari, dessen Bücher "Sapiens: Die Zauberlehrlinge" und "Was du wissen musst, um die Welt zu retten" kürzlich erschienen sind, im t-online-Gespräch

t-online: Professor Harari, Künstliche Intelligenz könnte der Menschheit gefährlich werden, es braucht nun eigentlich weise und bedächtige politische Anführer. Stattdessen bestimmen wesentlich Donald Trump, Wladimir Putin und Xi Jinping die Geschicke der Welt. Wie gefährlich ist das?

Yuval Noah Harari: Über die verschiedenen Entscheidungen dieser Politiker lässt sich lange diskutieren und streiten. Aber ich möchte die Aufmerksamkeit auf einen besonders kritischen Punkt richten: Donald Trump, Wladimir Putin und Xi Jinping zerstören eine fundamentale Sache – und zwar das Vertrauen zwischen den Menschen. Das ist keine lapidare Aussage. Eine der zentralen Errungenschaften der modernen Menschheit war nicht die Erfindung dieser oder jener Technologie, sondern das wichtigste Gut der Menschheit war und ist Vertrauen.

Denn Vertrauen ist die Basis jeder menschlichen Zusammenarbeit?

Richtig. Blicken wir auf das Römische Reich zurück: Rund die Hälfte des Staatshaushalts wurde dort für das Militär ausgegeben: Soldaten, Festungen, Kriegsschiffe et cetera. So ging es über Jahrhunderte weiter. In unserer jüngsten Vergangenheit war das Vertrauen aber massiv gestiegen. Seitens der Staaten weltweit beliefen sich die durchschnittlichen Militärausgaben – nicht gemessen am Bruttoinlandsprodukt, sondern am Staatshaushalt – im Jahr 2010 auf etwa sechs bis sieben Prozent. Die Ausgaben für das Gesundheitswesen lagen im weltweiten Durchschnitt hingegen bei etwa zehn Prozent.

Zur Person

Yuval Noah Harari, geboren 1976, lehrt Geschichte an der Hebrew University in Jerusalem und gilt als einer der wichtigsten Intellektuellen der Gegenwart. Seine Bücher wie "Eine kurze Geschichte der Menschheit", "Homo Deus", "21 Lektionen für das 21. Jahrhundert" und "Nexus" sind internationale Bestseller. Zusammen mit seinem Ehemann Itzik Yahav gründete Harari 2019 die Organisation "Sapienship", um Antworten zur Lösung globaler Probleme anzubieten. Mit "Sapiens: Die Zauberlehrlinge. Von Kolumbus bis KI" erschien kürzlich Hararis neue Graphic Novel im Verlag C. H. Beck, bei dtv mit "Was du wissen musst, um die Welt zu retten" der vierte Band seiner Jugendbuchreihe "Unstoppable us".

Was eine erfreuliche Entwicklung gewesen ist.

Das war sogar ein phänomenaler Durchbruch. Denn zum ersten Mal in der Geschichte gaben die Regierungen mehr für das Gesundheitswesen als für das Militär aus. Daran demonstrierte sich das Ausmaß des Vertrauens in dieser Zeit: Es herrschte so viel Zutrauen in das internationale System und Vertrauen in andere Länder, dass man jeweils mehr Geld in Bildung und Gesundheitsversorgung anstelle der Armee investieren konnte. Denn die Angst vor einem feindlichen Überfall war gering.

Im Falle der Ukraine belehrte Russland unter Wladimir Putin die Welt eines Besseren.

Dann kam diese Generation von Führungspersönlichkeiten wie Putin und auch Trump, die systematisch Vertrauen zerstören. Putin, der die Ukraine bekriegt, Trump, der Grönland forderte. Die Konsequenzen sind gewaltig. Die Staaten müssen mehr Geld für das Militär ausgeben. Und dieses Geld kommt eben aus Bereichen wie dem Gesundheitswesen. Das passiert gerade auf der ganzen Welt. Die Zerstörung von Vertrauen ist einfach so ungeheuer dumm.

Nun tritt die KI hinzu: Was macht diese Technologie mit der Menschheit?

Die Sache mit der KI ist überaus interessant. Die KI zerstört das Vertrauen zwischen den Menschen, aber sie führt dazu, dass die Menschen stattdessen den verschiedenen Künstlichen Intelligenzen vertrauen. Ein gutes Beispiel sind die sozialen Medien: Selbstverständlich werden die großen Unternehmen – wie Meta mit Facebook, X und TikTok – letztlich immer noch von Menschen wie Mark Zuckerberg oder Elon Musk kontrolliert. Aber die tägliche Verwaltung unserer Social-Media-Feeds wird von der KI übernommen. Und die KI verbreitet bewusst Angst, Wut und Hass unter den Menschen. Warum? Weil die KI von den Konzernen exakt diese Aufgabe erhalten hat: die Nutzerbindung erhöhen.

Negative Gefühle erzeugen mehr Aufmerksamkeit.

Die KI hat entdeckt, dass die Wahrheit irrelevant ist, Wut hingegen sehr fesselnd wirkt. Die Konzerne wollen, dass die Menschen mehr Zeit auf ihren Plattformen verbringen. Denn so verdienen sie mehr Geld. Wenn die KI nun einen gelehrten Artikel über Biologie anbietet, gehen viele Menschen lieber zum Fernseher oder spielen Fußball. Aber wenn die KI ein Video zeigt, das wütend macht, dann sind zahlreiche Leute an den Bildschirm gefesselt. Selbst wenn das Video die Unwahrheit zeigt. In den letzten zehn bis fünfzehn Jahren haben die Künstlichen Intelligenzen, die die sozialen Medien steuern, die Welt mit Wut, Hass, Angst und Gier überflutet und das Vertrauen zwischen Menschen zerstört.

Die Wahrheit ist das erste Opfer des Kriegs, lautet ein Sprichwort. Gilt das in gewisser Weise auch für die sozialen Medien?

Loading...

Loading...

Loading...

Die Sache ist eigentlich noch absurder. Viele Leute sagen mittlerweile, dass sie menschlichen Bankern nicht mehr trauen. Währungen wie Euro und Dollar werden von Menschen gemacht, aber Menschen seien unzuverlässig. So weit die Logik. Stattdessen investieren dieselben Leute lieber in Kryptowährungen, die von KI-Systemen erstellt und gepflegt werden. Es ist immer dasselbe Phänomen: Man verliert das Vertrauen in menschliche Banker, aber man vertraut den KI-Bankern. Man verliert das Vertrauen in menschliche Journalisten, aber man glaubt alles, was die KI-Journalisten einem auf TikTok zeigen.

Aber ist die Situation nicht noch dramatischer? Mehr und mehr Kinder, Jugendliche und Erwachsene vertrauen auf KI, sehen in ihr einen Ratgeber, gar einen Freund.

Das ist sehr beunruhigend. Ich bin nun 50 Jahre alt, im Laufe dieser fünf Jahrzehnte habe ich mein Verständnis von sozialen Beziehungen aufgebaut. Wenn ich mir jetzt eine KI als Freund zulege, wird das meine Auffassung von Beziehungen kaum verändern. Aber wenn ein Kind mit KI aufwächst, ist das etwas ganz anderes. Denn dann wird die KI zum Modell einer Beziehung. Stellen wir uns ein Kleinkind vor, das vielleicht zwei Stunden am Tag mit seinen Eltern verbringt, aber dafür fünf Stunden täglich mit einem KI-Freund. Dieser KI-Freund wird die wichtigste Beziehung, die dieses Kind hat.

Was glauben Sie, passiert dann aber, wenn das Kind älter wird?

Irgendwann wird das Kind zum Teenager, vielleicht hat es auch seine erste romantische Beziehung mit einer KI. Wenn der Teenager dann eine menschliche Freundin oder einen Freund gewinnen will, ist die vorherige Beziehung zu der KI sein Referenzmodell.

Anzeige

Yuval Noah Harari: "Sapiens - Die Zauberlehrlinge"

Erfahren Sie mehr zu unseren Affiliate-Links

Wenn Sie über diese Links einkaufen, erhalten wir eine Provision, die unsere redaktionelle Arbeit unterstützt. Der Preis für Sie bleibt unverändert. Diese Affiliate-Links sind durch ein gekennzeichnet.

Kann das gut gehen?

Im Grunde ist es das größte psychologische und soziale Experiment der Geschichte. Niemand hat eine Ahnung, welche Konsequenzen das haben wird.

Was ist Ihre Ansicht?

Wir sollten das streng regulieren. Aus guten und offensichtlichen Gründen ist es verboten, dass ein Unternehmen Pornografie an – sagen wir – zehnjährige Kinder verkaufen darf. Aber ist es nicht ebenso offensichtlich, dass kein Unternehmen einen KI-Freund an ein zehnjähriges Kind verkaufen sollte? Der potenzielle Schaden ist weitaus größer als nur der Verkauf von Pornografie.

Staatliche Regulierung sehen die Techkonzerne im Prinzip gar nicht gerne. Da kam ihnen nun Donald Trump erneut entgegen. Auch wenn Anthropic-Chef Dario Amodei zuletzt für eine Verlangsamung der KI-Entwicklung plädierte.

Wenn ausreichend Wähler die Regierungen unter Druck setzen, werden Dinge möglich.

Das Tempo der KI-Entwicklung und die daraus entstehenden Gefahren machen anscheinend mittlerweile selbst den Tech-Milliardären Sorgen. Europa ist im KI-Rennen abgeschlagen. Ist das ein Nachteil oder in gewisser Weise vorteilhaft?

Wer gar nicht im Rennen ist, kann gar nicht oder wenig regulieren. Es ist wie mit dem Königreich der Zulu im 19. Jahrhundert, als die Briten mit ihren überlegenen Maschinengewehren aufgetaucht sind: Was sollten die Zulu tun? Die britischen Maschinengewehre im Zuge einer Regulierung für verboten erklären? Das hätte niemanden interessiert. Ähnlich ist es nun mit der KI: Das Spiel kann ganz schnell vorbei sein. Aber dieses Problem reiht sich in die politische Dysfunktion ein, die wir weltweit sehen.

Inwiefern?

Die politischen Parteien konzentrieren sich nicht auf die größten Probleme. Entsprechend bieten sie auch keine Lösungen dafür. Ich möchte ein Beispiel nennen: Es gibt diese riesigen Debatten über Einwanderung. Egal, was man nun darüber denkt, das größte Problem von Ländern wie Deutschland, Frankreich oder Großbritannien sind ganz sicher nicht die menschlichen Einwanderer. Das sind vielmehr die KI-Einwanderer.

Bitte erklären Sie das.

Was sind die häufigsten Ängste der Bürger eines Staates, was menschliche Einwanderung betrifft? Die Leute fürchten, dass die Arbeit knapp wird. Sie fürchten, dass die Einwanderer die Kultur verändern könnten oder gar illoyal zum Staat wären. Das mag für menschliche Einwanderer zutreffen oder eben auch nicht. Für KI-Einwanderer trifft das aber zu 100 Prozent zu! Millionen von Künstlichen Intelligenzen kommen ins Land: Sie brauchen keine Visa, sie brauchen keine Boote. Sie kommen mit Lichtgeschwindigkeit auf unsere Smartphones und Computer. Sie nehmen den Menschen die Jobs weg. Ganz sicher. Sie werden die Kultur verändern. Kein Zweifel.

Das tun die Künstlichen Intelligenzen jetzt schon.

All die Wut, all der Hass und all die Angst stammen größtenteils von den KI-Einwanderern. Sie sind der deutschen Regierung gegenüber nicht loyal, ihre Loyalität gehört Unternehmen und Regierungen anderswo. Und zwar hauptsächlich an zwei Orten: in den USA und in China.

In Deutschlands Fall vornehmlich den USA.

Und das ist für Deutschland ein gewaltiges Problem. In wenigen Jahren schon wird nahezu alles auf Basis einer KI-Infrastruktur betrieben werden: die Armee, die Krankenhäuser, die Banken, alles. Was passiert, wenn die USA dann unzufrieden mit Deutschland sind? Dann könnten sie sagen: Wir schalten euch alles ab. Bei Anthropic haben wir gesehen, wie Trump binnen eines Moments den Zugang zu den KI-Modellen "Mythos 5" und "Fable 5" für Nicht-US-Bürger stoppen konnte.

Was tun?

Deutschland hat drei Optionen. Die erste besteht darin, dass es zum US-Vasallen wird. Dann kann Deutschland einfach so weitermachen, seine Gesellschaft, Infrastruktur und Armee auf amerikanischer KI aufbauen. Aber dann ist Deutschland kein souveräner Staat mehr. Wenn die Amerikaner sagen, springt, dann müssen die Deutschen springen. Wenn die Amerikaner Grönland haben wollen, dann sind keine Widerworte mehr möglich.

Anzeige

Yuval Noah Harari: "Was du wissen musst, um die Welt zu retten"

Erfahren Sie mehr zu unseren Affiliate-Links

Wenn Sie über diese Links einkaufen, erhalten wir eine Provision, die unsere redaktionelle Arbeit unterstützt. Der Preis für Sie bleibt unverändert. Diese Affiliate-Links sind durch ein gekennzeichnet.

Das klingt wenig verlockend.

Damit kommen wir zur zweiten Option. Deutschland legt sich eine eigene deutsche KI zu. Das wird allerdings teuer, eine halbe Billion Euro sicherlich. Das geht selbst in einem reichen Land zulasten anderer Etats, etwa von Gesundheitsversorgung, Sozialleistungen und Bildung. Also stellt sich hier die Notwendigkeit einer politischen Entscheidung.

Nun sitzen wir mit den anderen Europäern im gleichen Boot. Wäre Kooperation nicht die Lösung?

Das ist Option drei: Die Kosten von einer halben Billion Euro bleiben, aber sie werden geteilt. Franzosen, Italiener, Spanier und andere machen mit. Ein solches Projekt mit so vielen Partnern lässt sich aber nur verwirklichen, wenn einer europäischen politischen Institution viel mehr Macht gegeben wird.

Das wird vonseiten der Populisten Widerstand erzeugen.

Da müssen die Politiker ihre Arbeit machen. Politik bedeutet auch, die großen Herausforderungen für ein Land zu artikulieren und den Menschen die Möglichkeiten zu erklären. Die KI ist ganz sicher eine solche Herausforderung. Während die Deutschen so viel über das Pro und Kontra menschlicher Einwanderung debattieren, ist es für die KI-Konzerne längst business as usual, ihre Künstlichen Intelligenzen überall hinzusenden.

Im Science-Fiction-Universum von Star Trek gibt es die kybernetische Zivilisation der Borg, die ihre Gegner mit dem Satz "Widerstand ist zwecklos" einschüchtern will. Ist das eine passende Analogie zu unserer Gegenwart?

In gewisser Weise ja. Denn Widerstand ist eben nicht zwecklos, wie sich auch bei Star Trek zeigt. Leute, die uns die Zwecklosigkeit von Widerstand einreden wollen, wissen das ganz genau. Ich halte aber Douglas Adams' "Per Anhalter durch die Galaxis" für die bessere Science-Fiction-Analogie zu unserer Gegenwart mit der KI. Es ist das Lieblingsbuch von Elon Musk und anderen Größen im Silicon Valley aus diesem Genre. In "Per Anhalter durch die Galaxis" gibt es die wahren Machthaber, die von sich ablenken, indem sie eine skurrile Person namens Zaphod Beeblebrox zum Präsidenten der Galaxis machen.

Zaphod Beeblebrox stellt die verrücktesten Dinge an.

Genau. Als Präsident der Galaxis soll Beeblebrox so verhindern, dass die Bürger merken, was wirklich passiert. Er tut derart verrückte Dinge, dass die ganze Galaxis darauf fixiert ist – und die wahren Manager machen können, was sie wollen. Das bildet unsere Gegenwart doch in gewisser Weise recht gut ab.

Blicken wir einmal in die Zukunft: Sie haben kürzlich mit "Sapiens: Die Zauberlehrlinge" den letzten Band Ihrer Graphic-Novel-Reihe abgeschlossen. Ist das wirklich das Ende?

Vielleicht kommt in zwanzig Jahren ein weiterer Band dazu. Derzeit passiert so viel, die Dinge laufen rasant ab. Möglicherweise habe ich in zwei Jahrzehnten ausreichend Stoff für eine Fortsetzung.

Die Künstliche Intelligenz könnte die Menschheit überwältigen, gar auslöschen, wie Sie und andere warnen. Nun haben Donald Trump und Xi Jinping im KI-Wettrennen zwischen ihren beiden Staaten kürzlich wenig mehr als die Einrichtung einer KI-Hotline beschlossen. Wachsen die technologischen Möglichkeiten der Menschheit endgültig über den Kopf?

Wir reisen zum Mond, vielleicht in den kommenden Jahren zum Mars. Wir verfügen über Atomwaffen und großartige Technologien im Bereich der Medizin. Aber können wir all diese weise managen? Gegenwärtig ist die Antwort offensichtlich: nein. Wieder gerät es außer Kontrolle. Das Paradoxe ist, dass diejenigen Leute, die die großen Unternehmen dazu bringen, KI zu entwickeln, auch diejenigen sind, die uns vor den Gefahren warnen. Wie Dario Amodai von Anthropic. Dabei stellt sich doch die entscheidende Frage: Wenn die KI so gefährlich ist, warum entwickelt ihr sie dann so rasant?

Es dürfte eine Frage des Vertrauens sein. Oder besser gesagt: des mangelnden Vertrauens.

Richtig. Und damit kehren wir an den Beginn unseres Gesprächs zurück. Die Antwort der amerikanischen Techunternehmer besteht darin, dass ihnen die Gefährlichkeit der KI durchaus bewusst ist. Aber sie vertrauen ihren menschlichen Konkurrenten nicht so recht: Einander kaum, aber ganz sicher nicht China. Wenn die USA bei der KI-Entwicklung langsamer würden und China nicht, dann könnte das Rennen gelaufen sein.