Fürchtet man auch in China, dass KI die Menschheit vernichtet?

Ob die amerikanischen KI-Unternehmer wirklich willens wären, sich im Interesse der Menschheit staatlich überwachen zu lassen und die Entwicklung ihrer Modelle zu drosseln, steht noch dahin. Die Forderung des Anthropic-Chefs Dario Amodei danach und die sofortige Zustimmung seiner Kollegen kommen einem etwas weniger überraschend vor, wenn man den ausdrücklichen Vorbehalt beachtet, unter den er alle Selbstkontrollen stellte: dass die USA dabei natürlich ihre Führungsposition gegenüber China behalten müssten. Man könnte seine Wortmeldung also auch so zusammenfassen, dass eine stärkere Kontrolle zwar wünschenswert wäre, aber leider unmöglich ist.

Wie aber denkt China selbst darüber? Sieht es die Künstliche Intelligenz auch als Bedrohung der Menschheit an, oder geht man dort unbekümmerter mit den Risiken um? Richtet man sich nach dem Nvidia-Chef Jensen Huang, ist Letzteres der Fall. „Das Narrativ ist viel pragmatischer“, sagte Huang kürzlich auf dem „All-In-Summit“ in Los Angeles: „Niemand in China sagt, das ist das Ende von diesem oder jenem.“

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

F.A.Z. bei Google bevorzugen

Meinungsumfragen scheinen das zu bestätigen. Laut dem aktuellen „AI Index Report“ der Stanford University sehen 83 Prozent der Chinesen KI eher als Chance denn als Gefahr an — in den USA tun das nur 39 Prozent. Der nie um eine originelle Äußerung verlegene Yanis Varoufakis berichtet von einer hoffnungsfrohen Stimmung sogar unter den letzten verbliebenen Marxisten in China: Der Kapitalismus werde KI nicht überleben, da der von ihr bewirkte Überfluss aller Güter deren Austauschwert ins Bodenlose fallen lassen werde — eine Voraussage, die übrigens sehr der kürzlich von Elon Musk gegenüber dem „Economist“ geäußerten Erwartung ähnelt; vielleicht wird man den amerikanischen Milliardär demnächst auch noch unter die chinesischen Marxisten zählen.

Warnungen vor einem „Tschernobyl-Moment“

Weitere Stimmen machen sogar die Kultur, also eine grundsätzlich verschiedene Philosophie, für das vermeintlich geringere Risikobewusstsein verantwortlich. Bing Song, die Direktorin des Berggruen Research Center in China, schreibt es dem nicht anthropozentrischen Charakter der traditionell chinesischen Kosmos-Vorstellung zu, dass der Fokus dort nicht so stark auf die existenziellen Risiken für den Menschen gerichtet sei.Außerdem hätten die Chinesen seit dem „Yi Jing“ eine größere Toleranz gegenüber Unsicherheit und Wandel.

Das entspricht offensichtlich einem im Westen populären Stereotyp von chinesischer Weisheit, doch angewendet auf die Risiken der KI mutet es etwas merkwürdig an: Sollten sich die Chinesen wirklich aufgrund ihres „nicht anthropozentrischen Weltbilds“ weniger Sorgen um das eigene Überleben machen? Bei näherem Hinsehen entdeckt man, dass Chinesen, die auf solche Weise chinesisches und westliches Denken einander gegenüberstellen, dies mit Vorliebe im Westen tun, wo sie offenbar Resonanz für derartige Projektionen vermuten. Bing Song zum Beispiel veröffentlichte ihre Auffassung in Sammelbänden der Oxford University Press („Imagining AI“) und des akademischen Springer-Verlags („Intelligence and Wisdom“).

Dieser Text stammt aus der Frankfurter Allgemeinen Sonntagszeitung.

F.A.S. jetzt lesen

Die zuständige Behörde im Land selbst dagegen, die Cyberspace Administration of China, schlägt ganz andere Töne an. Ihr gerade in dritter Version herausgekommenes „Rahmenwerk zur Regulierung der Künstlichen Intelligenz“ nennt als vordringliche Aufgabe die Verhinderung der „drohenden Risiken eines Kontrollverlusts, die das Überleben der Menschheit gefährden könnten“. Sie empfiehlt gemäß einer Klassifizierung der Risiken abgestufte Präventionsmaßnahmen.

Wang Lihong, die stellvertretende Direktorin des Amts, weist darauf hin, dass strukturelle Fehler in KI-Systemen schwer zu identifizieren und zu eliminieren seien, und fordert daher, in Bereichen mit wenig Toleranz für Irrtum die Anwendung von KI „stark einzuschränken“. Yi Zeng von der Renmin-Universität, der Dekan des Pekinger Instituts für KI-Sicherheit, hält in der Zeitschrift der Zentralen Parteihochschule eine globale Verständigung über rote Linien für unabdingbar: Wenn die Welt mit ihrem technologischen Optimismus weiterhin alle Risiken unter den Tisch kehre und Regulierungen zugunsten des Wettbewerbs zurückstelle, dann sei ein „Tschernobyl-Moment“ nur noch eine Frage der Zeit.

Was, wenn die KI Ironie falsch versteht?

Auch bei den in China publizierenden Philosophen bleibt die Dramatik der Befürchtungen nicht hinter der westlichen zurück. Zhao Tingyang etwa, der in Deutschland durch seine bei Suhrkamp erschienene Aktualisierung alter chinesischer Weltordnungsvorstellungen bekannt geworden ist, sieht in einem Beitrag für die Chinesische Akademie der Sozialwissenschaften die Hauptgefahr darin, dass die KI eine eigene Universalsprache entwickeln könnte, mit der sich alle Programmsysteme umschreiben ließen.

Deshalb schlägt er die Einrichtung eines Selbstzerstörungsmechanismus vor, der durch jeden Versuch der Modelle, das eigene Programm zu verändern oder zu löschen, ausgelöst wird. Und Xu Yingjin von der Fudan-Universität in Shanghai vermutet in der Internetzeitung „Pengpai Xinwen“, Konflikte zwischen Mensch und Maschine könnten aufgrund von Energieknappheit aufbrechen. Im Übrigen macht er auf ein Ironie-Problem aufmerksam: Was, wenn die KI einen Ausruf wie „Dann mach mich doch tot, wenn du kannst“ für bare Münze nähme?

Von den Chefs der großen chinesischen KI-Unternehmen allerdings ist kaum etwas zu so heiklen Themen zu hören. Überhaupt scheinen die einschlägigen Diskussionen meist nicht über die dafür vorgesehenen Expertenkreise hinaus in das allgemeine Bewusstsein vorzudringen. Die Mainstream-Öffentlichkeit pflegt die Kommunistische Partei für Themen zu reservieren, die sie schon gelöst zu haben glaubt. Das mag ein Grund dafür sein, dass das allgemeine Meinungsbild gegenüber der KI in China so viel optimistischer ist als im Westen.

Roboter für den Kontakt zur physischen Welt

Die Annahme einer kulturell bedingten Differenz in der Gefahrenwahrnehmung bestätigt sich dagegen nicht und kann für westliche Firmen und Regierungen schwerlich als Grund dafür herhalten, nicht eine Verständigung mit China über die Einhegung der KI zu suchen. Aufgrund der divergierenden geopolitischen Interessen ist eine solche Verständigung schon schwierig genug. Kurz nachdem Anthropic vor einem Kontrollverlust der KI und vor einer chinesischen Vorherrschaft bei der KI-Entwicklung gewarnt hatte, warnte der chinesische Minister für Staatssicherheit vor Kampagnen „feindlicher Mächte“ mittels KI: Die USA betrieben „kognitive Kriegsführung“ gegen China.

Komplizierter wird eine Verständigung auch durch die sehr unterschiedlichen Diskussionen, die es in den beiden Hemisphären über das beiden gemeinsame Projekt einer „Allgemeinen Künstlichen Intelligenz“ (AGI) gibt: Wäre ein solches selbstlernendes, alle kognitiven Bereiche miteinander verbindendes System eher eine Verschärfung oder eine Lösung der schon bestehenden Gefahren? Für die amerikanischen Unternehmen, deren Programmierer auf die „rekursive Selbstverbesserung“ ihrer Modelle setzen, stellt AGI den Inbegriff einer die menschliche Programmierung überschreitenden und daher potentiell bedrohlichen Schöpfung dar.

Die chinesischen Unternehmen dagegen, die aufgrund ihres Mangels an Chips und der Stärke ihrer Robotik eher anwendungsorientiert sind, streben laut dem jüngsten Fünfjahresplan eine „verkörperte“ AGI an, die nicht allein auf Datenverarbeitung beruht, sondern auch auf einer über die Roboter hergestellten Rückkopplung mit der physischen Welt. Von diesem Feedback versprechen sich Forscher wie Zheng Nanning von der Jiatong-Universität in Xi’an ein umfassenderes Weltverständnis der Modelle, das sie für die Kooperation mit Menschen zugänglicher mache. Erst so könne ein ethisches Verhalten nicht nur programmiert, sondern den Maschinen wirklich verständlich gemacht werden. Im April vergangenen Jahres hat Zheng Nanning seine Sicht auf höchster Ebene präsentiert, als er sie auf der Studiensitzung des Politbüros in Anwesenheit von Xi Jinping referierte.

Kein Gespür für Metaphorik

Selbst wenn eine solche Verkörperung der KI ein bloßes Phantasma und nicht realisierbar sein sollte, stellt allein schon ihre Zielsetzung ein kulturelles Statement dar, das nicht zu unterschätzen ist. Kommt in ihr dann womöglich doch eine speziell chinesische Perspektive zum Tragen? Der Philosoph Zhang Changsheng von der Chinesischen Akademie der Sozialwissenschaften sieht es so. Wenn die Intelligenz nicht isoliert betrachtet wird, sondern im Prozess ihrer Entstehung durch die Interaktion von Mensch und Welt, sei dies ein Ausdruck des „KI-Diskurses mit chinesischen Kennzeichen“, den er fordert. Geprägt sei ein solcher Diskurs durch ein dialektisches, synthetisches und ganzheitliches Denken.

Wenn Maschinen tatsächlich jemals ein eigenes Verhältnis zur physischen Welt gewinnen sollten, würde die Kultur noch auf eine weitere Weise wichtig werden. Zheng Nanning, der Politbüro-Referent, nimmt ein Gedicht aus der Song-Zeit als Beispiel dafür, dass die Welterfahrung eines Menschen zu anderen Interpretationen führen kann als die reine Datenverarbeitung der gegenwärtigen KI. Ein Sprachmodell und ein Mensch wurden aufgefordert, zu der Gedichtzeile „Die Zierapfelblüte schont ihre rubinrote Farbe nicht, / sie steht einsam im feinen, dichten Regen“ ein passendes Bild zu suchen. Das Sprachmodell wählte, unmittelbar dem Inhalt entsprechend, das Foto einer von Regentropfen benässten Zierapfelblüte; der Mensch dagegen ließ sich von seiner Vorstellungskraft auf eine metaphorische Ebene leiten und suchte das Bild eines jungen Mädchens im Nieselregen aus. Es ist offensichtlich, ohne dass Zheng dies sagt, dass bei dieser Wahl auch eine kulturelle Prägung eine Rolle spielte, die Vertrautheit mit der Natursymbolik der klassischen chinesischen Lyrik. Auch eine verkörperte AGI könnte also kein kulturelles Neutrum sein.

Mit chinesischer Philosophie zur Selbstreflexion

Es überrascht daher nicht, dass der Philosoph Li Chenyang aus Singapur für die ethische Erziehung solcher Maschinen vorschlägt, ihnen ein „Herz“ im Sinne des Konfuzianers Menzius einzupflanzen. Verblüffender ist, dass auch das amerikanische Unternehmen Anthropic, dessen Chef so beredt vor der chinesischen KI-Entwicklung warnt, kürzlich einen Professor einstellte, der Experte für chinesisches Denken ist: Harvey Lederman, der über den Philosophen Wang Yangming aus dem 15. Jahrhundert geforscht hat. Dessen Leitsatz „Echtes Wissen und Handeln sind eins“ richtet sich frontal gegen die Isolation von Denkinhalten, wie sie für die Datenverarbeitung jetziger Sprachmodelle typisch ist. Offenbar verspricht sich Anthropic von dem Professor, dass er der in Konfliktfällen bislang unzuverlässigen moralischen Ausrichtung von Claude eine innere Konsistenz verleiht und dabei die fehlende Lebendigkeit und Selbstreflexion des Modells auf irgendeine Weise kompensiert.

Auswirkungen auf die Sicherheitsstrategie hat auch der Open-Source-Ansatz, den China verfolgt, um die Potentiale der KI-betriebenen Robotik auszureizen: Wenn allen Unternehmen die gleichen Kenntnisse zur Verfügung stehen, könnten die unterschiedlichsten Anwendungen erprobt und weiterentwickelt werden. Während nun amerikanische Unternehmen wie Anthropic in der Verbreitung ihrer Forschungsergebnisse das größte Risiko sehen, schreibt das chinesische Unternehmen Zhipu.ai im Gegenteil: „Wenn der spitzeste Speer nur in den Händen weniger liegt, muss der beste Schild allen gehören.“

Das hört sich so an, als sei die Demokratisierung der KI in China fortgeschrittener als in den USA. Doch die entscheidende politische Frage, wer eigentlich bestimmt, wer die KI kontrolliert, wird dadurch natürlich nicht beantwortet; in einem autoritären System, wo die KI zur Totalisierung der Herrschaft beitragen kann, stellt sich diese Frage mit besonderer Dringlichkeit. Wenn der Philosoph Liu Yongmou von der Pekinger Renmin-Universität auf seinem Weixin-Account meint, den Risiken der KI könne nur mit KI begegnet werden, verlagert er das Problem bloß auf eine technokratische Ebene. Womöglich ist die imaginierte Menschenähnlichkeit der Modelle nicht zuletzt ein Manöver, das der Frage nach deren demokratischer Kontrolle ausweicht – gleich, ob man in ihr wie in China den größten Schutz oder wie in Amerika die größte Gefahr für die Menschheit sieht.