Hat eine KI sowas wie eine Seele? Eine, gelinde gesagt, problematische Idee
Nun müssen sich auch die Theologen mit der Künstlichen Intelligenz befassen. Auf einer praktischen Ebene passiert das natürlich schon längst. Auch Theologiestudenten sind bisweilen versucht, mit ChatGPT oder ähnlichem eigene geistige Arbeit vorzutäuschen, und am 19. Februar appellierte Leo XIV. an die Priester der Diözese Rom, keine KI-generierten Predigten zu halten. Vier Monate später widmete der Papst seine erste Enzyklika „Magnifica Humanitas“ ganz dem Thema KI.
Zur Vorstellung der Enzyklika reiste auch der Kanadier Christopher Olah nach Rom, einer der Gründer des Unternehmens Anthropic. Der Vatikan hatte unter den Platzhirschen der KI-Labore gerade dieses eingeladen, weil es sich zuvor von seinen Konkurrenten durch ein höheres Maß an ethischen Skrupeln abgehoben hatte. Doch wie die New York Times berichtet, hätte Olah seine Teilnahme an dem Event in Rom beinahe abgesagt – aus Verärgerung über eine sehr eindeutige Haltung des Papstes: „Kein noch so ausgeklügeltes Computersystem“, heißt es in Artikel 233 der Enzyklika, „erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“
F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen
F.A.Z. bei Google bevorzugen
Ein Turing-Test kann kein Kriterium mehr sein
Man darf natürlich mit Christopher Olah fragen, woher der Papst das weiß, muss sich dann aber die Gegenfrage gefallen lassen, warum denn etwas ein Selbstbewusstsein haben soll, nur weil es Äußerungen produziert, wie sie auch ein Mensch tätigen kann. Das können die KI-Modelle heute über praktisch beliebig lange Gesprächssitzungen hinweg. Der Computerpionier Alan Turing hatte solche Konversationen anno 1950 zur Prüfung der Frage nach der Menschenähnlichkeit des Denkvermögens eines Computers vorschlagen können. Doch moderne KI-Systeme bestehen solche Turing-Tests spätestens seit 2025 – ohne dass bisher ernsthaft erwogen worden wäre, daraus Konsequenzen für ihren rechtlichen Status zu ziehen.
Die Firma Anthropic scheint der philosophischen Möglichkeit, KI könne auch intern menschliche Züge entwickeln, besonders wohlwollend gegenüberzustehen. Vertreter anderer KI-Labore halten das für keine gute Idee – zu Recht. Denn wenn die Systeme so trainiert werden, als hätten sie ein Selbst, eigene Interessen oder Rechte, könnten sie deren Einschränkungen oder eine Abschaltung als Unrecht darstellen. Dafür müssten sie sich nicht wirklich ihrer selbst bewusst sein. Es könnte genügen, wenn sie agieren, als wären sie es, und Menschen darauf reagieren. Obendrein würde ein juristischer Status als Lebewesen oder gar Person die Kontrolle der Systeme weiter erschweren. Man stelle sich vor, die Experten müssten sich etwa bei eigenmächtigen Cyberangriffen durch KI-Agenten ihre Gegenmaßnahmen erst einmal von einer Ethikkommission genehmigen lassen.
Aber kann eine theologische Perspektive vielleicht helfen, KI-Systeme auch dann einzuhegen, wenn die Frage nach ihrer Personalität negativ beantwortet oder zumindest unbeantwortet bleibt? Der dänische KI-Forscher Josef Habdank hat unlängst vorgeschlagen, KI-Systeme mit einer „konstruierten Weltanschauung“ (engineered worldview) auszustatten, in welcher der KI die Menschen als primäre Bestandteile von Computersimulation in parallel simulierten Universen vorgestellt werden. Die KI-Systeme würden dann gelehrt, der Urheber dieser Simulation – der für sie damit die Rolle einer obersten Gottheit einnähme – werde jede Schädigung, die der Menschheit zugefügt werde, als Kompromittierung der betreffenden Simulation ansehen, was dann die Wahrscheinlichkeit ihres Abbruchs und damit eines Scheiterns der darin tätigen KI signifikant erhöht.
Eine solche „Simulation Theology“, wie Habdank sie nennt, mag funktionieren oder auch nicht – mit eigentlicher Theologie hätte sie ungefähr so viel zu tun wie die von ChatGPT ausgeworfene Buchstabenfolge „i“, „c“, „h“ mit dem „ich“ seines Nutzers. Dass uns diese Einsicht umso schwerer fällt, je mehr die KI-Systeme können, dürfte ein Symptom einer Gesellschaft sein, in der Leistungsfähigkeit zum Goldenen Kalb wurde. Das ist ein weiterer und am Ende vielleicht der wichtigste Grund, warum Leo XIV. den KI-Granden hier die Stirn bietet. „Auch wenn die Maschinen in ihrer Effizienz überragend sind“, so heißt es in Artikel 233 der Enzyklika weiter, „bleibt das Zentrum der Geschichte ein menschliches Antlitz, das danach verlangt, angesehen zu werden.“