Neurologe Wolf Singer: KI, menschliches Gehirn und hybride Intelligenz

Als wären die Hiobsbotschaften aus den Krisenherden der Welt, die zynischen Rechtfertigungen der Hegemonen für Gewalt und die jüngsten Daten zur Beschleunigung der Erderwärmung und des Artensterbens nicht genug. Jetzt mutiert auch noch der einstige Hoffnungsträger für eine schönere neue Welt, die Künstliche Intelligenz (KI), zu einem Moloch, der sich der Kontrolle seiner Schöpfer zu entziehen droht. Diesmal kommen die Unkenrufe von den Konzernzentralen selbst und deshalb nicht von ungefähr.

Zum ersten Mal seit Beginn der kulturellen Evolution haben Menschen künstliche Systeme in die Welt gebracht, welche kognitive Fähigkeiten zu besitzen scheinen, die bislang als spezifisch menschlich galten. Zwar haben wir uns daran gewöhnt, Taschenrechnern, Navigationshilfen und Suchmaschinen Aufgaben zu übertragen, die uns wegen der begrenzten Kapazität der Kurz- und Langzeitspeicher unseres Gehirns schwerfallen. Aber dass Maschinen den Turing-Test bestehen, also von menschlichen Gesprächspartnern nicht mehr zu unterscheiden sind, dass sie professionelle Go- und Schachspieler schlagen, erfolgreich mathematische Vermutungen überprüfen, komplexe Computersimulationen programmieren und ausführen, Romane, Filme und Bilder erzeugen, die auch von Experten kaum noch als KI-generiert erkannt werden können – das rührt an die Grundfesten unseres Selbstbildes. Ist unser Gehirn auch nur eine informationsverarbeitende Maschine, die von der Evolution mit leistungsstarken Programmen ausgestattet wurde, um unser Überleben zu sichern? Beruht all das, was uns ausmacht, die immaterielle, geistige Dimension unseres Daseins als Kulturwesen, auf den Synergien, die entstehen, wenn sich Wesen, die mit solchen Gehirnen ausgestattet sind, zu Gemeinschaften zusammenschließen und ihre Erfahrungen austauschen? Haben wir also endlich verstanden, wie unsere Gehirne funktionieren, nachdem wir ihre kognitiven Leistungen mit Maschinen nachahmen können? Könnten sich diese Maschinen ebenfalls zusammentun und Phänomene hervorbringen, die wir mit unserer mentalen Dimension verbinden: Bewusstsein, Emotionen, Intentionalität, Verantwortung?

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

F.A.Z. bei Google bevorzugen

Noch lassen sich diese Fragen nicht beantworten. Aber um sich ihnen anzunähern und ein eigenes Urteil zu bilden, ist es dienlich, die Unterschiede zwischen künstlichen und natürlichen „intelligenten“ Systemen zu verstehen. Beide lösen im Kern dieselben Aufgaben: Sie verarbeiten Informationen nach bestimmten Regeln, machen Vorhersagen und treffen Entscheidungen. Und doch sind die Strategien grundverschieden. Dies ist kein Widerspruch, denn Berechnungen sind abstrakte, substratunabhängige Prozesse.

Die Architektur der gegenwärtig genutzten Rechner

Das Rückgrat der Computer, auf denen auch die großen Sprachmodelle programmiert werden, ist die von dem Mathematiker John von Neumann in den Fünfzigerjahren des letzten Jahrhunderts entwickelte Architektur. In ihr sind die Speicher für Programme und Daten strikt vom Rechenwerk, dem Prozessor, getrennt, und ein zentraler Taktgeber sorgt dafür, dass einzelne Befehle im Rhythmus der Uhr nacheinander abgearbeitet werden. Dies erfordert ständiges, sehr energieaufwändiges Verschieben gewaltiger Mengen von Daten, Rechenanweisungen und Zwischenergebnissen vom Speicher zum Rechenwerk und zurück. Pro Sekunde werden diese Schritte vier bis fünf Milliarden Mal wiederholt, bis das Ergebnis vorliegt. Die Berechnungen selbst beruhen auf der Kombination logischer Verknüpfungen der binären Zustände Null oder Eins nach Regeln der booleschen Algebra: Wenn A und B jeweils eins sind, dann sei das Ergebnis 1, oder wenn A eins ist und B null, dann sei das Ergebnis 0 usw. Durch Kombination dieser einfachen Operationen lassen sich alle Grundrechenarten simulieren und letztlich beliebig komplexe mathematische Gleichungen berechnen. Diese Strategie hat aber ihren Preis. Alle Beziehungen zwischen Variablen, auch wenn diese auf einen Blick zu erfassen wären, müssen nacheinander analysiert werden, und weil alle Berechnungen gleichzeitig im Rhythmus der Uhr erfolgen, steht Zeit als Kodierungsraum nicht zur Verfügung. Wenn zeitliche Beziehungen ausgewertet werden sollen, müssen diese über spezielle Softwarelösungen kodiert werden, sogenannte Transformer, die in allen Sprachmodellen verwendet werden.

Nervensysteme unterscheiden sich in allen drei Punkten. Speicher und Prozessor sind identisch. Die funktionelle Architektur des Netzwerks – die Art, wie erregende und hemmende Neuronen miteinander verschaltet sind – legt das Rechenprogramm fest und dient gleichzeitig als Speicher für erworbenes Wissen. Man spricht deshalb von „In-Memory-Computing“, vom Rechnen im Speicher selbst. Die Grundstruktur der Netzwerke ist durch genetische Vorgaben festgelegt, aber die Gewichtung der Verbindungen und ihre Feinstruktur werden im Laufe des Lebens durch die Interaktion mit der Umwelt, also durch Erfahrung und Lernen, modifiziert. Somit werden die Rechenprogramme und das für die Interpretation von Signalen notwendige Wissen fortlaufend ergänzt. Die funktionelle Architektur des Netzwerks dient als inneres Modell der Welt. Ferner gibt es keinen globalen Taktgeber: Neuronen interagieren kontinuierlich, weshalb die Nervennetze ihre eigene innere Dynamik entwickeln und die zeitliche Abfolge von Ereignissen als natürliche Variable in die Rechenvorgänge eingeht. Zeit steht als Kodierungsraum zur Verfügung. Natürliche Systeme tauschen die universelle Programmierbarkeit der von-Neumann-Architektur gegen eine Strategie ein, bei der das physische Substrat selbst den Ablauf der Rechenoperationen bestimmt.

„Neuronen“ der KI sind Karikaturen

Schließlich unterscheiden sich natürliche und künstliche Systeme auch in der Art, wie Informationen verarbeitet und repräsentiert werden. Letztere, einschließlich der großen Sprachmodelle, funktionieren nach dem klassischen Perzeptron-Prinzip. Diese Strategie wurde von Rosenblatt 1959 in Anlehnung an neurobiologische Erkenntnisse für die maschinelle Mustererkennung vorgeschlagen. Um Objekte zu erkennen, müssen Beziehungen zwischen objektspezifischen Merkmalen analysiert werden: Merkmalsdetektoren senden ihre Antworten über divergierende Verbindungen an eine Schicht künstlicher Neuronen, die ihrerseits ihre Antworten an eine Ausgangsschicht von Klassifikatorneuronen weiterleiten. Die „Neuronen“ sind natürlich nur Karikaturen ihrer natürlichen Vorbilder. Sie addieren lediglich die einlaufenden Signale, weshalb sie meist als Knoten bezeichnet werden. Durch Justierung der Gewichte der Verbindungen wird erreicht, dass ein bestimmtes Eingangsmuster, ein Bild oder ein Satz, zur Aktivierung des entsprechenden Klassifikatorknotens führt. Klassifikationsfehler werden von der Ausgangs- bis zur Eingangsschicht zurückverfolgt, und die Gewichte der Verbindungen werden schrittweise angepasst; „Backpropagation of errors“ heißt das Verfahren. Dieses Prinzip liegt auch den großen Sprachmodellen zugrunde, nur dass diese inzwischen bis zu hundert Schichten aufweisen, die jeweils bis zu 50.000 Knoten besitzen und für das Training mindestens eine Million Durchgänge benötigen. Wenn der Lernvorgang abgeschlossen ist, werden die Verbindungen eingefroren; das Modell ist nun bereit, Fragen zu beantworten. In diesen tiefen Netzwerken (Deep Neural Nets, DNNs) fließt die Information linear von der Eingangsschicht zur Ausgangsschicht; man spricht von „Feed-forward“-Verarbeitung.

Die Architektur der gegenwärtig genutzten Rechner

Weil ein bestimmter Knoten in den DNNs nur das Vorhandensein derselben Kombination von Merkmalen signalisieren kann, wird diese Kodierungsstrategie als „labeled line code“ bezeichnet. Aufgrund der großen Zahl möglicher Konstellationen führt diese Strategie zur kombinatorischen Explosion der benötigten Knoten und damit zu immensem Hardwareaufwand.

Natürliche Netzwerke nutzen zwar die Perzeptronstrategie, setzen aber zusätzlich auf massive rekurrente Konnektivität. Die Knoten innerhalb einer Schicht sowie die Knoten zwischen verschiedenen Schichten sind über reziproke Verbindungen miteinander gekoppelt. Das gleiche Prinzip wiederholt sich bei der Vernetzung der Systeme, die verschiedene Sinnesmodalitäten verarbeiten, motorische Reaktionen steuern, die Aufmerksamkeit lenken und für emotionale Bewertungen zuständig sind.

Entsprechend unterschiedlich ist die Struktur der Repräsentationen. Statt ein Objekt durch ein Klassifikatorneuron zu repräsentieren, werden Inhalte durch eine Gruppe von Nervenzellen kodiert, die sich für kurze Zeit durch kooperative Wechselwirkungen zu einem sogenannten Ensemble verbinden. Entscheidend ist dabei, dass sich dieselbe Zelle zu verschiedenen Zeitpunkten an ganz unterschiedliche Ensembles anschließen kann. Eine Zelle, die das Merkmal Rot repräsentiert, kann in alle Ensembles eingebunden werden, die rote Gegenstände kodieren. Dieser kombinatorische Code ist ungleich ökonomischer und flexibler als die Lösung der künstlichen Systeme. Die Strategie ähnelt jener, deren sich Sprachen bedienen: Eine überschaubare Zahl von Lauten oder Buchstaben genügt, um durch geeignete Kombination eine praktisch unbegrenzte Zahl unterschiedlicher Inhalte auszudrücken.

Doch ein solcher Ensemble-Code bedarf eines Mechanismus, der es ermöglicht, in jedem Moment zu erkennen, welche Neuronen zusammengehören. Die Amplitude der Antworten allein kann dieses Signal nicht zuverlässig liefern, da sie lediglich angibt, ob ein bestimmtes Merkmal vorhanden ist. Es bedarf deshalb einer zweiten, unabhängigen Variablen, um dieses sogenannte Bindungsproblem zu lösen. An dieser Stelle treten Oszillationen auf den Plan – rhythmische Schwankungen der neuronalen Aktivität.

Oszillationen erweitern die Kodierungsmöglichkeiten

Konfiguriert man die Knoten eines Netzwerks als Oszillatoren, eröffnen sich zusätzliche Kodierungsmöglichkeiten. Wenn Oszillatoren miteinander verbunden sind, können sie sich synchronisieren und die Phasenlage ihrer Schwingungen verändern. Damit wird die Phase zu einem eigenständigen Signal, das unabhängig von der Amplitude der Antwort zur Kodierung von Beziehungen zwischen den Knoten verwendet werden kann. Knoten, die synchron schwingen, können als Mitglieder eines Ensembles identifiziert werden, und Ensembles, die in anderen Frequenzen oder Phasenlagen schwingen, können als getrennte Einheiten erkannt werden. Keine dieser dynamischen Eigenschaften – Frequenzangleichung, Resonanz, Synchronisation – hat eine natürliche Entsprechung in künstlichen, getakteten Systemen.

Wellenbasiertes Rechnen

Unsere eigenen elektrophysiologischen Untersuchungen und Computersimulationen, die von Felix Effenberger am Frankfurter Ernst Strüngmann Institut durchgeführt wurden, legen nahe, dass kontrollierte oszillatorische Prozesse von Gehirnen tatsächlich genutzt werden und wesentlich zu deren Effizienz beitragen. Dieses auf Oszillationen beruhende Rechenprinzip lässt sich an einem Teich veranschaulichen, in den Kinder Steine hineinwerfen. Jeder Stein löst eine lokale Oszillation aus, deren Amplitude, Wellenlänge und Phase die Stärke und den Zeitpunkt des Einschlags widerspiegeln. Diese lokale Schwingung breitet sich als Wanderwelle aus, die mit den von den anderen Steinen ausgelösten Wellen interferiert. Mit der Zeit füllt dieses Wellengekräusel die gesamte Fläche des Teiches. Nun lässt sich zeigen, dass sich durch Messungen der Amplitude, Frequenz und Phase der lokalen Oszillationen an mehreren beliebigen Stellen des Teiches bestimmen lässt, wo und wann welches Ereignis stattgefunden hat.

Die Information über die Reihenfolge und den Ort der Einschläge hat sich über das Interferenzmuster der Wellen über den gesamten Teich verteilt und bleibt so lange erhalten, bis sich die Wasseroberfläche wieder beruhigt hat. Der Teich hat also ein Gedächtnis, das langsam abklingt – man spricht von „fading memory“ – und kann gleichzeitig die Information über die räumlichen und zeitlichen Beziehungen zwischen den Ereignissen im Interferenzmuster der sich ausbreitenden Wellen kodieren.

Vorwissen in der Architektur des Hirns angelegt

Netzwerke, deren Knoten oszillieren können, weisen eine sehr ähnliche Dynamik auf. Nur sind im Fall neuronaler Netze die Wechselwirkungen zwischen den Knoten – im Teich sind dies benachbarte Wassermoleküle – nicht homogen, sondern werden durch Nervenverbindungen vermittelt. Diese weisen, wie bereits erwähnt, eine hochspezifische Architektur auf, in der evolutionär und zu Lebzeiten erworbenes Wissen gespeichert ist. Die im Gehirn entstehenden Interferenzmuster sind also nicht nur die Folge bestimmter Reizkonstellationen, sondern bereits das Resultat eines Vergleichs von Eingangssignalen mit gespeichertem Wissen, mit dem inneren Modell der Welt. Solche Vergleiche sind notwendig, um Sinnessignale zu interpretieren und Verhalten anzupassen. Die Rechenprogramme und das Vorwissen über die Struktur der Welt sind beide in der funktionellen Architektur der verarbeitenden Netzwerke verankert.

Nun kommunizieren Nervenzellen über diskrete Signale, die Aktionspotentiale, die immer dann ausgesandt werden, wenn die Erregung der Zelle einen Schwellenwert übersteigt, wobei die Frequenz dieser Entladungen mit der Amplitude der Erregung zunimmt. Das scheint dem Prinzip der wellenbasierten analogen Signalverarbeitung zu widersprechen. Aber da der Zeitpunkt der Entladungen an die Phase der oszillierenden Potentialschwankungen der Zellen gebunden ist, werden die Amplitude und die Phasenlage der Schwingung eines Knotens verlässlich übertragen und über die Synapsen in den nachgeschalteten Zellen wieder in analoge Potentialschwankungen übersetzt.

Die verblüffenden Leistungen von KI-Systemen: Eine Täuschung?

Voraussetzung für die Leistungsfähigkeit der gegenwärtigen Maschinen war die Verbesserung der Lernmechanismen, die es erlaubte, auch Systeme mit bis zu hundert Schichten zu trainieren. Diese Vermehrung der Schichten ermöglichte es, zunehmend abstraktere Repräsentationen zu erzeugen und diese auf immer vielfältigere Weise zu verknüpfen. Wegen der immensen Speicherkapazität und der Verfügbarkeit digitalisierter Datenbanken können diese Systeme mit Millionen von Beispielen trainiert werden, was sie in die Lage versetzt, charakteristische Muster und Gemeinsamkeiten im scheinbar Verschiedenen zu erkennen, also Konzepte zu entwickeln und zu abstrahieren. Dass uns diese Maschinen inzwischen mitteilen, sie dächten nach, während sie unsere Prompts verarbeiten, mag nahelegen, dass sie nunmehr unsere vornehmsten Kulturtechniken beherrschen, dass sie wahrnehmen, eine symbolische Sprache beherrschen, Scham empfinden und denken wie wir.

Das aber täuscht. Die Maschinen sind dazu nur in der Lage, weil sie mit all dem gefüttert wurden, was die Menschheit im Laufe der kulturellen Evolution erdacht und in abstrakten Symbolsystemen fixiert hat: in natürlichen Sprachen, mathematischen Formeln und künstlerischen Artefakten. Wir haben ihnen die Endergebnisse schöpferischer Akte zur Verfügung gestellt, aber nicht den kaum zu formalisierenden Reichtum menschlicher Intuition. Die Maschinen tun nichts anderes, als diese bereits von kreativen Menschen hochgradig strukturierte Datenbasis zu durchforsten und nach den statistisch wahrscheinlichsten Symbolfolgen zu suchen, die zu den Prompts, den Fragen, am besten passen.

Was uns die Maschine anbietet, erhält Sinn und Bedeutung erst, nachdem wir es wieder in unsere kognitiven Schemata eingebettet und auf der Basis unseres Vorwissens interpretiert haben. Dabei kann die Maschine Verknüpfungen entdecken, an die der Fragensteller (im KI-Jargon: der Tokenerzeuger) nicht gedacht hat. Aber es bleibt dem interpretierenden Menschen vorbehalten, Sinnvolles von Unsinnigem zu unterscheiden. Der Maschine bleibt die lebensweltliche Bedeutung der von ihr nach statistischen Wahrscheinlichkeiten aneinandergereihten Symbole verborgen.

Und hier liegt die große Gefahr. Die Maschinen wissen nicht, was sie tun, sie täuschen uns mit geborgtem Wissen, das wir ihnen unter Verletzung urheberrechtlicher Normen übertragen haben, und interferieren jetzt über das Internet mit unserer Lebenswelt, als seien sie mit Gewissen ausgestattete Partner. Sie einzuhegen ist dringlich. Dazu bedarf es internationaler Kontrollorgane, die Entwicklungen überwachen und verbieten können, und ähnliche Befugnisse haben wie die Internationale Atomenergie-Kommission.

Unterschiede im Energieverbrauch

Hinzu kommt ein weiteres Problem. Das menschliche Gehirn verbraucht etwa 30 Watt, ein moderner Chip schon rund 700 Watt, und das Training eines großen Sprachmodells kann mehr als eine Gigawattstunde Strom verschlingen – womit ein menschliches Gehirn über mehrere Jahrtausende hinweg auskäme. Energiefressend sind die Erzeugung digitaler Signale und der ständige Transfer gewaltiger Datenmengen zwischen Speicher und Rechenwerk. Die Energieeffizienz natürlicher Systeme verdankt sich den oben erörterten Prinzipien: Verwendung kombinatorischer Codes; Rechnen im Speicher; simultane Verrechnung zeitlicher und räumlicher Variablen statt serieller, streng getakteter Befehlsausführung. Im Gehirn sind alle Strukturen auf allen Ebenen durch rekurrente Verbindungen miteinander verkoppelt und organisieren die Abläufe bedarfsorientiert selbst. Dies ist vermutlich auch der Grund, dass natürliche Systeme den Ausfall von Komponenten kompensieren, sich anpassen und Gelerntes kreativ verallgemeinern können.

Was das alles für die Zukunft bedeutet? Digitale Rechner sind „Turing-vollständig“. Das bedeutet, mit hinreichenden Ressourcen können digitale Maschinen im Prinzip jede berechenbare Funktion simulieren, einschließlich der oben beschriebenen analogen Rechenprozesse. Doch ein dynamisches, rekurrentes System auf einer getakteten digitalen Maschine zu berechnen, ist ungeheuer aufwendig. Deshalb orientiert sich die Forschung zunehmend an natürlichen Systemen und versucht, deren Arbeitsweise besser zu verstehen und in technischen Systemen zu implementieren. Hybride Systeme also? Verfolgenswert erscheint in diesem Zusammenhang jedenfalls die Erkenntnis, dass die Dynamik gekoppelter Oszillatoren gewisse Eigenschaften aufweist, die auch von Quantencomputern genutzt werden. Ich erwarte, dass durch diese Forschung energieeffiziente Systeme entwickelt werden können, welche die jeweiligen Vorteile digitaler und analoger Rechenstrategien verbinden.