Sam Altman und die Singularität: Die letzte Erfindung der Menschheit

Schon mal was von der Singularität gehört? Das Wort klingt nach Science-Fiction, Epochenbruch, hat bisweilen etwas Weltendehaftes. Zunächst ist seine Bedeutung nüchterner, funktionaler, technischer, beschreibender. Mathematiker und Physiker meinen damit erst einmal einen Punkt, an dem vertraute Regeln oder Modelle versagen, wenn beispielsweise im mutmaßlichen Inneren eines schwarzen Lochs andere Gesetzmäßigkeiten von Raum und Zeit gelten. „Wir sind jetzt in der Singularität, das ist der Moment“, sagte Sam Altman gerade und sorgte damit sogleich für Schlagzeilen. Der Chef des amerikanischen KI-Anbieters Open AI muss gegenwärtig vornehmlich erklären, wieso Künstliche Intelligenz seines Hauses aus einer virtuellen Testumgebung ausbrach, sich Zugang zum Web verschaffte und die Internetplattform Hugging Face angriff. F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen F.A.Z. bei Google bevorzugen Im Podcast Relentless mit dem Investor Tilo Morse dachte er indessen darüber nach, wo sich die KI gegenwärtig generell und abstrakt befindet – und erwähnte beinahe beiläufig den Begriff Singularität. Vor zehn Jahren noch sei dies ein „weit entfernter Traum“ gewesen, „bestenfalls“. Doch die Technologie habe sich schneller weiterentwickelt und nun ebendieses Niveau erreicht. In der Computerwissenschaft und speziell innerhalb der Künstlichen Intelligenz hat das Wort eine eigene Tradition. Und Brisanz. Mitunter ohne ausdrücklich genannt zu werden, steckt es in dramatischen Warnungen: von Wissenschaftlern wie Max Tegmark, Geoffrey Hinton, Joshua Bengio, dem verstorbenen Physiker Stephen Hawking oder auch vom Technologieunternehmer Elon Musk, wenngleich dieser gerade in einem Interview mit dem britischen „Economist“ Wohlstand und Überfluss für alle in zehn Jahren in Aussicht stellte. Im Kern zielen die jeweils skizzierten existenziellen Gefahren und Chancen darauf ab, dass die KI eben keine Erfindung oder Technologie wie viele andere ist, etwas prinzipiell anderes als Servolenkung, Heißluftfritteuse, Neoprenanzug, Homeoffice oder Verhältniswahlrecht. Von Neumann, der schon die Spieltheorie erfand Unter Singularität diskutieren Informatiker einen Moment, ab dem sich technischer Fortschritt quasi aus sich selbst heraus merklich beschleunigt, Technologie für den Menschen zumindest vorübergehend weniger begreifbar wird und darum auch einen enormen Veränderungsdruck auslöst – technisch, wirtschaftlich, gesellschaftlich, politisch. Wer heute von Singularität spricht, meint oft einen (hypothetischen) Wendepunkt der Technikgeschichte. Ab dann verfügen Maschinen oder technisch erweiterte Menschen über eine Intelligenz, die der natürlichen weit überlegen ist. Die Singularität ist deshalb nicht bloß eine andere Umschreibung für besonders leistungsfähige KI oder „Superintelligenz“. In ihr steckt auch nicht allein die Vorhersage, Rechner könnten irgendwann einmal alles besser als Menschen. Sie ist vielmehr die folgenreiche Vorstellung, eine Künstliche Intelligenz könne sich von da an selbst weiterentwickeln, und dies in womöglich atemberaubender Geschwindigkeit. Zuerst erwähnt haben soll den Ausdruck John von Neumann, allerdings mit einer wichtigen Einschränkung. Der ungarisch-amerikanische Ausnahmemathematiker, der auch in Deutschland studierte und lehrte und im Jahr 1957 starb, hinterließ darüber keinen ausgearbeiteten Aufsatz. Was er gesagt haben soll, ist durch den Mathematiker Stanisław Ulam überliefert. In einem im Jahr 1958 im „Bulletin of the American Mathematical Society“ erschienenen Nachruf erinnert sich Ulam an ein Gespräch mit von Neumann. Dieses habe sich um den „immer schneller werdenden Fortschritt der Technik“ und die sich verändernden menschlichen Lebensweisen gedreht. Diese Entwicklung erwecke den Anschein, auf eine „wesentliche Singularität in der Geschichte der Menschheit“ zuzulaufen, jenseits derer „die menschlichen Angelegenheiten“ nicht wie gehabt fortbestehen könnten. Eine „Intelligenzexplosion“ Der historische Kontext ist bedeutend. Von Neumann hatte sicher nicht ausdrücklich das heute unter Informatikern geläufige Szenario einer sich selbst verbessernden Superintelligenz vorausgedacht. Er lebte in einer Zeit der industriellen Beschleunigung, der Kernenergie, der ersten elektronischen Rechner. Von Neumann selbst gehörte zu den Architekten des Wandels, den all dies auslöste. Er ersann maßgeblich die Spieltheorie, nach ihm ist die bis heute gängige Computerarchitektur benannt, er war in die amerikanische Nuklearstrategie eingebunden. Von Neumanns Gedanke, wie ihn Ulam überliefert, drehte sich vermutlich eben nicht konkret um weiterentwickelte Informations- und Datenverarbeitungstechnologie. Sondern breiter um einen technischen Fortschritt, der bestehende Institutionen und Begriffe überfordern könnte. Der Science-Fiction-Autor und Mathematiker Vernor Vinge, der den Singularitätsbegriff erst richtig popularisierte und von dem später noch die Rede sein wird, wies einmal darauf hin: Von Neumann habe wohl an den normalen, immer schnelleren Fortschritt gedacht, nicht notwendigerweise daran, einen übermenschlichen Intellekt zu erzeugen. Dennoch enthält von Neumanns Bemerkung ein wichtiges Grundmotiv – der technische Wandel könnte womöglich einen Punkt erreichen, hinter dem Extrapolationen aus der Vergangenheit ihren Sinn verlieren. Ein anderer Forscher dachte konkret nach über Maschinen, die Maschinen erfinden, der britische Mathematiker und Statistiker Irving John Good. Er arbeitete während des Zweiten Weltkriegs in Bletchley Park mit Alan Turing und anderen daran, nazideutsche Funksprüche zu entschlüsseln, und forschte später über Wahrscheinlichkeitstheorie und Rechenmaschinen. In seinem Aufsatz „Speculations Concerning the First Ultraintelligent Machine“, erschienen im Jahr 1956 im sechsten Band der Reihe „Advances in Computers“, definierte er eine „ultraintelligente“ Maschine als eine Maschine, die „alle intellektuellen Tätigkeiten jedes noch so klugen Menschen bei Weitem übertreffen“ könne. Wenn der Mensch nicht die Grenze ist Darauf folgte die Schlussfolgerung, für die Good berühmt wurde. Weil auch der Bau von Maschinen eine intellektuelle Tätigkeit sei, könne eine ultraintelligente Maschine noch bessere Maschinen entwerfen. Es käme „zweifellos zu einer Intelligenzexplosion“, und die menschliche Intelligenz bliebe weit zurück. Daher sei die erste ultraintelligente Maschine „die letzte Erfindung, die der Mensch je zu machen braucht“ – vorausgesetzt, sie sei fügsam genug, ihm zu sagen, wie er sie unter Kontrolle halten könne. Dieser Nachsatz ist nicht nebensächlich. Darin stehen Verheißung und Verheerung unmittelbar nebeneinander. Die Maschine wäre ein universales Erkenntnis-Instrument, könnte aber wegen ihrer Überlegenheit nicht mehr wie ein gewöhnliches Werkzeug behandelt werden. Good schrieb in einer Zeit, in der Computer ganze Räume füllten und viele Aufgaben nur nach starrer Programmierung bewältigten. Er argumentierte darum nicht auf Basis dessen, was er selbst empirisch beobachtete, minikleine maschinelle Alleskönner existierten nicht. Er knüpfte eine logische Gedankenkette: Wenn eine hinreichend allgemeine Maschinenintelligenz möglich ist und wenn zu ihren Fähigkeiten gehört, Intelligenz zu verbessern, dann kann eine positive Rückkopplung entstehen. Good bewies also nicht, dass eine ultraintelligente Maschine gebaut werden kann. Er bewies auch nicht, dass sie sich selbständig verbessert. Er zeigte aber überzeugend und ziemlich allgemeinverständlich, warum es in diesem Fall um eine andere Automatisierungsqualität geht. Zum Vergleich: Ein Schachcomputerprogramm, das den Schachweltmeister schlägt, entwirft deshalb noch keine besseren Schachprogramme. Eine zu allgemeiner Forschung fähige Maschine könnte hingegen untersuchen, was die Bedingungen ihrer eigenen Leistungsfähigkeit sind, und diese dann versuchen zu verbessern. Das wäre kein gradueller Unterschied mehr, sondern ein kategorialer. Geist, Bewusstsein, Urteilskraft Wirklich populär und zu einem Gegenstand breiter Debatten haben indes weder von Neumann noch Good die Singularitätshypothese gemacht. Sondern Vernor Vinge. Er war Mathematiker, Informatiker und Science-Fiction-Autor. Er soll den Begriff im Jahr 1982 auf einer Tagung der amerikanischen Vereinigung für Künstliche Intelligenz genannt haben. Im darauffolgenden Jahr schrieb er darüber in der Science-Fiction-Zeitschrift „Omni“. Weltbekannt und viel zitiert wurde gleichwohl erst sein späterer Aufsatz „The Coming Technological Singularity: How to Survive in the Post-Human Era“. Vinge trug ihn im März des Jahres 1993 auf einem Symposium der amerikanischen Weltraumbehörde NASA vor; eine leicht veränderte Fassung erschien später in der „Whole Earth Review“. Vinge behauptete darin, die Menschheit stehe vor einer Veränderung, die mit dem Auftreten des Menschen auf der Erde vergleichbar sei. Er dachte darin über bewusstseinsfähige, übermenschlich intelligente Computer nach, über Schnittstellen zwischen Menschen und Rechnern und auch über biologische Verfahren zur Steigerung des natürlichen Intellekts. Er bezog die Singularität also nicht auf ein einzelnes KI-System. Seine zeitliche Wette war kühn. Übermenschliche Intelligenz werde, schrieb Vinge, binnen dreißig Jahren technisch möglich. Ihn würde es überraschen, wenn dieses Ereignis vor dem Jahr 2005 oder nach dem Jahr 2030 einträte. Vinge verstand unter Singularität aber mehr als extreme Beschleunigung – er meinte sozusagen einen neuen Erkenntnishorizont. Sobald übermenschliche Intelligenz den Fortschritt antreibe, müssten die alten Vorstellungen und Modelle verworfen werden. So wie ein Tier die menschliche Zivilisation nicht aus seinen tierischen Erfahrungen ableiten könne, könnten Menschen eine von überlegenen Intelligenzen gestaltete Ordnung nicht verstehen. Ein technikreligiöses Heilsversprechen Vinge, der vor zwei Jahren verstarb, sah darin nicht nur eine große Chance, sondern logischerweise auch eine Gefahr – ähnlich manchen gegenwärtigen Warnern. Er hoffte indes darauf, dass die Menschheit es schafft, dass kompetente Computer, Netzwerke und Schnittstellen im Kern menschliche Fähigkeiten verstärken. Zu erwähnen ist schließlich der Informatiker Ray Kurzweil, der im Jahr 2005 sein Buch „Die Singularität ist nahe“ veröffentlichte; so nahe war sie indes dann doch nicht. Bekanntlich blieben weder Good noch Vinge noch Kurzweil unwidersprochen. Und bekanntlich haben sich ihre Vorhersagen bislang nicht bewahrheitet. Die Kritik setzt(e) an mehreren Stellen an. Zunächst an der Idee, dass sich Geist, Gehirn, Bewusstsein, Verständnis, Kreativität, Urteilskraft und Lernfähigkeit letztlich auf digitalcomputerkompatible Berechnungen zurückführen lassen. Referenz ist dafür immer wieder ein Gedankenexperiment des verstorbenen Philosophen John Searle, das unter dem Namen „Das chinesische Zimmer“ in die Geschichte einging. Searle demonstrierte an einem Übersetzungsbeispiel, dass die regelgerechte Verarbeitung von Zeichen noch kein Verstehen oder Verständnis verbürgt. Fachleute verweisen überdies auf den Ausarbeitungen des Physik-Nobelpreisträgers Roger Penrose, der bestritt, dass menschliches Nachdenken vollständig algorithmisch erfassbar sei. Eine zweite grundsätzliche Kritik richtet sich gegen die Idee, gerade die gegenwärtigen KI-Systeme könnten auf diesem Weg eigenständig voranschreiten. Denn sie müssten ja nicht bloß ihre eigene Struktur und Architektur verstehen und Wege finden, beides zu verbessern. Sondern auch in der Lage sein, die dafür nötige Hardware zu konstruieren und zu erstellen, also beispielsweise für ausreichend Elektrizität und Computerchips zu sorgen. Sie müssten also in die gegenwärtig äußerst kleinteiligen internationalen, menschlich organisierten Lieferketten eingreifen können. Selbst eine brillante Software kann physische Flaschenhälse ja nicht einfach weg berechnen. Ein dritter Kritikpunkt fokussiert auf den mitunter religiösen Pathos, mit dem Singularitätserzählungen daherkommen. Auf technologische Heilsversprechen, die mitunter durchaus abgegeben werden, um von akuteren, unmittelbaren Problemen abzulenken. Und die auch dazu dienen, gegenwärtige Einschränkungen oder Entbehrungen mit dem Hinweis akzeptabler zu machen, dass dafür irgendwann alle wohlhabender sein werden. Und schließlich gibt es eine breite, sehr konkrete und detaillierte Diskussion innerhalb der Forschergemeinde darüber, wie sich die gerade so angesagten großen KI-Modelle weiterentwickeln lassen. Dass der Schlüssel bloß darin liegt, sie immer größer zu machen und mit noch mehr Daten und Rechenleistung zu trainieren, halten viele für unwahrscheinlich. Da geht es aber auch nicht allein um die Frage, die hinter der Singularitäts-Hypothese steckt, sondern viel näherliegender darum, wie sich KI-Systeme entwickeln lassen, die einfach nur besser als die gegenwärtigen sind. Sam Altman wiederum ist nicht der Einzige, der von der Idee nun neu fasziniert scheint. Auch Meta-Gründer Mark Zuckerberg hat für hohe Gehälter ein KI-Team zusammengestellt, das sich ausdrücklich um das Thema Superintelligenz kümmern soll. Dahinter steht, dass die aktuellen Modelle eben schon über erstaunliche Fähigkeiten verfügen, die teils unkontrolliert und unbemerkt ablaufen – was sich nicht zuletzt am dramatischen Cyberangriff der Open-AI-Systeme zeigte, der gerade öffentlich geworden ist.