Diskursmaschinen: Wie man mit Michel Foucault KI besser versteht

Wer wissen möchte, was Michel Foucault, der Mann, der sich so intensiv mit der Macht der Sprache auseinandergesetzt hat, von sogenannten Sprachmodellen halten würde, von einer Technologie also, die ihre Macht der Verarbeitung und Erzeugung von Texten verdankt, der kann heute die Sprache selbst befragen, jedenfalls das, was davon in die Modelle eingespeist wurde. Was dabei herauskommt, klingt erst mal ziemlich plausibel: Foucault würde diese Large Language Models (LLMs) „als mächtige Diskursproduzenten betrachten, die bestehende Macht-Wissen-Netzwerke automatisieren, normieren und reproduzieren“, schreibt das LLM Gemini. Claude sagt, LLMs wären für ihn ein „Paradebeispiel für eine neue ‚Diskursproduktionsmaschine‘“ und fügt hinzu: „Er hätte wohl gefragt: Wessen ‚Wahrheitsregime‘ reproduziert so ein Modell eigentlich?“ Und ChatGPT spekuliert: „Foucault würde fragen: Welche Stimmen, Kategorien und Normen sind in diesen Daten enthalten – und welche fehlen?“

Eine der Stimmen, die auffällig fehlt, ist jene von Michel Foucault, der heute in der öffentlichen Debatte fast nur noch auftaucht, wenn Leute, die seine Texte unabsichtlich oder bewusst nicht verstanden haben, einen Sündenbock für die Erschütterung der Wahrheit und die allgemeine Vertrauenskrise der Institutionen suchen. Dabei wäre sie extrem erhellend, wenn man die Wirkungsweise der Sprachmodelle beschreiben will. Wenn man einer Antwort auf eine Frage näher kommen möchte, die, jedenfalls der allgemeinen Hysterie zufolge, heute zu den wichtigsten überhaupt gehört, die die Gesellschaft beantworten muss: Wer spricht da überhaupt, wenn Künstliche Intelligenz spricht? Wer ist dieses komische „Ich“, als das sich die Chatbots ausgeben? Ist da wirklich irgendwo ein Selbst im Inneren der Maschinen? Kann sich, vielleicht nach noch ein paar weiteren Feedbackschleifen, eines entwickeln? Was wäre, um es mit den exakten Worten Foucaults zu sagen, statt ihn nur zu paraphrasieren, wie es die Modelle tun, dessen Macht und dessen Begehren? Oder plappern die Plappermaschinen doch nur Wortfolgen aus den Archiven nach und modellieren sie? Aber wenn ja: nach welchem Modell? Welchen Regeln und Mustern folgt das wiederum? Und was ließe sich daran ablesen?

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

F.A.Z. bei Google bevorzugen

Die Werkzeuge der Diskursanalyse wären nützlich

Foucaults Stimme fehlt, und sie fehlt genau auf jene Weise, wie er solche Marginalisierungen beschrieben hat: Niemand zensiert sie, niemand verbietet ihr zu sprechen, sie wurde nicht einmal vergessen; auch die KI-Modelle haben längst alle von Foucaults Texten verschlungen. Sie ist einfach kaum noch gefragt. Dabei wäre diese Stimme enorm wichtig in einer Zeit, in der die Diskursproduktion zur vielleicht wichtigsten Industrie geworden ist. Nicht weil er so ein einmaliger Denker gewesen wäre – schon der Respekt vor seiner Skepsis gegen die Figur des Genies verbietet ja, ihn so zu sehen. Aber man muss sich schon fragen, warum heute in der Debatte um die Funktionsweise sogenannter Künstlicher Intelligenz so selten auf Foucaults gut sortierten „Werkzeugkasten“ zurückgegriffen wird, wie er sein Instrumentarium einmal nannte, um den Unterschied zu einer „Theorie“ oder „Methode“ deutlich zu machen.

Man könnte das einfach mit der gängigen Diagnose erklären, dass Foucaults Ansichten, wie überhaupt all diese gefährlichen postmodernen Angriffe auf die Vernunft, nur eine Blüte ihrer Zeit waren, ein Denken, das sich spätestens in unserer „postfaktischen Epoche“ erledigt hatte, als Zweifel an Konzepten wie Objektivität und Wahrheit zur Strategie der Mächtigen geworden waren. Aber das erklärt noch nicht, warum man, um explizit als künstlich deklarierte Texte zu analysieren, ausgerechnet auf einen Humanismus zurückfällt, dem Foucault so sehr misstraute? Warum kehrt die hermeneutische Suche nach Sinn und Bedeutung mit einer solchen Wucht zurück, dass man sogar Rechenmaschinen Motive und Absichten oder gar emotionale Fähigkeiten unterstellt?

Man kann ja darüber streiten, ob die Diskurse, die Foucault untersucht hat, wirklich nur von Machtstrukturen und Ausschlussmechanismen geprägt sind. Ob sie nicht doch vorsprachliche Innerlichkeiten offenbaren, die untrennbar mit Identität oder Erfahrung verbunden sind, mit den verletzlichen Körpern und der individuellen Seele ihrer Urheber. Aber dass die romantische Idee von Kreativität und Autorschaft einmal auch auf Maschinen übertragen werden würden, auf Programme, die nur „ein System für mögliche Aussagen“ bilden, „eine endliche Menge von Regeln, die eine unendliche Zahl von Performanzen gestattet“, wie Focault in „Die Archäologie des Wissens“ schreibt: Das hätten damals wohl nicht einmal seine Kritiker gefordert. Ihr Vorwurf, Foucault würde den Menschen nur auf eine Marionette der herrschenden Wissensordnung reduzieren, ist jedenfalls kaum haltbar, wenn man es tatsächlich mit digitalen Marionetten zu tun hat, mit Systemen, denen ja gerade jene, die unbeirrt an den Menschen glauben, bescheinigen, dass er darin „verschwindet wie am Meeresufer ein Gesicht im Sand“.

Das seltsame Comeback der Hermeneutik

Sogar die Kybernetiker Warren McCulloch und Walter Pitts würden sich wohl wundern, dass ihre Theorie der neuronalen Netze einmal so umgedeutet werden würde, dass man Maschinen ein Bewusstsein andichtet. Sie wollten genau das Gegenteil zeigen: Dass ein Gehirn wie ein Computer funktioniert. Heute hat sich diese Analogie umgekehrt: Nicht das mechanistische Weltbild hat sich durchgesetzt, sondern die gute alte humanistische Idee, dass es hinter der Sprache jemanden geben muss, der uns etwas sagen will. Nicht nur in den Gutachten der KI-Experten dominiert die Rhetorik, dass die Computersysteme irgendetwas wollen, denken oder sogar fühlen, dass sie einen Charakter haben oder entwickeln können, zu Freunden oder zu Schurken werden. Auch diejenigen, die diese Vermenschlichung zu Recht grotesk finden, stellen ihr gern die unersetzliche Sinnlichkeit menschlicher Expressivität und „echter“ Emotionalität entgegen. Foucault würde diesen KI-Skeptikern zwar zustimmen, wenn sie davon sprechen, dass LLMs nur „stochastische Papageien“ sind, um eine andere gängige Metapher aufzugreifen. Nur würde er wohl hinzufügen: „Aber das sind wir alle“.

Dieser Text stammt aus der Frankfurter Allgemeinen Sonntagszeitung.

F.A.S. jetzt lesen

Aber noch auf einer anderen Ebene scheinen die Praktiken der KI-Entwickler Foucaults Beschreibungen so sehr zu entsprechen, dass man meinen könnte, sie hätten seine Bücher als Gebrauchsanweisung gelesen: Der Begriff, mit dem man die Methode bezeichnet, das Verhalten der Modelle in bestimmte Bahnen zu lenken und ihre Sprache zu disziplinieren, klingt, als hätte ihn sich Foucault ausgedacht: „Alignment“ nennt man den Versuch, sie an bestimmten Normen „auszurichten“ – nicht nur an „menschlichen Werten“ und ethischen Standards, wie ihre Hersteller so gern betonen, sondern natürlich auch an kommerziellen Interessen und anderen Vorgaben.

Woher kommt die Idee der „Ausrichtung“ von Sprachmodellen?

Nun braucht man nicht unbedingt Foucaults Werkzeugkasten, um den Motor hinter dieser Ausrichtung auseinanderzunehmen. Schließlich stecken ja konkrete Programmierungen hinter dem Training der Modelle, nicht unbewusste Muster oder schwer sichtbare Regelmäßigkeiten, „Bündel von Beziehungen“, wie sie Foucault beschrieb. Wenn man erkennen will, warum Chatbots Unsinn reden, die Aussage verweigern, „Ich“ sagen oder so penetrant Freundlichkeit vortäuschen, dass man aggressiv werden kann, muss man nicht nach verborgenen Verbindungen in den Schichten der Vektorräume suchen. Man müsste nur einen genaueren Einblick in die Entscheidungen haben, mit denen die Modelle dressiert werden, müsste erfahren, welche Prinzipien man jenen Menschen vorgibt, deren Bewertung in der Praxis des Reinforcement Learning from Human Feedback die Modelle „feinabstimmen“ soll, welche Begriffe oder „Ansichten“ sie nicht äußern dürfen, welche Werte man ihnen genau beibringen will.

Dann aber bliebe man auf der Ebene reiner Ideologiekritik. Auch die ist sicher notwendig, denn ohne Frage gestalten die KI-Unternehmen ihre Angebote nach Absichten, die sie nicht offenbaren wollen. Die interessantere Frage aber ist, welche Einflüsse diese Vorstellungen überhaupt formen, welche vermeintlichen Wahrheiten und Weltanschauungen, welche Institutionen, Praktiken oder Technologien. Warum glauben die Programmierer etwa an die Illusion, sie könnten die Sprache ihrer Maschinen, die sich doch aus Millionen von „subjektiven“ Texten ergibt, von Voreingenommenheit befreien? Welche Programmierung gibt ihnen selbst das Ziel vor, dass diese Sprache helpful, honest und harmless sein soll, wie es in den meisten Alignment-Schulbüchern heißt? Durch welche Kultur, welche Codes, welche Debatten sind sie subjektiviert worden? Und wenn all das Gerede über die existenziellen Risiken oder die Notwendigkeit von Sicherheitsmaßnahmen nur Rhetorik ist: Beweist das nicht erst recht, dass man gar kein falsches Bewusstsein haben muss, um sich dem Diskurs zu unterwerfen?

Wenn Zeichen Sachen machen

Es geht bei der Beschreibung solcher Dynamiken, solcher „Prozeduren, deren Aufgabe es ist, die Kräfte und die Gefahren des Diskurses zu bändigen, sein unberechenbar Ereignishaftes zu bannen, seine schwere und bedrohliche Materialität zu umgehen“, wie Foucault in „Die Ordnung des Diskurses“ schreibt, nicht darum, ihnen zu entkommen – jedenfalls nicht, indem man glaubt, das trügerische Ideal eines „herrschaftsfreien Diskurses“ herstellen zu können. Es kommt, und das ist die vielleicht wichtigste Pointe des Denkens von Michel Foucault, weniger darauf an, was solche Diskurse unterdrücken, sondern um das, was sie produzieren: welche Selbstbilder und Positionen sie erzeugen, welche Wahrheitsregime und Figuren. Wie das Gefängnis die Kriminologie hervorbrachte, und die Klinik die moderne Psychiatrie, schafft der KI-Diskurs eine neue Wirklichkeit – wenigstens im Sinn jener „Sachen“, die Foucault mit seinem Titel „Les mots et les choses“ meint. Und auch wenn man solche Verschiebungen im Auge des Sturms nicht besser sieht, kann man in der Debatte um die „Künstliche Intelligenz“ sogar während man sich gerade mittendrin befindet, erkennen, was er mit „Subjektivierung“ meint, so surreal kommt einem die Unterwerfung unter die angebliche Realität vor: die bemerkenswerte Autorität, mit der Metaphern wörtlich genommen und Fiktionen zu Fakten gemacht werden, die Empfänglichkeit für die neuen Autoritäten und die Macht ihrer öffentlichen Rede.

Noch ist nicht abzusehen, ob einem der aktuelle Diskurs über das „Wesen“ der KI einmal so sonderbar vorkommen wird wie die Verfahren, mit denen heute für obsolet erklärte Anschauungen der Medizin einmal versuchten, die Geheimnisse einer anderen Blackbox zu erforschen: die des menschlichen Körpers. Wie sie Gehirne wogen oder aufbrachen, um „die stumme Welt der Eingeweide, die ganze schwarze Innenwelt des Körpers“, zum Sprechen zu bringen. Oder ob im Gegenteil die Irritationen über diese Auslegungen, deren Künstlichkeit noch erkennbar ist, solange sie sich noch nicht völlig etabliert haben, verschwinden werden, weil sie selbst von einem neuen Dogma an den Rand gedrängt worden sein werden. Die Aufgabe, schreibt Foucault in „Die Archäologie des Wissens“, bestehe darin, die Diskurse als „als Praktiken zu behandeln, die systematisch die Gegenstände bilden, von denen sie sprechen. Zwar bestehen diese Diskurse aus Zeichen; aber sie benutzen diese Zeichen für mehr als nur zur Bezeichnung der Sachen. (…) Dieses mehr muss man ans Licht bringen und beschreiben.“ In einer Zeit, in der die Zeichen immer unglaublichere Sachen machen, wäre das mehr denn je die Aufgabe.