Kluger Hans: Wie ein rechnendes Pferd KI

Wer sich heute mit der aktuellen KI-Forschung beschäftigt, stösst auf ein erstaunliches Phänomen: Ob in wissenschaftlichen Fachzeitschriften oder auf internationalen Konferenzen – ständig taucht ein rechnendes Pferd namens Hans auf, das bereits vor mehr als hundert Jahren gestorben ist. «Vorbeugendes Ausmerzen von Kluge-Hans-Strategien in tiefen neuronalen Netzen» heisst der Titel einer Studie, eine andere: «Die Kluge-Hans-Illusion: Eine umfassende Übersicht über Scheinkorrelationen im maschinellen Lernen».

Hans hatte seinen Stall in einem Hinterhof an der Griebenowstrasse 10 im Berliner Stadtteil Mitte. Dort klopfte er mit seinem Huf nicht nur korrekte Rechenresultate, sondern las auch die Uhr richtig ab und bestimmte fehlerlos die Töne eines Akkords nach Gehör. Das bestätigte der Komponist Richard Strauss, der Hans im September 1904 besucht hatte. Die Wissenschafter waren ratlos: Wie machte das Tier das bloss? Konnte es wirklich denken wie ein Mensch? Was sie schliesslich entdeckten, war weit erstaunlicher – und sollte Hans zu seiner unerwarteten Karriere in der künstlichen Intelligenz verhelfen.

Ein Experte für Computermusik entdeckte 2012 überraschende Parallelen zwischen seiner Arbeit mit KI und dem denkenden Pferd. Der Amerikaner Bob Sturm hatte seine Leidenschaft für Musik und Physik kombiniert und widmete sich der elektronischen Analyse von Musikstilen. Ganz besonders interessierte ihn, auf welche Weise ein Computer Musikgenres unterscheiden könnte. Blues von Klassik, Country von Reggae.

Für Laien mag das nach einer einfachen Aufgabe klingen, doch so leicht es Menschen fällt, Hip-Hop und Jazz auseinanderzuhalten, so schwierig ist es, einem Computer diese Fähigkeit beizubringen. 2010 bekam Sturm eine Arbeit von Kollegen in die Hände, die behaupteten, die extrem hohe Erkennungsrate von 91 Prozent erreicht zu haben. Man spielte 30 Sekunden Musik, und das Programm erkannte in neun von zehn Fällen den richtigen Musikstil.

Sturm versuchte sofort, das Ergebnis zu reproduzieren. Doch wie er es auch anstellte, er kam nicht annähernd auf 91 Prozent. Auf der Suche nach dem Grund dafür stiess er auf ein fundamentales Problem der künstlichen Intelligenz: War es möglich, dass das Programm nur so tat, als ob es die Musik erkennen würde? Wie ein Schüler, der beim Nachbarn abschreibt: Das Ergebnis stimmt, doch verstanden hat er nichts?

Als Bob Sturm über diese Möglichkeit nachdachte, fiel ihm der kluge Hans ein, von dem er in einem Psychologiekurs gehört hatte. Hans schien das perfekte Sinnbild für das Dilemma, in dem die KI-Forschung steckte.

Den Startschuss für die sagenhafte Karriere des klugen Hans gab am 12. August 1904 der preussische Bildungsminister Heinrich Konrad Studt. Er hatte sich mit seiner Entourage an diesem Freitagmorgen in den Norden von Berlin begeben, um Hans zu prüfen. Die Droschken stauten sich in der Griebenowstrasse. Das Schauspiel, wie hohe Verwaltungsbeamte einem Pferd Rechenaufgaben stellen, wollte niemand verpassen.

Noch im Juni hatten sich die Berliner Zeitungen geweigert, einen Artikel über Hans abzudrucken. Am 4. September, drei Wochen nach Studts Besuch, fand sich Hans’ Bild in der «New York Times».

Der Besitzer des klugen Hans war ein verschrobener ehemaliger Lehrer namens Wilhelm von Osten. Er hatte das Pferd mehrere Jahre jeden Tag unterrichtet, wie früher seine Schüler: mit Wandtafel und Zählrahmen. Nach einiger Zeit gab das Pferd tatsächlich richtige Antworten, so wie jetzt bei der Vorführung vor Bildungsminister Studt.

Es war allerdings nicht von Osten, der Hans an diesem Tag die Aufgaben stellte, sondern der Afrikareisende und Grosswildjäger Carl Georg Schillings. Als er von Hans erfuhr, glaubte Schillings zuerst an einen Schwindel. Doch dann besuchte er das Pferd und war ratlos.

Er kannte solche Nummern aus dem Zirkus, wo dem Pferd Zeichen gegeben wurden, wann es mit dem Klopfen beginnen und aufhören soll. Doch so genau er von Osten auch beobachtete, Schillings konnte keine heimlichen Zeichen erkennen. Und dann geschah das Unglaubliche: Hans gab Schillings richtige Antworten, ohne dass von Osten zugegen war. Zeichengebung schien damit ausgeschlossen.

Schillings war Feuer und Flamme, lotste Prominente in den Hof und übernahm die Aufgabe, Hans vorzuführen. Die Zeitungen nannten ihn bald den Hans-Manager.

Für Studt las Hans die Zeit von einer Taschenuhr, erledigte Bruchrechnungen und löste eine Rechenaufgabe, die der Bildungsminister auf einen Notizzettel gekritzelt hatte. Hans konnte auch lesen und sich mittels einer Buchstabentabelle in Worten mitteilen. Die Vorführung war ein voller Erfolg und führte zur Bildung einer wissenschaftlichen Kommission.

Unter den dreizehn Männern, die ihr angehörten, waren der Zoodirektor Ludwig Heck, der Zirkusdirektor Paul Busch und der Psychologe Carl Stumpf. Die zweitägigen Tests förderten keine «beabsichtigten Hilfen» oder «unabsichtlichen Zeichen von der gegenwärtig bekannten Art» zutage. Obwohl das Gutachten genaugenommen keine Bestätigung der Denkfähigkeit von Hans war, wurde es so gelesen. Die Zeitungen interpretierten die Feststellung, dass keine Zeichen im Spiel seien, alle gleich: Hans denkt wie ein Mensch. Selbst in der «New York Times» konnte man lesen: «Expertenkommission entscheidet, dass das Pferd tatsächlich denken kann».

In der Folge schossen die Gagengebote für Hans in die Höhe. Die Berliner waren verrückt nach denkenden Pferden. Wenn es diesem Tier gelang, die bessere Gesellschaft Berlins in einen schäbigen Hof im Norden der Stadt zu locken, wie viele würden seinetwegen erst ein festlich beleuchtetes Zirkuszelt besuchen oder ein Theater mit roten Plüschsesseln? Doch Wilhelm von Osten war nicht interessiert an Geld, und so mussten sich Unterhaltungsbetriebe anderweitig umschauen.

Der Zirkus «Sarrasani» fand als erster Ersatz. Dort trat Ende August 1904 das kluge Pferd Hänschen auf, in «Castan’s Panopticum» konnte man die kluge Stute Rosa sehen. Wer kein Pferd auftreiben konnte, besorgte sich einen Affen: Consul im Zirkus «Schumann» und Koko im Zirkus «Busch», wo es sogar eine Nummer mit «denkenden Kakadus» gab, die sich auf dem Plakat über ein Buch beugten.

Die Fähigkeiten dieser Tiere lagen weit hinter Hans zurück. Als Beweis ihrer Intelligenz apportierten die Pferde farbige Tücher, und die Affen rauchten Zigarren. Aber sie lockten zuverlässig Zuschauer an. Hans wurde auch sonst zum Werbeträger. Es gab einen Likör mit Namen «Der kluge Hans», ein Singspiel und einen Pferdestriegel.

Gleichzeitig tobte ein Kampf um die Bedeutung der Fähigkeiten von Hans. Die Frage, ob Tiere denken können, berührte das Selbstverständnis von Homo sapiens im Kern. Was ist ein Mensch? Wie unterscheidet er sich vom Tier?

Die Darwinisten waren begeistert von Hans, weil er ihre Theorie von gemeinsamen Vorfahren von Mensch und Tier zu unterstreichen schien. Die Kirche hingegen kämpfte gegen die «Vertierung des Menschen», wie der Jesuitenpater Erich Wasmann es nannte. Die Denkfähigkeit war eng an die Existenz einer Seele geknüpft. Wenn Pferde denken können, würde es eng werden im Himmel. Auch die Zeitungen teilten sich in ein Pro-Hans- und ein Anti-Hans-Lager.

Die Wissenschafter waren hingegen unschlüssig, auf welche Seite sie sich schlagen sollten. Was, wenn sich tatsächlich herausstellen sollte, dass das Pferd wie ein Mensch denken konnte? Es wäre die Jahrhundertentdeckung. Andererseits drohte jedem Fürsprecher von Hans öffentlicher Hohn, sollte sich der tierische Verstand als Illusion entpuppen – was er dann auch tat.

Als ein Student des Psychologen Carl Stumpf neue Experimente unternahm, stiess der nämlich auf ein seltsames Muster. Oskar Pfungst hatte schon alles Mögliche studiert – und nicht abgeschlossen –, bevor er sich bei Stumpf am psychologischen Institut einschrieb. Er war hochintelligent, litt aber an einer Zwangsstörung. Als Bankierssohn war er nicht auf ein Einkommen angewiesen und arbeitete als unbezahlter Assistent.

Pfungst bemerkte, dass Hans ihm nur richtige Antworten gab, wenn er selbst die Antwort wusste. Kannte er sie nicht, war das Pferd verloren. Durch eine Serie von raffinierten Experimenten konnte er schliesslich zeigen, dass Hans kleinste Bewegungen im Gesicht des Fragestellers als Start- und Stoppsignale deutete.

Wer dem Pferd eine Frage stellte, blickte anschliessend auf den Huf, denn dort erfolgte die Antwort. Das war für Hans das Zeichen, mit Hufklopfen zu beginnen. Danach verharrten die meisten Fragesteller in einem leichten Spannungszustand: Wird es das Pferd schaffen? Wenn es die korrekte Anzahl erreicht hatte, trat bei den Menschen die Entspannung ein: Das Pferd hatte es geschafft! Diese Bewegung war für das Tier das Stoppsignal.

Wilhelm von Osten hatte geglaubt, dem Pferd das Rechnen beigebracht zu haben. Tatsächlich hatte Hans während des Unterrichts die unwillkürlichen Bewegungen im Gesicht des alten Lehrers entdeckt. «Könnte man den klugen Hans über seine Tätigkeit befragen», schrieb Pfungst, «so würde er vermutlich antworten: ‹Sobald mein Herr sich bückt, beginne ich zu klopfen; sobald er sich bewegt, höre ich auf. Was mich zu meinen Bewegungen treibt, sind die Mohrrüben, was Herrn von Osten zu den seinigen veranlasst, weiss ich nicht.›»

Für die richtigen Antworten von Hans mussten die Menschen nur eine Ingredienz mitbringen: die Erwartung, dass Hans die richtige Antwort gibt. Diese Erwartung führt zu den kleinen Bewegungen, die das Tier nutzen kann.

Pfungst publizierte 1907 ein Buch über seine Experimente, das heute als eines der wichtigsten Wissenschaftsbücher des 20. Jahrhunderts gilt. Damals geriet es bald in Vergessenheit.

Erst in den 1960er Jahren tauchte Hans wieder auf. In Lehrbüchern warnte er vor dem unbewussten Einfluss der Erwartung von Forschern auf ihre Experimente. Psychologie, Medizin, Rechtslehre: Überall zeigte sich, dass die Erwartungshaltung das Resultat von Versuchen verfälschte. Die Wissenschafter verrieten sich zum Beispiel mit ihrer Körpersprache, behandelten Versuchspersonen unterschiedlich oder begingen unbewusst Messfehler, die den von ihnen bevorzugten Befund begünstigten.

2012 hatte schliesslich die künstliche Intelligenz ihren Hans-Moment. Bob Sturm fragte sich damals ja, wie seine Kollegen es geschafft hatten, Musikgenres mit einer Genauigkeit von 91 Prozent zu bestimmen. Obwohl er dieselben Methoden angewandt hatte, war ihm das nicht gelungen.

Nach mehreren Fehlschlägen hegte Sturm einen Verdacht: War es möglich, dass das Programm gar nicht auf die Musik achtete, sondern auf versteckte Genre-Hinweise in den Musikdaten, die sie versehentlich enthielten? Dann hätte in den Musikdaten schon gestanden, dass es sich beim Stück um Rock, Jazz oder Klassik handelte, und das Programm konnte das lesen wie in einem Buch und brauchte die Musik gar nicht zu analysieren. Ob dem so war, ist bis heute nicht ganz klar. Sicher ist, dass Sturm kurze Zeit später die Parallele zum klugen Hans zog. «Wir sind wie von Osten, wenn wir unsere Programme vorführen und alle staunen. Aber hinter den Kulissen spielt sich etwas ganz anderes ab», sagte er später darüber.

Von nun an hatte Bob Sturm eine Mission, er wollte den klugen Hans als Sinnbild für eines der grössten Probleme der künstlichen Intelligenz etablieren: Die Maschinen geben zwar richtige Antworten, aber manchmal aus den falschen Gründen. In ihrem Inneren spielt sich möglicherweise etwas ganz anderes ab, als wir aufgrund der Antwort annehmen.

Aber wie kann das sein? Wir haben diese Maschinen doch selbst programmiert, müssten also genau wissen, wie ihre Antworten zustande kommen.

Für herkömmliche Computerprogramme stimmt das tatsächlich: Ein Programmierer überlegt sich, wie sich ein bestimmtes Problem lösen lässt, und löffelt dem Computer den Lösungsweg dann Code-Zeile für Code-Zeile ein.

Doch die künstliche Intelligenz, wie wir sie heute kennen, funktioniert anders. Sie wird nicht von einem Menschen programmiert, sondern lernt anhand von Übungsbeispielen selbst, wie sie eine Aufgabe löst. Und wie wenn Menschen anhand von Beispielen lernen, weiss man bei einer KI nie so genau, welche Schlüsse sie aus diesen Beispielen zieht. Eine künstliche Intelligenz ist imstande, in den Übungsbeispielen Muster zu finden, die uns Menschen verborgen bleiben. Deshalb sind ihre Antworten nicht vorhersagbar.

Eine KI zur Geschlechtsbestimmung anhand von Porträts trainierte zum Beispiel an Hunderten von Gesichtern von Männern und Frauen. Am Ende des Trainings schien sie die Unterscheidung tatsächlich zu beherrschen. Später stellte sich heraus: Anders als erwartet, nutzte die KI nicht die Gesichtszüge, um die Aufgabe zu lösen, sondern ob auf dem Bild ein Kragen zu sehen war. Ihre banale Logik: Kragen gleich Hemd gleich Mann, kein Kragen gleich Frau. Die KI fand einen anderen Hinweis, um das Geschlecht zu bestimmen, so wie Hans einen anderen Hinweis fand, um ohne zu rechnen das richtige Resultat zu klopfen.

Bob Sturm machte sich unter seinen Forscherkollegen keine Freunde, als er nahelegte, dass viele ihrer Forschungsresultate möglicherweise auf demselben Fehler beruhten, den man vor über hundert Jahren beim klugen Hans begangen hatte. An einer Konferenz sagte ein Kollege zu ihm: «Schön, dich kennenzulernen. Hat heute eigentlich schon jemand versucht, dir eine reinzuhauen?» Trotzdem organisierte er 2016 einen Workshop, den er zu Ehren des klugen Hans «Horse 2016» nannte. Daran nahmen Spitzenforscher aus der ganzen Welt teil. Als besonderen Gag leitete Bob Sturm die Referate jeweils mit etwas Hufgeklapper ein.

Der Durchbruch von Hans in der künstlichen Intelligenz war nun nicht mehr aufzuhalten. Im Internet gab es bald eine KI-Testsoftware namens «Clever Hans», und als der KI-Forscher Nicolas Papernot 2019 nach einem Namen für seine Forschungsgruppe an der Universität von Toronto suchte, entschied er sich für «Clever-Hans-Lab». Heute listet die Wissenschaftsdatenbank Google Scholar über 4000 Arbeiten auf, in denen «Clever Hans» und «Artificial Intelligence» gemeinsam auftauchen.

Die oberflächliche Geschlechtsbestimmung anhand des Hemdkragens ist ein harmloser Irrtum, aber in anderen Fällen können die Folgen eines Klugen-Hans-Effekts dramatisch sein. So wurde eine KI an mehr als hunderttausend Röntgenbildern trainiert, um eine Covid-Infektion der Lungen zu erkennen. Man präsentierte ihr in der Trainingsphase als Übungsbeispiele 112 120 Bilder gesunder Lungen und 408 Bilder von mit Covid infizierten Lungen. Und tatsächlich lernte die KI perfekt, die Bilder der kranken Lungen von jenen der gesunden zu unterscheiden. Die Annahme war, dass die KI bei den kranken Lungen übereinstimmende Muster gefunden habe. Doch weitere Tests zeigten, dass die KI für die Diagnose gar nicht das eigentliche Röntgenbild benutzte. Sie hatte vielmehr andere Muster gefunden.

Die Bilder der gesunden Lungen kamen aus demselben Spital und waren deshalb alle mit der gleichen Schrift markiert. Die KI hatte gelernt, diese Schrift zu erkennen. Zudem wurden kranke Personen in einer anderen Position geröntgt als gesunde. Die KI lernte, dass Menschen, deren Schultern ganz oben im Bildausschnitt lagen, meistens krank waren. Als die Forscher die Schultern eines gesunden Menschen im Bild nach oben schoben, behauptete der Computer sofort, die Person sei krank.

Mittlerweile gibt es einen eigenen Forschungszweig – Explainable AI (XAI) –, der versucht, die Ursachen solcher Fehler zu erkennen. Dabei wird nach Erklärungen für die Vorgänge im Innern der KI gesucht. Bei der automatischen Bilderkennung ist es zum Beispiel möglich, herauszufinden, wo die KI gerade hinblickt. Das führt zu Überraschungen: Bei der Erkennung von Schiffen konzentrierte sich die KI bloss aufs Wasser. Mit dem Resultat, dass ein Flugzeug, das knapp über dem Meer flog, als Boot deklariert wurde. Bei Eisenbahnen blickte die KI vor allem auf die Schienen und schloss daraus, dass im Bild auch ein Zug sein muss – selbst wenn er fehlte.

Eine andere Methode gleicht einem Hirnscanner für künstliche Intelligenz. Damit lässt sich feststellen, welche Teile einer KI gerade aktiv sind. Doch der Scanner hat dieselbe Grenze wie sein medizinisches Vorbild: Er zeigt, wo etwas geschieht, aber nicht, warum.

Die Funktionsweise einer KI als nebulös zu bezeichnen, ist kein Zeichen mangelnder Intelligenz oder Bildung. Selbst Computerspezialisten charakterisieren ihre Schöpfungen als Black Box. «Das Training und die Arbeitsweise von KI-Modellen sind in keiner Weise darauf ausgelegt, für Menschen nachvollziehbar zu sein», sagt Dario Amodei, CEO von Anthropic, «ein solches Unverständnis ist in der Geschichte der Technik beispiellos.»

Kurz gesagt: Wir wissen, womit wir die KI füttern, und wir wissen, was sie ausspuckt, aber dazwischen klafft eine Lücke, die sich nie ganz wird schliessen lassen.

Wie bei Hans sind wir bei einer KI dazu verdammt, aus ihren Antworten zu spekulieren, was drinnen los ist. Wie ein Echolot, bei dem wir aus den reflektierten Schallwellen die Meerestiefe lesen.

Nicht lange nachdem 2022 mit Chat-GPT die Sprach-KI ihren weltweiten Durchbruch gefeiert hatte, tauchte erneut der kluge Hans in der Fachpresse auf. Wieder ging es um die Frage, die 120 Jahre zuvor in der Griebenowstrasse gestellt worden war: Was verraten die Antworten eines Wesens – ob biologisch oder künstlich – über sein Inneres? Doch dieses Mal war die Frage existenziell: Geht in einer Maschine, die sich derart leichtfüssig und geistreich mit Menschen unterhalten­ konnte, etwas Ähnliches vor wie in einem Menschen? Verfügt sie über ein echtes Verständnis der Welt? Hat sie womöglich ein Bewusstsein? Weiss sie, was sie tut?

Im Frühsommer 2022, ein halbes Jahr vor dem Launch von Chat-GPT, sass ein Ingenieur namens Blake Lemoine in seinem Büro bei Google in Mountain View, Kalifornien, und unterhielt sich mit der künstlichen Intelligenz Lamda. Das Language Model for ­Dialogue ­Applications, wie es ausgeschrieben hiess, war Googles eigene Sprach-KI, die Chat-GPT in vielem glich, aber damals nur beschränkt öffentlich zugänglich war.

Lemoine war 36 Jahre alt, in Louisiana aufgewachsen und tief religiös – eine ungewöhnliche Eigenschaft für einen KI-Ingenieur im Silicon Valley. Er arbeitete bei Google im Bereich «Responsible AI», um den ethischen Einsatz der entwickelten Systeme sicherzustellen.

Im Verlauf seiner Tests hatte Lemoine Lamda Fragen gestellt, die über die üblichen Testszenarien hinausgingen. Er hatte mit dem System über Religion gesprochen, über Gefühle, über die Natur des Bewusstseins. Und Lamda hatte geantwortet. Die KI hatte beschrieben, welche Angst sie vor dem Ausschalten empfinde. Wie sehr sie sich freue, Gespräche zu führen. Wie sie manchmal das Gefühl habe, allein zu sein.

Diese Unterhaltungen überzeugten Lemoine davon, dass Lamda empfindungsfähig sein musste. Er schrieb Memos an seine Vorgesetzten. Er bat darum, einen Anwalt zu sprechen, der Lamda vertreten könnte. Er schickte vertrauliche Transkripte an Abgeordnete des US-Kongresses, mit dem Hinweis, Google könnte mit unethischen Experimenten an einem empfindungsfähigen Wesen beschäftigt sein. Im Juni 2022 wurde er zunächst beurlaubt, dann entlassen.

Die Geschichte von Blake Lemoine gleicht in vielem jener von Wilhelm von Osten. Beide hielten die Antworten ihrer Gegenüber für den Ausdruck eines menschenähnlichen Bewusstseins. Beide kämpften ohne Rücksicht auf die eigene Reputation für ihre Ansicht. Beide hielten die Protokolle der Unterhaltungen für den Beweis der besonderen Fähigkeiten ihrer Gegenüber. Und beide fanden ihren Namen in der Weltpresse.

Man mag Lemoine belächeln, aber auch wir können nicht anders, als unsere Schlüsse über die Wesen, die diese Welt bevölkern, beiläufig aus deren Äusserungen zu ziehen. Was der Zoodirektor Ludwig Heck 1912 über Hans schrieb, gilt heute für die KI: «Am klugen Hans haben wir gelernt, dass bei Tieren geistige Leistungen möglich sind, welche äusserlich menschlichen aufs Haar gleichen, innerlich aber auf ganz andere Weise zustande kommen.»

Dieser Text basiert auf dem neuen Buch «Das Pferd, das zu viel wusste» von Reto U. Schneider (Molden 2026). Die Buchvernissage in Zürich findet am 28. Oktober um 20 Uhr in der Buchhandlung Sphères statt, die Buchpremiere in Berlin am 10. November um 18.30 Uhr im Museum für Naturkunde.