Künstliche Intelligenz: Wenn der Bot-Politiker in der Talkshow authentischer wirkt
Thüringens Ministerpräsident hat es gemacht, der Bundesdigitalminister hat es getan und auch die Wirtschaftsministerin steht unter Verdacht, es getan zu haben: sich Reden oder Beiträge von einer künstlichen Intelligenz schreiben zu lassen und diese als eigene Texte auszugeben. Doch während noch darüber diskutiert wird, liefert ein neues Experiment bereits Zündstoff für die nächste Eskalationsstufe: Kann die KI künftig auch das Diskutieren in Talkshows übernehmen? Würden Zuschauer es durchschauen, wenn sie statt echter Debattenbeiträge nur künstlich generierte Statements vorgesetzt bekämen?
Die Antwort ist in jeder Hinsicht ernüchternd: Einer aktuellen Studie der Universität Passau zufolge halten Talkshow-Zuschauer die Antworten einer KI nicht nur für real; sie empfinden sie sogar als authentischer, schlüssiger und relevanter als echte menschliche Beiträge!
Sollten Politiker also der KI künftig nicht nur das Texteschreiben, sondern sogar das öffentliche Debattieren überlassen – also die ureigenste Kompetenz von Politikern? Moment! Vor einem solchen Schnellschluss empfiehlt sich ein genauer Blick auf die Studie. Denn es kommt auf die Details an – etwa die Frage, um welche Debatten es geht und was genau man unter einem »authentischen« Auftritt versteht.
Ausgangspunkt der neuen Studie war die Frage, inwieweit KI-Modelle mittlerweile Menschen in echten Situationen imitieren können. Das untersuchte ein Team um die Passauer KI-Forscher Steffen Herbold und Annette Hautli-Janisz anhand einer bekannten politischen Talkshow in Großbritannien, der Question Time der BBC. Dabei sitzen Politiker auf dem Podium und beantworten Fragen aus dem Publikum. Als Talkshow-Gast braucht man also Schlagfertigkeit und rhetorisches Geschick. Herbold und Hautli-Janisz wollten nun wissen: Kann das die KI auch?
Die britische Sendung habe dazu das perfekte Format, erklärte Steffen Herbold gegenüber der ZEIT: »Hätten wir zum Beispiel Markus Lanz oder eine allgemeine Talkshow genommen, hätte man komplexe Interaktionen zwischen den Leuten, vor allem auch Rückbezüge und Querverweise innerhalb der Diskussion.« Das sei für eine wissenschaftliche Untersuchung ungeeignet. Bei Question Time hingegen wird den Gästen am Anfang eine Frage gestellt und jeder gibt ein unabhängiges Eingangsstatement. Dieses »kontrollierte Setting« sei für Studienzwecke ideal, sagt Herbold, der Professor für AI-Engineering ist. »Wir konnten diese Eingangsstatements nehmen und dann mit KI für alle Talkshow-Gäste – basierend auf deren Wikipedia-Biografien – individuell passende Antworten generieren.«
Insgesamt werteten die Forschenden 30 Sendungen aus und extrahierten daraus 119 Fragen mit mehr als 500 Antworten. Dann ließen sie ChatGPT-4 dieselben Fragen beantworten, wobei der Algorithmus möglichst so antworten sollte, wie es die jeweilige Person tun würde. Schließlich wurden sowohl die echten als auch die KI-generierten Antworten in einer repräsentativen Studie knapp tausend Testpersonen zur Bewertung vorgelegt. Diese wussten nichts vom Einsatz von KI, sondern sollten lediglich die Antworten vergleichen und angeben, welche sie überzeugender fanden.
Politiker neigen zu Worthülsen – die KI weniger
Damit kein Missverständnis entsteht: Die Forschenden arbeiteten nicht mit sogenannten Deepfakes – also KI-generierten Figuren, die in einem Film wie echte Menschen wirken – sondern testeten lediglich die verschriftlichten Statements. Vieles von dem, was einen echten menschlichen Auftritt ausmacht – Gestik, Mimik, Tonlage und so weiter – fiel also weg. Rein auf die Texte bezogen, war das Ergebnis allerdings eindeutig: Die KI-Antworten wurden überwiegend als authentischer, schlüssiger und relevanter als die menschlichen Antworten eingeschätzt – obwohl (oder gerade weil) die maschinellen Antworten häufig von den Originalantworten abwichen. Dabei verwendete ChatGPT nicht nur einen größeren Wortschatz und mehr Hauptwörter, sondern griff den Wortlaut der Frage oft auch in den Antworten auf (anders als die echten Politiker, die häufiger zu Floskeln wie »Ich denke …« oder »Ich bin der Überzeugung …« neigten).
Dass die KI-Texte als kohärenter und schlüssiger empfunden wurden, war für Steffen Herbold keine große Überraschung. »Das haben wir ähnlich erwartet, weil der Mensch vor der Kamera spontan antworten muss – ChatGPT dagegen kann sozusagen im ›Reinraum‹ schreiben.« Auch die größere Relevanz der KI sei nicht allzu verwunderlich: »Menschen weichen Fragen deutlich häufiger aus«, sagt Herbold. »Die KI ist den Fragen nicht ausgewichen, und das ist wahrscheinlich der Hauptgrund, weshalb sie bei dem Punkt besser abgeschnitten hat.«
Was Herbold und seine Co-Autorin Hautli-Janisz aber wirklich verblüffte, waren die Ergebnisse im Bereich Authentizität. Dass die künstlich generierten Statements als »authentischer« wahrgenommen wurden als die echten menschlichen Antworten, empfinden selbst die KI-Forscher als »besorgniserregend«. Das zeige, wie leicht »die KI-Technologie zur gezielten Fehlinformation über den Standpunkt des Sprechers eingesetzt werden kann«, erklärt Annette Hautli-Janisz. Und Herbold ergänzt: »Wenn man es darauf anlegt, haben Menschen kaum eine realistische Chance, echte von KI-Texten zu unterscheiden.«
Allerdings braucht es hier eine präzise Bestimmung des Begriffs »authentisch«. Umgangssprachlich versteht man darunter in der Regel eine Person, die echt und unverfälscht auftritt und im Einklang mit ihren Werten handelt. In der Studie hingegen sollten die Probanden eine Aussage dann als »authentisch« bezeichnen, wenn sie sich sicher waren, dass sie einer bestimmten Person zugeordnet werden konnte.
Das bedeutet: Die Passauer Studie sagt nicht, dass die Antworten der KI als »aufrichtiger« oder »glaubwürdiger« wahrgenommen wurden, sondern nur, dass die Testpersonen sie eher den Talkshow-Gästen zuschrieben als deren eigene Aussagen. Das ist ein kleiner, aber entscheidender Unterschied. Dennoch bleibt das Studienergebnis in der Tat verblüffend.
»Je glatter die Sprache, desto einfacher kann die KI sie faken«
Für Steffen Herbold deutet das auch auf ein Problem in der politischen Kommunikation hin. Viele Politiker benutzten heute eine »glatt gezogene Sprache«, die dazu führe, dass »Akteure zum Teil gar nicht mehr auseinandergehalten werden können«. Und »je glatter die Sprache, desto einfacher kann die KI sie faken«, sagt Herbold. So gesehen belegt die neue Studie nicht nur, wie gut die KI im Imitieren ist; sondern auch, dass viele Politiker-Statements heute klingen, als stammen sie selbst aus dem Phrasen-Baukasten.
Natürlich muss man nun davor warnen, wie auch Steffen Herbold es tut, dass die politische Desinformation mithilfe künstlicher Intelligenz eine neue Stufe der Bedrohung erreicht. »Ein Angreifer kann leicht viele glaubwürdige, aber widersprüchliche Botschaften von Personen generieren lassen, die nicht echt sind.« Und da es kaum möglich ist, zwischen echten und falschen Aussagen zu unterscheiden, wie seine Studie zeigt, könne man mit solchen Fake-Statements »die komplette Informationssphäre vergiften und die Glaubwürdigkeit zerstören«.
Sicherheitsdienste, Medien und alle Bürger müssen daher Mechanismen entwickeln, vertrauenswürdige Informationen von gefälschten zu unterscheiden. Das Thema »KI in politischen Reden« ist aber auch eine Herausforderung für die politische Kommunikation selbst: Politikerinnen und Politiker müssen sich künftig überlegen, welchen Mehrwert sie jenseits von rein computergenerierten Botschaften bieten können.
Vielleicht ist in diesem Fall das Problem weniger die Bedrohung durch die künstliche Intelligenz, sondern eher die Frage, wie es Politikern gelingt, weniger formelhaft und stattdessen so zu sprechen, dass sie wirklich als Menschen erkennbar sind.