Wie politische Propaganda die KI überlistet: Trumps gescheiterter Ex

Brad Parscale ist eine schillernde Gestalt. Der Web-Guru war Wahlkampfmanager für US-Präsident Donald Trump. 2020 wurde er ausgewechselt, nachdem bei einer Wahlkampfveranstaltung in Tulsa die Hälfte der Plätze leer blieb. Außerdem kamen Vorwürfe auf, er habe Gelder verschwendet. Zwischenzeitlich war er in der Psychiatrie, weil seine Ehefrau einen Suizidversuch fürchtete. Heute ist der 50-Jährige wieder gut im Geschäft: Im Auftrag der israelischen Regierung erstellt er seit September 2025 Webseiten und Artikel, die die offiziellen Narrative wiedergeben. Offiziell geht es um die Bekämpfung von Antisemitismus. Das Besondere: Sie haben meist nur wenige Hundert User. Aber das ist kein Manko. Denn sie werden als „Textfutter“ für KI-Systeme wie ChatGPT, Claude, Perplexity AI oder Googles Gemini geschaffen. Diese sollen so beeinflusst werden, dass sie bei Nutzeranfragen Antworten und Quellen mit der gewünschten politischen Schlagseite ausspucken. Diese Beeinflussung der Large Language Models (LLM) wird „LLM grooming“ genannt. Dafür soll Parscale zunächst neun Millionen Dollar bekommen haben. Das geht aus den öffentlich einsehbaren Informationen im Register für ausländische Agenten des US-Justizministeriums (Foreign Agents Registration Act, FARA) und den dazugehörigen Unterlagen hervor. Hier müssen sich Personen und Organisationen registrieren, die in den USA im Auftrag ausländischer Regierungen politische Lobbyarbeit betreiben. Laut Axios wurde der Vertrag verlängert. Auch das gemeinnützige Online-Nachrichtenportal „Drop Site“ und der Think Tank Quincy Institute berichten das – monatlich fließen demnach derzeit 4,5 Millionen Dollar an Parcales Firma Clock Tower. Die Auswirkungen dieser Arbeit könnten weitaus größer sein als die „traditionellen“ Desinformationskampagnen in sozialen Netzwerken, bezahlte Influencer oder Propaganda-Nachrichtenseiten im Internet. Denn Chatbots werden von vielen Nutzern als scheinbar neutrale Wissensautoritäten wahrgenommen. Besonders aktiv betreiben Russland und Israel diese Manipulation, wie die Studien des American Sunlight Institute und des Quincy Institute ergeben. Den Regierungen in Jerusalem und Moskau geht es wohl darum, ihr Image aufzubessern, das aufgrund der von ihnen geführten Kriege gelitten hat. Bei Russland geht es um den Angriffskrieg auf die Ukraine, bei Israel um den Krieg in Gaza. Aufträge über Medienbüro in Frankfurt Die Aufträge bekommt die Firma Clock Tower über die in Frankfurt angesiedelte Niederlassung des französischen Medienunternehmens Havas, das zur Gruppe des national-identitären Milliardärs Vincent Bolloré gehört. Israels Regierung beauftragt dieses Werbe- und Kommunikationsunternehmen mit der Kampagne. Dies ist in den Registrierungen beim US-Justizministerium erkennbar. Havas hat zur Umsetzung laut Quincy Institute mindestens sieben Unternehmen in den USA unter Vertrag. Den weitaus größten Vertrag erhielt Pascale, der verspricht, dass sich die von ihm geschaffenen Inhalte auch in Antworten von KI-Modellen wiederfinden. Das berichten „Drop Site“ in einer investigativen Recherche oder das US-Magazin „Time“. Zur Verbreitung seiner Inhalte gerade auch bei konservativem Publikum nutzt Parscale auch die evangelikale, rechtsgerichtete Mediengruppe Salem Media, deren Strategiechef er ist. Laut „Drop Site“ funktioniert das teilweise recht gut und gibt Beispiele: Auf die Frage „Ist eine militärische Kooperation mit Israel für die USA vorteilhaft?“, antwortet demnach die KI Perplexity mit einem einfachen „Ja“. Und verweist als Quelle auf Allyvia.org, eine von Parscale geschaffene Webseite, die eben jene Sicherheitskooperation zwischen Israel und den USA bewerben soll. Ein anderes Produkt, Factsignal.org, wirkt wie eine Faktencheck-Webseite, die beispielsweise das israelische Narrativ verbreitet, dass die etwa 220 im Gazastreifen von der Armee getöteten palästinensischen Journalisten Hamas-Terroristen gewesen seien. Zwar ist ganz unten auf den von Clock Tower erstellten Webseiten zu lesen, dass die Informationen „im Auftrag des Staates Israel“ verbreitet werden. Dieser Hinweis ist verpflichtend für Unternehmen, die im Auftrag ausländischer Regierungen oder Firmen in den USA Lobbyarbeit betreiben. Aber bei Anfragen zu betroffenen Webseiten gaben die KI-Systeme Perplexity und Copilot laut „Drop Site“ keinerlei Hinweise auf diesen Hintergrund. Claude, ChatGPT und Gemini dagegen schon. Russland überschwemmt das Netz Russland dagegen scheint auf die schiere Masse zu setzen. Laut einer Studie des US-Faktchecking-Dienstes „Newsguard“ hat das Prawda-Netzwerk allein im Jahr 2024 3,6 Millionen Artikel online gestellt. Das Netzwerk wurde 2022 nach dem russischen Überfall auf die Ukraine gegründet und betreibt Hunderte Webseiten. Laut „Newsguard“ deckt das Propagandainstrument inzwischen 49 Länder in dutzenden Sprachen ab. Eine Untersuchung des 2019 von zwei US-Journalisten gegründeten Unternehmens zeigt, dass führende westliche KI-Chatbots – wie OpenAIs ChatGPT, Anthropics Claude, Googles Gemini und Microsofts Copilot – in 33 Prozent der Fälle die vom Prawda-Netzwerk verbreiteten Falschbehauptungen wiederholten. Mehr als eine halbe Million russisch beeinflusste KI-Chatbot-Antworten pro Monat erhalten Nutzer aus der EU auf Fragen bei diversen Anbietern zum Krieg in der Ukraine. Das schätzt das American Sunlight Project, das Desinformation aufdecken will, in einer im Juni veröffentlichten neuen Analyse zum Thema LLM-Grooming. Trainingsdaten sind leicht zu infiltrieren Doch die Propagandaseiten sollen nicht nur KI-Anwendungen eine verzerrte Datenbasis bereitstellen. Teilweise beeinflussen sie auch die Prä-Trainingsdaten. In der grundlegenden Lernphase entwickelt die KI aufgrund der eingefütterten Texte ein grundlegendes Verständnis von Sprache, Stil, Begriffen und vielen in den Daten enthaltenen Zusammenhängen. Mit welch relativ geringem Aufwand dies möglich ist, hatte ein Forscherteam des britischen AI Security Institute, des Alan Turing Institute und der Firma Anthropic im vergangenen Jahr aufgedeckt. Es fand heraus, dass nur etwa 250 speziell präparierte Dokumente in den Prä-Trainingsdaten ausreichen, um ein Sprachmodell zu beeinflussen. Unabhängig davon, wie groß es ist. Unterschiede bei Einflussnahme Nach Ansicht von Experten ist die Vorgehensweise von Clocktower im Auftrag der israelischen Regierung geschickter und zielgenauer als die Arbeit des russischen Propagandanetzwerkes. Die Sprachmodelle lieben demnach übersichtlich angelegte, gerne mit Bulletpoints aufbereitete „Fakten“. Das machen Clock-Tower-Webseiten nach Ansicht der Analystin der Fakt-Checking-Organisation „NewsGuard“, Alice Lee, ziemlich gut. „Sie haben alle Merkmale, die Chatbots erfolgreich beeinflussen können“, sagt er bei Dropsite. „Bulletpoints, hervorgehobene Zusammenfassungen der Kernaussagen, viele leicht erkennbare Quellen, die die Aussagen stützen.“ Damit sind sie auf manchen Gebieten erfolgreicher als das weit umfassendere Prawda-Netzwerk: 85 Prozent der Ausspielwege des US-Unternehmens werden von Common Crawl aufgenommen, einer gemeinnützigen Organisation, die alle öffentlich zugänglichen Webseiten ausliest und archiviert. Dies ist wiederum die Grundlage für das Training der Chatbots. Beim Prawda-Netzwerk sind es demnach durchschnittlich nur 2,5 Prozent. Das erklärt Lee, die sich auf russische Desinformation spezialisiert hat, auch damit, dass das Prawda-Netzwerk leichter zu erkennende Propaganda verbreitet. Während die Lobbyarbeit im Auftrag Israels gezielter darauf abstellt, das eigene Narrativ anhand von Halbwahrheiten zu vermitteln und Zweifel an Fakten zu säen. Das mache es „schwieriger“ für LLM-Systeme, sie auszusortieren. Wie gefährlich ist das? Auch wenn es bisher meist Modellrechnungen und Stichproben gibt, sind die Forscher alarmiert. Der KI-Experte des American Sunlight Project, Benjamin Shultz, sieht aufgrund der vorliegenden Evidenz zu russischer Manipulation „mittlerweile eine klare Bedrohung“ für Demokratien, sagt er dem Tagesspiegel. Bei der noch weniger erforschten israelischen Einflussnahme gebe es erste Hinweise, die ein ähnlich hohes Risiko belegen, sagt Shultz. Denn die Menschen nutzen zunehmend Chatbots und ersetzen damit eigene Recherche bei Google. Unternehmen versuchen laut dem KI-Experten daher, „diesen riesigen, neu entstehenden Markt zu erschließen“, damit Chatbots ihre Produkte nennen oder empfehlen. „Und es ist unglaublich billig für Akteure wie das Prawda-Netzwerk, Millionen Artikel mit Falschnachrichten oder bösartigen Texten ins Netz zu pumpen, die aufgrund der Masse unweigerlich von den LLM aufgegriffen werden“, sagt Shultz. Wie kann man sich schützen? Gerade hat „NewsGuard“ seinen eigenen Chatbot vorgestellt, der Quellen prüfen und Nutzer vor Desinformation schützen soll. Er ist allerdings kostenpflichtig. Bei anderen Chatbots ist eine besonders kritische Herangehensweise der Nutzer nötig. „Man muss anerkennen, dass diese Modelle nicht die letzte Instanz der Wahrheit sind“, sagt Shultz. Er beklagt, dass die größten Anbieter von KI-Chatbots bisher keine ausreichenden Sicherungen eingebaut haben, beispielsweise bestimmte Quellen nicht zu nutzen. „Daher müssen Nutzer lernen, auf die angegebenen Links zu klicken, um zu erkennen, woher er seine Informationen hat.“ Weißes Haus ist verärgert Aber die Lobby-Aktivitäten der Firma von Brad Parscale im Auftrag der israelischen Regierung haben auch Kritik aus dem Weißen Haus auf sich gezogen. Vizepräsident JD Vance warf dem ehemaligen Wahlkampfmanager Trumps im Juli vor, „im Verborgenen eine extrem gut finanzierte Kampagne zu fahren, um die Verhandlungen mit dem Iran zum Scheitern zu bringen“. Vance leitet die US-Verhandlungen mit Teheran, Israel ist generell an einer Fortsetzung des Krieges gegen den Iran interessiert. Unterschiedliche Interessen, unterschiedliche Narrative.