13 Länder proben den Konter auf Putins Bots

Startseite

Politik

„Knapp vor NATO-Artikel 5“: 13 Länder üben den Konter auf Putins Bots – an eigensinnigen KI-„Bürgern“

Von: Florian Naumann

Uns auf Google folgen

Und dann legt der „synthetische Bürger“ einfach auf: Mit KI-Hilfe proben NATO-Experten und 13 Länder den Desinformations-Ernstfall. Es ist ernst – und teils auf skurrile Weise lehrreich.

Riga – Am Mittwochvormittag ist das Land in ernster Gefahr: Der Informationskrieg eskaliert. Die Büros der Regierungschefs, je fünf Ministerien, das Militär und ein Informationsanalyst beratschlagen laufend. An 13 Tischen parallel, nur getrennt durch Stellwände. Die gute Nachricht: Das Szenario ist fiktiv. Die schlechte: Völlig aus der Luft gegriffen ist es wohl nicht. In einer Veranstaltungshalle in der lettischen Hauptstadt Riga sind von Montag bis Mittwoch Teams aus 13 Staaten zusammengekommen, um zu testen, wie und wie gut sie Desinformationsattacken kontern können. Erstmals simuliert dabei eine KI detailliert die Reaktion der Bevölkerung, die „synthetischen Bürger“ geben Umfragedaten, man kann sie sogar „anrufen“. Und die KI mischt als vierzehntes Team mit – laut inoffiziellem Ranking offenbar durchaus mit Erfolg.

Das Projekt ist neu, aufgesetzt hat es das NATO-Exzellenzzentrum für Strategische Kommunikation. Welche Länder genau an der Übung „Synesis“ teilnehmen, ist nicht öffentlich bekannt: Einige Staaten hätten um Diskretion gebeten, erklärt Zentrumsdirektor Jānis Sārts vor Ort im Gespräch mit dem Münchner Merkur von Ippen.Media. Gastgeber Lettland ist aber vertreten, ebenso wie Partnerstaaten – die Ukraine und Singapur etwa. Alle Teams versuchen, „Avenien“ durch die vom Nachbarn „Tessare“ befeuerte Krise zu manövrieren. Kein Geheimnis ist, dass „Tessare“ unter anderem Strategien von Wladimir Putins Russland folgt.

„Russische Doktrin“ und die Antwort: NATO-Zentrum simuliert mit KI das Ringen um Vertrauen

„Natürlich sind die Szenarien von der realen Welt inspiriert, wir wollen, dass die Teams die Vorgänge so wahrnehmen, wie sie es im echten Leben tun würden“, sagt Sārts. „Und natürlich sind die Szenarien in unser Verständnis der russischen Doktrin und Russlands Verhalten eingebettet.“ Besagte Szenarien sind ebenfalls nicht im Detail publik. Aber sie folgen einem Eskalationspfad. „Es fängt langsam an“, erklärt der Chef des NATO-Exzellenzzentrums, „aber es führt zu einem Punkt, den wir ein ‚High-End-Hybrid-Szenario‘ nennen, knapp unterhalb der Schwelle zu NATO-Artikel 5“; unterhalb der ominösen Beistandsklausel also. Die Teams sollen auf etwas vorbereitet werden, dass sie so „noch nicht unbedingt erlebt haben“.

Übungs-Direktorin Guna Šnore gewährt am Mittwoch schon erste Einblicke in Erfolge und Misserfolge. Tatsächlich gibt es ein „Scoring“. Die Übung läuft in mehreren Einzeletappen mit verschiedenen Herausforderungen. In jeder können die Teams unterschiedliche Strategien testen. Vom Standardprozedere bis zu „den wildesten Ideen“, wie Šnore sagt. Schließlich ist das Manöver eine Gelegenheit, auszuprobieren, ohne Auswirkungen auf reale Menschen. Wer experimentiere, könne aber natürlich das „Vertrauen“ der KI-Bevölkerung verlieren, sagt die Expertin. Und um Vertrauen in echte Informationen geht es. Wenngleich es sich nicht um einen Wettbewerb handle, zeige sich: Einige Delegationen schlagen sich besser als andere.

„Insbesondere ein Team sticht in allen Belangen heraus, wie sie Handlungen kalibrieren, wie sie kooperieren, wie sie Werkzeuge verwenden, aber auch, wie sie die wichtigsten Erkenntnisse einspeisen“ – denn zur Aufgabe gehört auch, Entscheidungsprozesse zu dokumentieren. So sollen funktionierende Ideen und Kooperationswege in den Teilnehmerländern ankommen. Wer so herausragend abschnitt, verriet Šnore nicht. Wohl aber ein Muster: „Länder, die sich des Vertrauens ihres Publikums sehr sicher sind, haben gar nicht die Haltung verinnerlicht, dass sie mit diesen Fragen arbeiten müssen.“ Das bringe diese Delegationen in der Übung ins Straucheln. Zu denken geben kann auch: Das „Avenien“ mit von der KI gesteuerter Kommunikation schlägt sich im Vergleich erstaunlich gut. Es sei stets in den Top drei bis fünf, heißt es. Und es hole zum Ende des Manövers auf.

Eine entscheidende andere Frage lautet: Wie realitätsnah sind die KI-generierte Bevölkerung und ihre Reaktionen? Man habe das Modell unter anderem mit der Universität Genua entwickelt, sagt Gundars Bergmanis-Korats, Chef des KI-Labors im Exzellenzzentrum, unserer Redaktion. Das bekannte KI-Sprachmodell mache nur einen kleinen Teil aus. Basis seien von Sozialwissenschaftlern geprüfte Daten aus der realen Welt. Um die Rechenleistung stemmen zu können, beschränke man sich auf ein „Untermodell“ einer sehr komplexen Grundlage: 500 „KI-Bürger“ sind für jedes Team im Einsatz – jede(r) von ihnen mit politischen Vorlieben, Stimmungslagen, regional begründeten Haltungen, bestimmten Neigungen zu handeln oder nicht zu handeln. Und manchmal offenbar auch überraschenden Impulsen.

NATO-Zentrum testet Kampf gegen Putins Bots – und dann legt der „synthetische Bürger“ einfach auf

Anrufe bei „Bürgern“ sind möglich. Aber komplex. „Gestern hatten wir einen interessanten Fall“, berichtete Sārts, „einer der Teilnehmer rief einen Bürger des Landes an, er hat sich nicht wirklich vorgestellt – und der Bürger antwortete ‚jaja...‘ und legte auf. Ihm hat das Verhalten des Teilnehmers nicht gefallen.“ Eine eher skurrile Episode. Übungsleiterin Šnore teilte aber auch praktische Einblicke: Etwa Screenshots der simulierten Medienlandschaft „Aveniens“, mit News-Webseiten, Factchecking-Artikeln und sozialen Medien. Die „Bürger“, sagt Šnore „folgen und entfolgen“ durchaus auch Medien und offiziellen Kanälen. Je nach Verlauf, Strategie und Vertrauen in die Kanäle.

KI spielt auch auf Teilnehmerseite eine Rolle. „Man sieht, dass die Teams, die intensiv KI nutzen, besser abschneiden“, sagt Sārts. Wer aber zu stark abhängig von KI sei, habe ebenfalls ein Problem: Der Mensch im „Loop“ sei eben nach wie vor ein entscheidender Faktor. Ein Punkt sei indes noch gar nicht eingepreist, räumt er ein. Es geht um den Desinformations-Hebel, die KI selbst zu beeinflussen, von Chatbots bis zu persönlichen Agenten. Doch genau das werde relevanter, der Anteil der Menschen, die sich über KI informieren, wachse. Man werde das Manöver wiederholen und noch breiter anlegen, sagt er.

Bergmanis-Korats ist mit der ersten Ausgabe indes zufrieden. Der erste Tag sei eine „Findungsphase“ gewesen, urteilt er. In Feedbackrunden habe man aber kleine Anstöße gegeben – etwa, wie man bestimmte „Bevölkerungsgruppen“ besser erreichen könne. An Tag drei performten die Teams „wirklich, wirklich gut; wir sind wirklich überrascht von der Motivation, dem Funkeln in den Augen und dem Willen ein wirkungsvoller Spieler zu sein“. Zu früheren, virtuellen Planspielen schickten Staaten auch mal Teilnehmer auf Praktikantenlevel, ist zu hören. Ungeklärt bleiben wird vorerst, wie gut die Ergebnisse auf die Realität übertragbar sind, in der der russische Angriff auf Gesellschaften weiter auf Hochtouren läuft. Ein Ersatz für Erkenntnisse aus der realen Welt seien sie nicht, betont Bergmanis-Korats.

Sārts sieht jedenfalls große Vorteile gegenüber den üblichen Rollenspielen. „Das Problem dort ist, dass Menschen andere Menschen spielen, die sie nicht verstehen; zum Beispiel wenn ich vorgebe, eine 80-jährige Frau zu sein. Dann handelt man auf Basis falscher Annahmen.“ Da sei es doch besser, eine brüske Antwort am Telefon zu bekommen. (Aus Riga berichtet Florian Naumann)