Was will uns das weinende Mädchen im Internet verkaufen?

Ein KI-Mädchen weint, weil seine Halsketten angeblich "zu deutsch" sind. Das Video soll empören und am Ende der Empörung wartet ein Shop. Wer solche Clips durchschauen will, muss deshalb weniger über Gesinnung reden als über die Masche – und Jugendlichen eher Fragen stellen als Vorträge halten.

Eine Kolumne

von Bob Blume

Mir begegnet seit Monaten immer wieder derselbe Videotyp: eine KI-generierte Szene, in der ein blondes Mädchen selbstgemachte Halsketten mit einem Adler-Anhänger verkauft. Eine Passantin weist es schroff ab, das sei "zu deutsch". Manchmal sind es mehrere, bunte Haare, progressive Kleidung. Das Mädchen weint, setzt sich zu Hause wieder an den Basteltisch und macht trotzig weiter. Sie hat einen Traum und den lässt sie sich nicht von den Mobbern kaputtmachen, so die Botschaft. Im Profil ist ein Shop verlinkt, in dem es genau diese Ketten zu kaufen gibt.

Wenn man nicht genau hinschaut, kann das Video wütend machen. In der einige Wochen vorher im Netz kursierenden US-Version war es kein blondes Mädchen, sondern ein alter Mann, der handgemachte Figuren verkaufte und von jungen Leuten geschlagen wurde. Auch er ging nach Hause und setzte sich an sein Produkt, weinend. Solche Videos haben einen Subtext: Es gibt arbeitsame Menschen, die nur das Gute wollen, und es gibt Gegner der Gesellschaft. Das ist aber nicht die entscheidende Frage.

Ich habe dazu für meinen Substack-Kanal Katharina Nocun befragt. Sie ist Publizistin und Politikwissenschaftlerin, die sich seit Jahren mit Desinformation im Netz beschäftigt. Ihre Einschätzung: Es wirke definitiv so, als stehe das kommerzielle Interesse im Vordergrund. Sie beschreibt außerdem einen Mechanismus, der weit über dieses Beispiel hinausgeht: Starke Gefühle können dazu führen, dass wir weniger genau hinsehen. Genau darin liegt für mich der entscheidende Punkt. Wir diskutieren über die vermeintliche Ungerechtigkeit und übersehen dabei womöglich das Geschäft, das mit unserer Empörung gemacht wird.

Verkaufen mit Tränen

Die Zutaten sind erprobt: ein Kind, ein alter Mensch, Tränen, eine Ungerechtigkeit, am Ende das tapfere Weitermachen. Wer emotional schon mitten in der Geschichte steckt, fragt vielleicht nicht mehr, was das für ein Account ist, ob die Geschichte plausibel klingt oder ob da eine KI am Werk war. Wir teilen, wir kommentieren und wer die Masche kennt, setzt genau darauf. Man könnte auch sagen: Wut zerstört den Verstand, der für die Beurteilung nötig wäre.

Neu ist das nicht. Dieselbe Dramaturgie kennt man von sogenannten Crash-Propheten, die einen wöchentlich vor dem angeblich unmittelbar bevorstehenden Börsen-Crash warnen und im nächsten Atemzug dubiose Münzen anbieten. Die Angst ist das Verkaufsargument, die Münze oder die digitale Währung nur das Produkt.

Betreiber können zudem eine Vielzahl von Profilen anlegen, die sich durch gegenseitige Interaktionen verstärken. Und die Geschichte lässt sich jederzeit austauschen: Plötzlich geht es um ein ganz anderes Thema und eine neue, wieder KI-generierte Person, etwa eine alleinerziehende Mutter, die unter Tränen um Unterstützung bittet. Das Muster bleibt: Eine erfundene Notlage soll eine echte Kaufentscheidung auslösen.

Künstliche Intelligenz hat dieses Geschäft noch verändert: Glaubwürdig wirkende Szenen lassen sich schneller und mit weniger Aufwand herstellen. Niemand muss dafür selbst vor die Kamera treten. Die Ersteller können anonym bleiben und sich hinter einem harmlos wirkenden KI-Mädchen verstecken.

Die Plattformen sind dabei Teil des Problems. Emotionalisierende Inhalte erzeugen Interaktionen und auch Widerspruch kann dazu beitragen, dass ein Video weiterverbreitet wird. Wer unter einem solchen Clip dagegenhält, verschafft ihm womöglich zusätzliche Aufmerksamkeit. Und die Kennzeichnung als KI? Selbst dort, wo sie vorhanden ist, wird sie oft übersehen.

Fragen statt Zeigefinger

Was machen wir aus diesen Erkenntnissen? Aus meiner Zeit als Lehrer weiß ich: Wer Jugendlichen erklärt, was sie gerade falsch sehen, muss mit Abwehr rechnen. Aus dem Grund spricht sich auch Nocun für eine fragende Haltung aus: "Woran machst du fest, dass das echt ist?" Oder: "Was wissen wir eigentlich über den Account, der das hochgeladen hat?"

Solche Fragen lassen Raum, selbst auf Ungereimtheiten zu kommen. Sie zeigen außerdem Interesse daran, wie die andere Person zu ihrer Einschätzung gelangt ist. Das ist eine andere Ausgangslage, als ihr gleich zu erklären, dass sie auf einen Fake hereingefallen ist.

Der Umgang mit jungen Menschen ist allerdings nur eine Seite: Denn wer spricht mit den Erwachsenen, die reihenweise auf solche Inhalte reinfallen? Wenn man in die Kommentarbereiche schaut, scheinen jene Accounts deutlich in der Überzahl. Scheinen. Denn auch hier wissen wir nicht, welche Kommentare von Bots erstellt worden sind.

Empfehlungen der Redaktion

Vorsicht beim Brennholzkauf: Betrüger kopieren echte Unternehmen

Darum ist es am Dienstag in vielen Supermärkten still

Betrug auf Second-Hand-Plattformen: Wann du vorsichtig sein solltest

Um weiterhin urteilsfähig zu bleiben, müssen wir uns selbst die Fragen stellen, die wichtig sind: Was steht im Profil? Wohin führt der Link? Was wird im Shop angeboten? Und wie passt das Produkt zu der Geschichte, die uns gerade so berührt oder emotional aufgewühlt hat? Dabei muss man nicht unterstellen, jede emotionale Geschichte sei erfunden oder hinter jedem Shop stecke ein Betrug. Aber man sollte erkennen können, wann Gefühle als Verkaufsargument eingesetzt werden.