Studie zeigt: ChatGPT, Gemini und Co. geben Nutzerdaten weiter - teilweise sogar Chatverlauf

Eine neue Studie des IMDEA Networks Institute zeigt: Alle neun untersuchten Chatbot-Anbieter – darunter ChatGPT, Claude, Gemini, Grok, DeepSeek, Perplexity, Le Chat, Meta AI und MS Copilot – geben Nutzerdaten an Drittanbieter weiter. Wie die Forscher in der vorläufigen Fassung ihrer Studie schreiben, reicht das Empfängerspektrum von Werbetrackern bis zu externen Dienstleistern, die teils sogar auf ganze Chatverläufe zugreifen können.

ChatGPT, Claude, Gemini: Alle untersuchten Chatbot-Anbieter geben Daten weiter

Besonders kritisch: Fünf der neun Anbieter teilen beim Browser-Zugriff sogenannte Permalinks zu Konversationen mit Datentrackern. Da vielfach keine Zugangsbeschränkungen bestehen, könnten Dritte theoretisch komplette Unterhaltungen einsehen. Die Forscher bestätigten dies mit sogenannten Canary-URLs – digitalen Fallen, die bei Zugriff Alarm schlagen.

Bei Grok etwa lösten diese nach der Studie mehrfach auch im Nachhinein noch aus, was auf wiederholte externe Zugriffe hindeutet. Zusätzlich geben laut Studie drei von neun Anbietern automatisch generierte Chat-Zusammenfassungen an Werbepartner weiter – mit teils sensiblen Inhalten wie Gesundheits- oder Gehaltsfragen. Zu den Empfängern zählen unter anderem Meta, TikTok und Google.

KI-Studie: „Neue Wege, über die sensible Informationen offengelegt werden können“

Die Funde zeigen, „dass die Integration traditioneller Tracking-Infrastrukturen in KI-Dienste neue Wege eröffnet, über die sensible Nutzerinformationen offengelegt werden können.“ Verschärft wird das Problem durch die Verknüpfung mit E-Mail-Adressen und dauerhaften Nutzerkennungen – auch im Inkognito-Modus. Solche IDs identifizieren Nutzer eindeutig über Plattformen hinweg und heben die Anonymität faktisch auf.

ANZEIGE

ANZEIGE

Google, Meta, Apple: Tech-Riesen tracken Chats mit KI-Tools

Auch kaum Abhilfe schafft die Ablehnung optionaler Cookies: Selbst in diesem Fall bleiben laut Studie 80,8 Prozent der Drittanbieter-Tracker aktiv. Auch zwischen kostenlosen und Premium-Konten gebe es laut den Autoren kaum Unterschiede beim Tracking. Insgesamt identifizierten die Wissenschaftler 44 Tracking- und Werbe-Drittanbieter, angeführt von Google-Diensten, gefolgt von Sentry, Meta, Datadog und Intercom – aber auch TikTok, Apple und X sind beteiligt.

Canary-URL: So haben die Forscher die Weiterleitung der Nutzerdaten aufgedeckt

Der Begriff der Canary-URL stammt aus der Cybersicherheit und bezieht sich auf eine Technik, die ursprünglich zur Angreifer-Erkennung entwickelt wurde: Laut dem Cybersicherheitsunternehmen Fortinet handelt es sich bei den „Canary Tokens“ um in Dateien oder URLs eingebettete digitale Fallen, die automatisch Alarm schlagen, sobald jemand darauf zugreift.

Der Name geht auf Kanarienvögel zurück, die früher in Bergwerken giftige Gase anzeigten, bevor sie für Menschen gefährlich wurden. Beim Canary-Token genügt bereits der Zugriff auf eine einzelne präparierte Datei oder URL. Dann werden laut Fortinet automatisch Informationen wie IP-Adresse und Zugriffszeitpunkt an die Verteidiger übermittelt.