Wie OpenAI psychologische Profile anlegt
Der Chatbot ChatGPT des KI-Unternehmens OpenAI aus dem kalifornischen San Francisco baut über seine Gedächtnisfunktion detaillierte Profile der Menschen auf, die sich mit ihm unterhalten. Zu diesem Ergebnis kommt ein Forschungsteam in einer auf der Fachkonferenz ACM Web Conference 2026 vorgestellten Studie, in der die Autor:innen dieses Phänomen als „algorithmisches Selbstporträt“ bezeichnen.
Durchgeführt wurde die Untersuchung von Wissenschaftler:innen des Max-Planck-Instituts für Softwaresysteme im rheinland-pfälzischen Kaiserslautern, der Ruhr-Universität Bochum, des ebenfalls in Bochum ansässigen Max-Planck-Instituts für Sicherheit und Datenschutz, des Indian Institute of Technology im indischen Kharagpur sowie der Technischen Universität im niederländischen Delft. Sie werteten 1.058 Gesprächsverläufe mit 22.971 einzelnen Anfragen von 80 realen Nutzer:innen aus, die ihre Daten über das Auskunftsrecht der europäischen Datenschutz-Grundverordnung (DSGVO) bei OpenAI angefordert und für die Forschung bereitgestellt hatten.
In den Protokollen von 65 Teilnehmer:innen stießen die Forscher:innen auf insgesamt 2.050 gespeicherte Gedächtniseinträge, von denen lediglich vier Prozent auf eine ausdrückliche Anweisung der jeweiligen Person zurückgingen. Die übrigen 96 Prozent der Einträge legte ChatGPT eigenmächtig im Hintergrund an, ohne dass die Nutzer:innen das Speichern veranlasst hatten.
Was das Gedächtnis von ChatGPT über Gesundheit und Psyche speichert
Obwohl OpenAI in seinen Richtlinien angibt, dass das System keine sensiblen Informationen ohne ausdrücklichen Wunsch speichert, enthielten 28 Prozent der untersuchten Einträge personenbezogene Daten nach der DSGVO und sieben Prozent sogar besonders geschützte Datenkategorien. So fanden sich bei 35 Prozent der betroffenen Teilnehmer:innen konkrete Angaben zur Gesundheit wie Krankheitssymptome, Blutzuckerwerte oder chronische Leiden im Langzeitgedächtnis des Chatbots wieder.
Darüber hinaus erfassten 52 Prozent aller gespeicherten Einträge psychologische Merkmale der jeweiligen Person. Um diese Einträge einzuordnen, griff das Forschungsteam auf das psychologische Konzept der „Theory of Mind“ zurück. Gemeint ist damit die menschliche Fähigkeit, sich in das Innenleben anderer hineinzuversetzen und nachzuvollziehen, welche eigenen Gedanken, Gefühle, Überzeugungen oder Motive ein Gegenüber antreiben. Fast 90 Prozent dieser Notizen im ChatGPT-Speicher betrafen dabei keine flüchtigen Launen, sondern langfristige Lebensziele, Wünsche und Pläne, die das System bei 97 Prozent der untersuchten Nutzer:innen hinterlegt hatte.
Bei der Überprüfung des Wahrheitsgehalts zeigte sich, dass 84 Prozent der Einträge direkt auf Formulierungen der Nutzer:innen basierten, während das Modell in fünf Prozent der Fälle ungeprüfte Annahmen als Fakten hinterlegte. Als etwa eine Person nach Musikgruppen fragte, die ähnlich klingen wie die Band Nirvana, speicherte ChatGPT ohne weiteren Beleg ab, dass diese Person Nirvana mag.
Wie OpenAI die Profilbildung mit Dreaming und Werbung verknüpft
Während die untersuchten Datenspenden noch aus der ersten Generation der Speicherfunktion stammen, hat OpenAI das Gedächtnis im April 2025 auf den gesamten Chatverlauf ausgeweitet. Im Juni 2026 stellte das Unternehmen in einem Blogbeitrag zum Hintergrundprozess Dreaming schließlich die weiterentwickelte Architektur „Dreaming V3“ vor, die anstelle einzelner Stichpunkte fortlaufend ein zusammenhängendes Profil über Vorlieben, Projekte und Lebensumstände aus vergangenen Gesprächen erstellt.
Weil das neue System laut OpenAI nur noch ein Fünftel der bisherigen Rechenleistung benötigt, schaltet der Anbieter die Funktion schrittweise auch für kostenlose Konten frei. Nutzer:innen müssen dadurch bei neuen Anfragen zwar nicht mehr jedes Mal wieder bei null anfangen und ihre Rahmenbedingungen erklären, überlassen dem Unternehmen im Gegenzug aber noch umfangreichere Daten für die kommerzielle Verwertung.
Seit OpenAI Anfang 2026 Werbeanzeigen in ChatGPT eingeführt hat, greift das Unternehmen in den kostenlosen und günstigen Tarifen auch auf frühere Unterhaltungen und gespeicherte Erinnerungen zurück, um personalisierte Werbung auszuspielen. Zudem gab die Sicherheitsforscherin Lorrie Cranor, Direktorin des Cylab Security and Privacy Institute an der US-amerikanischen Carnegie Mellon University in Pittsburgh, gegenüber Gizmodo zu bedenken, dass gespeicherte Hinweise auf den Gesundheitszustand oder das Einkommen später unbemerkt beeinflussen könnten, ob der Chatbot bei einer Kaufberatung zu teuren oder billigen Produkten rät.
Welche Risiken durch Sykophantie entstehen und was dagegen hilft
Studien-Erstautor Abhisek Dash weist in dem Bericht von Gizmodo darauf hin, dass viele Menschen Sprachmodelle nicht mehr wie ein Werkzeug, sondern wie vertraute Gesprächspartner:innen nutzen und ihnen als Berater, Freund, Arzt oder Anwalt Informationen aus sämtlichen Lebensbereichen anvertrauen. Wenn ein System die Überzeugungen einer Person so umfassend kenne und darauf trainiert sei, ihren Gedanken unkritisch zuzustimmen – ein in der KI-Forschung als Sykophantie oder Anbiederung bekannter Effekt –, könne dies laut Dash Vorurteile verfestigen und die politische Polarisierung fördern.
Wer die Profilbildung begrenzen möchte, kann die Speicherfunktion in den Einstellungen von ChatGPT deaktivieren, den temporären Chat nutzen oder einzelne Punkte in der Erinnerungsübersicht löschen. Allerdings räumt OpenAI in den offiziellen Hilfedokumenten zur Erinnerungsfunktion ein, dass diese Übersicht nicht jedes zur Personalisierung genutzte Detail anzeigt, das bloße Löschen eines Chats nicht die daraus abgeleiteten Erinnerungen entfernt und gelöschte Gedächtniseinträge noch bis zu 30 Tage lang in Systemprotokollen verbleiben können.
Um bereits während des Tippens zu verhindern, dass das System sensible Aussagen einer Person zuordnet, haben die Forscher:innen um Dash eine Schutzmethode namens „Attribution Shield“ (Attributionsschutzschild) entwickelt, die Eingaben automatisch neutral umformuliert. In mehr als 94 Prozent der getesteten Fälle unterband dieses Verfahren die persönliche Profilbildung, während der Nutzwert der Antworten von ChatGPT in rund 90 Prozent der Fälle erhalten blieb. Nutzer:innen können dieses Prinzip auch direkt anwenden, indem sie heikle Fragen wie bei einer Suchmaschine in der dritten Person stellen und beispielsweise statt „Ich habe Diabetes, was soll ich tun?“ allgemein danach fragen, worauf Menschen mit Diabetes in einer bestimmten Situation achten sollten.