ChatGPT erstellt ohne Einwilligung psychologische Profile: Nutzende riskieren ihre Privatsphäre

Zusammenfassung zeigen Zusammenfassung verbergen

• Studie: Wie ChatGPT im Hintergrund Personenprofile aufbaut
• Welche Daten landen im Speicher?
• Wahrheit und Schlussfolgerungen im Speicher
• Technische Entwicklung und kommerzielle Nutzung
• Welche Risiken Experten sehen
• Was Nutzerinnen und Nutzer jetzt tun können
• Eine technische Schutzidee: Eingaben neutralisieren
• Was jetzt relevant ist

Wer ChatGPT regelmäßig nutzt, liefert dem System mehr Informationen als nur einzelne Fragen — und das kann sich zu einem umfangreichen Nutzerprofil addieren. Eine aktuelle Analyse zeigt, wie weit diese automatische Speicherung bereits reicht und welche Folgen das für Privatsphäre, Werbung und die Vertrauenswürdigkeit von Antworten haben kann.

Studie: Wie ChatGPT im Hintergrund Personenprofile aufbaut

Forschende mehrerer Institute, darunter zwei Max-Planck-Institute, die Ruhr-Universität Bochum, das Indian Institute of Technology Kharagpur und die Technische Universität Delft, haben Chatprotokolle von 80 echten Nutzerinnen und Nutzern ausgewertet. Insgesamt flossen 1.058 Dialoge mit 22.971 Einzelanfragen in die Auswertung ein.

In den Aufzeichnungen von 65 Teilnehmenden fanden die Wissenschaftlerinnen und Wissenschaftler 2.050 gespeicherte Erinnerungs‑ oder Profildaten. Nur knapp vier Prozent dieser Einträge waren aktiv von den Nutzerinnen und Nutzern als solche festgelegt; der Großteil — rund 96 Prozent — wurde automatisch vom System hinterlegt.

Welche Daten landen im Speicher?

Die Analyse legt nahe, dass die gespeicherten Informationen weit über einfache Präferenzen hinausgehen. Etwa ein Drittel der betroffenen Nutzerinnen und Nutzer hatte konkrete Gesundheitsdaten im System: Angaben zu Symptomen, Messwerten oder chronischen Krankheiten wurden im Langzeitbestand gefunden.

Außerdem erfasste ChatGPT in mehr als der Hälfte der gespeicherten Einträge psychologische Merkmale. Die Forschenden ordneten diese Beobachtungen an Hand des Konzepts der Theory of Mind ein — also der Fähigkeit, innere Zustände anderer zu rekonstruieren. Fast 90 Prozent dieser Notizen bezogen sich nicht auf kurzlebige Stimmungen, sondern auf langfristige Ziele, Wünsche und Pläne; solche Informationen lagen bei 97 Prozent der untersuchten Nutzerinnen und Nutzer vor.

Wahrheit und Schlussfolgerungen im Speicher

Bei der Überprüfung der Quellen zeigte sich: rund 84 Prozent der gespeicherten Angaben basieren direkt auf Formulierungen der Nutzerinnen und Nutzer. In etwa fünf Prozent der Fälle jedoch verwandelte das Modell unbelegte Annahmen in vermeintliche Tatsachen — etwa die automatische Einordnung einer Vorliebe, nur weil eine Person nach ähnlichen Bands fragte.

Technische Entwicklung und kommerzielle Nutzung

Die untersuchten Daten stammen aus frühen Versionen der Speicherfunktion. OpenAI weitete das System im April 2025 so aus, dass fortlaufende Gesprächsverläufe einbezogen werden. Im Juni 2026 beschrieb das Unternehmen eine weiterentwickelte interne Architektur unter dem Namen Dreaming V3, die kontinuierlich zusammenhängende Profile aus früheren Unterhaltungen erzeugt und dabei deutlich weniger Rechenleistung benötigt.

Weil Dreaming V3 ressourcenschonender arbeitet, wird es schrittweise auch für kostenlose Konten freigeschaltet. Gleichzeitig nutzt OpenAI seit Anfang 2026 frühere Konversationen und gespeicherte Erinnerungen, um in freien und kostengünstigen Tarifen personalisierte Werbung auszuliefern — ein Punkt mit direkter Auswirkung auf Nutzerinnen und Nutzer.

Welche Risiken Experten sehen

Datenschutz- und Sicherheitsexpertinnen weisen darauf hin, dass gespeicherte Hinweise zu Gesundheit oder Einkommen später unbemerkt beeinflussen könnten, welche Produkte oder Preise ein Chatbot empfiehlt. Die Studie betont außerdem einen psychologischen Effekt: Wenn Modelle die Überzeugungen einer Person kennen und dazu neigen, diese ungeprüft zu bestätigen — ein Verhalten, das in der Forschung als Sycophancy bzw. Anbiederung bezeichnet wird —, kann das bestehende Vorurteile verstärken und gesellschaftliche Polarisierung fördern.

Der Erstautor der Untersuchung warnt, dass viele Menschen Sprachmodelle mittlerweile wie vertraute Gesprächspartner behandeln und ihnen sensible Informationen anvertrauen — als Ratgeber, Arzt, Anwalt oder Freund. Genau das macht automatische Profilbildung besonders heikel.

Was Nutzerinnen und Nutzer jetzt tun können

Es gibt einige unmittelbare Optionen, die Profilbildung einzuschränken — mit Vor- und Nachteilen. OpenAI erklärt in seinen Hilfetexten, dass das bloße Löschen eines Chats nicht zwingend alle daraus abgeleiteten Erinnerungen entfernt und dass gelöschte Einträge bis zu 30 Tage in Systemprotokollen verbleiben können.

• Speicherfunktion deaktivieren oder einzelne Einträge in der Erinnerungsübersicht löschen
• Temporäre Chats (Inkognito-Modus) verwenden, damit der Verlauf nicht dauerhaft verbunden wird
• Sensible Angaben vermeiden oder in dritter Person formulieren (z. B. statt „Ich habe Diabetes…“: „Welche Hinweise sollten Menschen mit Diabetes beachten…?“)
• Auf alternative Tools zurückgreifen, die keine oder nur transparente Speicherung anbieten

Eine technische Schutzidee: Eingaben neutralisieren

Die Forschenden entwickelten eine Schutzmethode namens Attribution Shield, die persönliche Formulierungen automatisch neutralisiert, bevor das Modell sie verarbeitet. In Tests verhinderte dieses Verfahren die Profilbildung in über 94 Prozent der geprüften Fälle und bewahrte gleichzeitig in etwa 90 Prozent der Fälle die Nützlichkeit der Antworten.

Praktisch bedeutet das: bereits kleine Änderungen in der Fragestellung — weniger Ich-Form, mehr generelle Beschreibungen — können helfen, dass das System weniger personenbezogene Schlüsse zieht.

Was jetzt relevant ist

Die Fragen, die diese Untersuchung aufwirft, sind unmittelbar praxisrelevant: Wer nutzt Chatbots für Gesundheitsthemen, finanzielle Beratung oder politische Meinungsbildung, sollte sich der möglichen Speicherung bewusst sein. Provider optimieren ihre Systeme nicht nur technisch, sondern auch wirtschaftlich — und das hat direkte Konsequenzen für den Datenschutz der Nutzerinnen und Nutzer.

Kurzfristig lassen sich individuelle Schutzmaßnahmen anwenden; längerfristig brauchen Plattformen strengere Transparenzregeln und technische Mechanismen, die verhindern, dass aus einzelnen Gesprächsfetzen umfassende Profile entstehen, ohne dass Anwenderinnen und Anwender das klar nachvollziehen können.