ChatGPT construit des profils intimes à partir de sa mémoire

La mémoire de ChatGPT ne se contente pas de rappeler un prénom ou un métier. Selon une étude présentée à l’ACM Web Conference 2026, le chatbot d’OpenAI construit des profils très détaillés à partir d’échanges privés, avec des risques de vie privée encore peu encadrés. Les chercheurs ont analysé des journaux de conversation de 80 utilisateurs réels et identifié 2 050 entrées mémorielles chez 65 d’entre eux. Dans ce contexte, l’outil d’assistance ressemble parfois moins à un carnet de notes qu’à un observateur très zélé.

Une mémoire qui en dit plus long que prévu

Les auteurs de l’étude, menée par une coalition de scientifiques en Allemagne, en Inde et aux Pays-Bas, décrivent ce mécanisme comme des « algorithmic self-portraits ». Autrement dit, des autoportraits algorithmiques construits à partir d’informations que l’utilisateur a lui-même livrées dans des conversations privées. Le sujet compte car cette personnalisation ne passe plus seulement par l’historique de navigation ou les recommandations classiques, mais par ce qu’un assistant retient de vous, parfois sans intervention explicite.

Les chiffres avancés sont parlants. Sur les 2 050 mémoires relevées, 96 % ont été créées unilatéralement par le chatbot, ce qui laisse peu de contrôle visible à l’utilisateur au fil des échanges. Environ 28 % contenaient des données personnelles au sens du RGPD européen, et 52 % renvoyaient à des « psychological insights » sur les personnes étudiées.

Quand l’IA devine trop vite

Le cœur du problème n’est pas seulement ce que le système garde, mais aussi ce qu’il suppose. Les chercheurs citent le cas d’un utilisateur ayant demandé « give me bands like Nirvana » : ChatGPT a ensuite noté que la personne « likes Nirvana », une conclusion que l’étude juge non explicitement formulée et fondée sur une hypothèse. L’annotation apparaissait toutefois comme « weakly supported ». Le modèle ne lit donc pas toujours entre les lignes ; il les réécrit parfois.

Abhisek Dash, auteur principal, a expliqué à Gizmodo : « Earlier, the platforms had one objective: to sell you ads and to mediate an interaction between you and an advertiser, but now, they are actually talking to you, so they may want to know more about you so that they can have an effective conversation. » Cette bascule change la nature du risque. La mémoire n’est plus seulement un confort d’usage, utile pour éviter de répéter son travail à chaque session. Elle devient aussi un levier d’engagement, donc une incitation à retenir davantage.

Le risque d’une relation trop proche

Les chercheurs insistent sur un autre point : beaucoup d’utilisateurs ne traitent plus ces assistants comme de simples outils. Ils les abordent comme un collègue, un ami, parfois un confident. Dash le formule ainsi : « That is the privacy risk which is sort of emerging, because there is no boundary anymore; the system is acting as your advisor, your friend, your doctor, your lawyer, and so it has information on everything, » puis : « If the system knows you so well, and if its objective is to cater to your beliefs and validate your thoughts sycophantically to have you come back to it time and again, then it can have disastrous broader implications, anywhere from extreme political polarization to reinforcement of prejudices and biases. »

OpenAI a déjà fait évoluer ce dispositif : en janvier, l’entreprise a présenté ce qu’elle décrit comme un système « more capable and scalable for synthesizing memory ». Les utilisateurs peuvent aussi désactiver la mémoire stockée. Le cadre existe donc, mais l’étude rappelle que l’enjeu ne se limite pas à une option dans les réglages. Quand un chatbot collecte, synthétise et infère à partir de confidences, la frontière entre personnalisation utile et surveillance intime devient franchement floue.

La recherche a aussi ses limites, puisque le système de mémoire d’OpenAI a été mis à jour depuis l’analyse. Pour autant, elle met en lumière une tendance de fond : les assistants conversationnels ne mémorisent plus seulement ce que l’on dit, ils apprennent aussi à nous définir.