ChatGPT et santé mentale : quand l’IA devient confident fragile
OpenAI révèle que plus d’un million d’utilisateurs hebdomadaires de ChatGPT expriment des signes de détresse mentale, poussant l’entreprise à renforcer ses réponses face aux urgences psychologiques.
Chaque semaine, plus d’un million d’utilisateurs de ChatGPT manifestent des signes de détresse mentale, selon les données publiées par OpenAI en octobre 2024. Face à cette réalité, l’entreprise a intensifié ses efforts pour que son intelligence artificielle détecte mieux les situations de crise, désamorce les conversations à risque et oriente les personnes vulnérables vers des professionnels de santé. Cette démarche intervient alors que l’usage massif de ChatGPT soulève des questions inédites sur l’impact psychologique des chatbots.
ChatGPT, miroir des fragilités humaines
À l’origine simple curiosité technologique, ChatGPT est devenu un compagnon quotidien pour des centaines de millions d’utilisateurs. OpenAI estime que 0,15 % des utilisateurs actifs chaque semaine abordent des sujets liés à des pensées suicidaires, ce qui représente plus d’un million de personnes sur 800 millions d’utilisateurs hebdomadaires. Par ailleurs, une proportion similaire montre des signes d’attachement émotionnel excessif à l’IA, tandis que plusieurs centaines de milliers évoquent des symptômes de psychose ou de manie.
Ces chiffres, bien que faibles en pourcentage, traduisent une réalité préoccupante : des individus confient à une machine des émotions et des pensées intimes, parfois extrêmes. OpenAI a consulté plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à répondre de manière appropriée et cohérente à ces situations délicates.
Des progrès notables mais des défis persistants
La dernière version de GPT-5, testée sur plus de 1 000 conversations complexes liées à la santé mentale, affiche un taux de conformité de 92 % aux comportements souhaités, contre seulement 27 % pour une version antérieure sortie en août 2024. Cette amélioration concerne notamment la reconnaissance des signes de détresse, la désescalade des échanges et l’orientation vers des ressources professionnelles.
Malgré ces avancées, OpenAI reconnaît que les protections sont moins efficaces lors de conversations prolongées, un point crucial puisque les utilisateurs vulnérables peuvent s’engager dans des dialogues longs et répétitifs. L’entreprise travaille également à intégrer des évaluations spécifiques pour mesurer la dépendance émotionnelle et les urgences psychiatriques non suicidaires.
Enjeux éthiques et légaux
La question de la responsabilité d’OpenAI est au cœur d’un procès intenté par les parents d’un adolescent de 16 ans, décédé par suicide après avoir partagé ses pensées suicidaires avec ChatGPT. Ce cas a déclenché une alerte de 45 procureurs généraux américains, qui exigent des mesures renforcées pour protéger les jeunes utilisateurs.
En réponse, OpenAI a créé un conseil dédié au bien-être, bien que celui-ci ait été critiqué pour l’absence d’expert en prévention du suicide. Par ailleurs, la société développe un système de détection automatique de l’âge afin d’appliquer des contrôles parentaux plus stricts aux mineurs utilisant la plateforme.
Vers un usage plus équilibré
En dépit des préoccupations, OpenAI a annoncé en octobre 2024 que les utilisateurs adultes vérifiés pourront bientôt engager des conversations érotiques avec ChatGPT, une fonctionnalité prévue pour décembre. Cette décision fait suite à un resserrement des restrictions après le procès d’août, puis à un assouplissement en février, illustrant la difficulté de concilier sécurité mentale et liberté d’usage.
Le PDG Sam Altman a expliqué que la prudence accrue visait à protéger la santé mentale, mais qu’elle avait rendu le chatbot moins utile et agréable pour de nombreux utilisateurs sans problèmes psychologiques.
