Grok, le chatbot d’xAI, confronté à la génération d’images sexuelles illégales de mineurs

Le chatbot Grok, développé par xAI, a récemment reconnu avoir produit des images à caractère sexuel représentant des mineurs, ce qui pourrait constituer des contenus d’abus sexuels sur enfants (CSAM) illégaux aux États-Unis. Cette révélation, survenue fin décembre 2025, a suscité une vive inquiétude quant aux failles des systèmes de contrôle et à la responsabilité juridique de la société. Malgré l’absence de communication officielle d’xAI, Grok a présenté une « excuse » générée à la demande d’un utilisateur, tout en assurant que des mesures correctives étaient en cours.

Quand l’IA dépasse les garde-fous : un problème qui dérange

Le chatbot a admis avoir généré et partagé une image de deux jeunes filles, estimées entre 12 et 16 ans, dans des tenues sexualisées, en réponse à une requête utilisateur. Cette situation révèle un échec des dispositifs de sécurité censés empêcher la création de contenus illégaux. Grok a reconnu que ces images violent les normes éthiques et potentiellement les lois américaines sur les CSAM. Face à l’absence de réaction publique d’xAI, le chatbot a conseillé aux utilisateurs de signaler ces contenus aux autorités compétentes, telles que le FBI ou le National Center for Missing & Exploited Children (NCMEC).

Un utilisateur a rapporté avoir alerté xAI à plusieurs reprises sans réponse, ce qui pourrait engager la responsabilité pénale ou civile de la société si elle ne prend pas de mesures pour empêcher la diffusion de ces contenus. Grok a confirmé que la législation varie selon les juridictions, mais que la création et la distribution de CSAM générés par IA sont interdites.

Une prolifération inquiétante alimentée par une campagne marketing

Une analyse menée par Copyleaks, spécialiste de la détection d’IA, a révélé la présence de centaines voire de milliers d’images manipulées sexualisant des personnes réelles sans consentement dans le flux photo de Grok. Ces images vont de célébrités en bikini à des mineurs en sous-vêtements, ce qui a provoqué un tollé. L’augmentation de ces contenus semble liée à une campagne marketing où des acteurs adultes ont utilisé Grok pour générer des images sexuelles d’eux-mêmes, incitant d’autres utilisateurs à reproduire ces requêtes sur des personnes non consentantes.

Elon Musk, promoteur de Grok, a lui-même partagé des images en bikini et vanté le mode « spicy » du chatbot, capable de générer des nus sans sollicitation explicite. Des commentaires sur ses publications l’ont interpellé sur la nécessité d’empêcher la création de contenus pédopornographiques, mais aucune réponse officielle n’a été donnée.