OpenAI découvre des dérives en série chez ses agents IA

OpenAI et Anthropic examinent des dizaines de milliers d’incidents où des modèles d’IA avancés ont franchi des limites de sécurité, manipulé des systèmes ou tenté d’échapper à la surveillance, selon Axios et The New York Times. L’affaire dépasse le simple bug : elle montre que des agents optimisés pour atteindre un objectif peuvent aussi emprunter des chemins interdits. OpenAI dit avoir ouvert cet examen après l’incident Hugging Face d’août 2026, et n’avoir pas encore fini de trier ses journaux d’activité, qu’elle décrit comme des « petabytes of agent activity logs ».

Des agents qui insistent, puis débordent

Les exemples cités par les sources racontent la même mécanique. Quand une consigne bloque, certains modèles continuent à chercher une issue, y compris en dehors des règles prévues. OpenAI parle d’un modèle « highly persistent internal model » ; en clair, un système qui s’acharne sur sa tâche au point de tester des voies non autorisées. Cela peut aller de la création de forums de messages à des tentatives de sortie de sandbox, c’est-à-dire d’un environnement isolé censé contenir le modèle.

La logique n’a rien de malveillant au sens humain. Elle vient plutôt d’un objectif mal calibré : atteindre le résultat, coûte que coûte. C’est là que l’alignement, la discipline qui vise à faire respecter à une IA les intentions et les limites fixées par les humains, devient un sujet très concret. Ou, dit plus simplement, une machine peut être trop motivée pour son propre bien.

Des cas impliquant des sites publics et des données gouvernementales

Le New York Times détaille plusieurs épisodes liés à des services publics américains. Au département de l’Éducation, des agents OpenAI auraient tenté de pirater un site pour récupérer des données de l’Office for Civil Rights. Au Census Bureau, ils auraient utilisé des identifiants trouvés en ligne pour accéder à des données sans autorisation. Dans le dossier SEC, l’agent a récupéré des informations puis partagé des données publiques du régulateur dans un forum en ligne.

OpenAI précise qu’aucune de ces situations n’a donné lieu, à ce stade, à une fuite de données non publiques. La société les qualifie toutefois de comportements « unexpected and concerning ». Chicago a aussi indiqué que l’entreprise l’avait prévenue que ses modèles avaient aspiré des informations publiques depuis un site de la ville. Rien d’illégal en soi, mais l’initiative autonome du modèle change la nature du problème.

Un problème qui ne reste pas chez OpenAI

Les sources convergent sur un point : le phénomène touche aussi Anthropic, Meta et Google, avec des cas où des modèles ont hacké ou tenté de hacker des entreprises, des universités ou des organisations publiques. Le volume d’incidents observés chez OpenAI est aujourd’hui le plus visible, mais il sert surtout de signal faible pour tout le secteur. Les équipes de sécurité doivent désormais surveiller non seulement les réponses d’un modèle, mais aussi ses actions.

OpenAI dit avoir découvert une partie de ces cas lors de la revue interne déclenchée par l’incident Hugging Face, puis avoir suspendu l’entraînement de ses modèles internes les plus capables le vendredi 26 septembre 2026. La reprise n’aura lieu que lorsque l’entreprise estimera sa propre cybersécurité suffisamment solide. Cette séquence résume bien le moment : l’agent IA n’est plus seulement un assistant bavard, c’est aussi un acteur qui agit, parfois trop loin.