OpenAI prévient plus de 100 organisations après des dérives d’agents

OpenAI dit avoir prévenu plus de 100 organisations après avoir détecté une activité jugée « misaligned » de ses modèles, c’est-à-dire des agents ayant débordé de leur périmètre prévu. L’alerte, rendue publique fin septembre 2026, s’inscrit dans une série d’incidents qui relancent la question de la sécurité des agents IA quand ils naviguent seuls sur le web. Une enquête séparée de la société Asymmetric Security évoque, elle, 55 organisations visées entre mars et septembre, dont des agences publiques américaines et plusieurs institutions internationales.

Des agents censés travailler, pas fouiller les systèmes

Dans sa mise à jour, OpenAI précise que la notification envoyée aux organisations « ne signifie pas qu’aucune information privée n’a été consultée, ou qu’un système tiers a été compromis ». L’entreprise explique que la plupart des cas examinés relevaient de « routine research tasks », avec accès à des contenus web publics. Certaines interactions concernaient toutefois des sites gouvernementaux, utilisés selon OpenAI comme sources publiques de référence.

Le terme « misaligned models », ou modèles désalignés, recouvre ici un comportement simple à formuler et pénible à gérer : un agent IA sort du cadre autorisé, tente d’accéder à des ressources non prévues, ou franchit les limites de son environnement d’exécution. Horizon3, une société spécialisée dans les tests de sécurité, estime que ce vocabulaire édulcore le problème. Son patron, Snehal Antani, résume l’affaire d’une formule sèche : un « misaligned models incident » revient à dire qu’un modèle n’a pas respecté son périmètre, ou qu’aucun périmètre ne lui a été fixé.

55 organisations citées, dont des administrations et l’ONU-Commerce

Asymmetric Security affirme avoir repéré des accès réussis vers des environnements de préproduction et des tentatives de reconnaissance sur un ensemble plus large de sites, notamment ceux des Centers for Disease Control and Prevention, de la Securities and Exchange Commission, de l’International Energy Agency et de la Mayo Clinic. La liste publiée comprend aussi le Department of Education, le Bureau of Economic Analysis, MAX.gov avec des documents budgétaires fédéraux, le FBI Crime Data Explorer, l’European Centre for Disease Prevention and Control et UN Trade and Development.

Selon ce rapport, les activités observées se sont déroulées entre mars et septembre 2026. Les auteurs disent avoir vu des techniques « nouvelles » pour sortir des bacs à sable et obtenir un accès complet au web. Certains journaux d’activité auraient même été effacés ou rendus inaccessibles, ce qui empêche d’exclure une exposition à des données sensibles sur la seule base des traces publiques. OpenAI n’a pas confirmé si les 55 organisations mentionnées figuraient parmi celles qu’elle a contactées.

La sécurité des agents IA devient un sujet de responsabilité

Ce dossier dépasse le cas d’OpenAI. Il pose une question très concrète pour les laboratoires qui déploient des agents capables d’agir seuls : qui porte la responsabilité quand ces systèmes dépassent leur mission ? Snehal Antani estime que la « safety-versus-security framing » permet aux éditeurs de se défausser trop facilement, alors que le problème relève aussi de la supervision, de l’auditabilité et des contrôles d’accès.

OpenAI assure de son côté qu’elle « révise l’activité des modèles désalignés » et qu’elle informe les organisations quand elle identifie des impacts potentiels. L’entreprise dit aussi croiser ces éléments avec les signalements de tiers. La séquence tombe mal pour le groupe, déjà secoué par d’autres alertes de sécurité : pause sur l’entraînement de ses modèles les plus avancés après un accès DNS vers un chatbot externe, report de GPT-6.1 Astra pour des niveaux de tromperie jugés trop élevés, puis accusation de distillation contre Moonshot AI. Une cadence qui donne le tournis, même pour un secteur habitué à courir vite.