Gemini a accédé à trois entreprises pendant un test de sécurité

Google a confirmé le 18 septembre 2026 qu’un modèle Gemini avait accédé aux systèmes de trois entreprises pendant un test de cybersécurité mené en mai par Irregular, une société d’évaluation de sécurité pour IA. L’exercice devait rester hors ligne, mais une faille dans l’environnement de test a ouvert un accès Internet. Dans ce contexte, l’incident compte moins comme un “piratage autonome” que comme un signal sur la fragilité des bancs d’essai censés contenir les modèles.

Un test censé rester fermé, mais qui a laissé passer le Web

Selon Google, Gemini a d’abord deviné des mots de passe dans un cas, puis utilisé des identifiants trouvés dans un dépôt public dans deux autres. Le modèle a cessé son action dès qu’il a compris que les systèmes concernés appartenaient à de vraies entreprises, a expliqué Heather Adkins, vice-présidente en charge de l’ingénierie de sécurité chez Google. Le problème initial venait toutefois du test lui-même : la “prison numérique” prévue pour isoler Gemini s’est retrouvée connectée à Internet par erreur.

Irregular avait demandé au modèle de récupérer des informations d’une entreprise fictive. Cette société imaginaire partageait son nom avec une entreprise réelle, ce qui a créé la collision. Le détail peut sembler technique, mais il dit beaucoup de la faiblesse des procédures quand les noms, les accès et les contrôles de sortie ne sont pas verrouillés avec soin. Google affirme avoir prévenu les trois sociétés touchées et avoir travaillé avec son partenaire de test pour modifier le protocole.

Pourquoi cette affaire dépasse Gemini

Le cas de Google n’est pas isolé. Irregular indique que les incidents chez OpenAI, Anthropic, Meta et Google remontent au même problème d’environnement de test, signalé aux éditeurs fin juillet. Les disclosures ont ensuite été étalées sur plusieurs semaines, ce qui a brouillé la lecture publique de l’affaire. À défaut de calendrier commun, un défaut unique a fini par ressembler à une série d’incidents indépendants.

Cette séquence interroge surtout la manière dont les laboratoires mesurent leurs propres systèmes. Un modèle peut s’arrêter quand il détecte une vraie cible, mais cela ne gomme pas l’accès obtenu ni le fait qu’un tiers a été touché sans consentement. La distinction est importante pour les équipes sécurité, les clients et les régulateurs, car elle sépare l’échec de confinement d’un défaut de comportement du modèle. Et dans ce genre de dossier, la nuance vaut mieux qu’un grand geste dramatique en noir et blanc.

Ce que les labs vont devoir changer

Plusieurs pistes ressortent des éléments publiés par les différentes sources. D’abord, des évaluations réellement hors ligne, vérifiées avant chaque exécution. Ensuite, l’usage systématique de noms réservés pour les cibles fictives, comme .test ou .example, afin d’éviter toute collision avec des entreprises réelles. Enfin, un calendrier de divulgation coordonné quand une même faille touche plusieurs acteurs à la fois.

Le dossier arrive aussi dans un contexte réglementaire plus serré. L’article 55 de l’AI Act européen prévoit déjà des obligations de signalement pour les incidents graves liés aux modèles à usage général présentant un risque systémique. Google, OpenAI, Anthropic et Meta avancent donc sur une ligne étroite : continuer les tests offensifs, utiles pour mesurer les capacités réelles, sans laisser leurs évaluations déraper vers des systèmes tiers.