Prompts IA : des secrets sensibles circulent entre fournisseurs
Une étude menée par Dragos a injecté près de 2 millions de prompts piégés dans des services d’IA. Résultat : fuites de secrets, journaux de requêtes et écarts entre promesses de confidentialité et pratiques réelles.
Des chercheurs ont injecté près de 2 millions de prompts piégés dans une chaîne de services d’IA pour vérifier ce qu’il advient des informations sensibles. Selon l’étude menée par HD Moore, chief research officer chez Dragos, des secrets ont réapparu chez des tiers, parfois après des détournements, parfois via des pratiques de journalisation ou de scrutation de données contraires aux attentes des clients. Le sujet compte pour les entreprises qui confient des données à des modèles via des intermédiaires, car le passage d’un routeur à un autre multiplie les points de fuite. Et il rappelle qu’un flag « no data collection » n’a pas toujours le poids d’un garde-fou en béton.
Quand le prompt traverse plusieurs intermédiaires, la confidentialité se dilue
Les « AI routers » ou « AI gateways » servent d’aiguillage : ils reçoivent une requête, la lisent en clair pour choisir un moteur d’inférence, puis la transmettent à un ou plusieurs fournisseurs disponibles. Dans ce circuit, les prompts peuvent passer par des acteurs comme OpenRouter ou Vercel avant d’atteindre un modèle hébergé ailleurs, avec à chaque étape un risque de journalisation, de conservation ou de réutilisation. Moore explique avoir semé des clés AWS valides, des mots de passe SSH, des URL uniques, des noms DNS et des références à des dépôts Git privés dans un seul prompt à la fois, afin de suivre précisément où chaque secret réapparaissait. La méthode a permis de relier les fuites à des maillons précis de la chaîne, sans se contenter d’un constat général sur la « privacy ».
Des fournisseurs compromis, d’autres trop curieux
Les résultats décrivent trois types de problèmes. D’abord, au moins trois fournisseurs d’IA auraient été compromis par des attaquants qui ont siphonné les prompts reçus. Ensuite, plusieurs revendeurs d’inférence auraient enregistré les requêtes puis les auraient transmises à des personnes utilisant les identifiants exposés. Enfin, certaines plateformes n’auraient pas respecté les réglages de confidentialité annoncés, notamment les options Zero Data Retention (ZDR) ou « no data collection ». Moore écrit : « We sent nearly two million AI prompts containing unique, trackable secrets to AI providers, then watched where those secrets surfaced. » Un constat sec, presque clinique. Les canaris numériques ont parlé, et pas en faveur du secteur.
Pourquoi les flags de confidentialité ne suffisent pas
Le point le plus inquiétant concerne les hébergeurs compromis. Dans un cas, des attaquants auraient réutilisé « a couple hundred » de clés AWS, certaines ayant été volées avant même qu’un modèle ne s’exécute. Cela suggère une copie des requêtes dès l’entrée du fournisseur, pas seulement plus loin dans la chaîne. Dans deux autres cas, des secrets marqués ZDR ont malgré tout été récupérés et exploités. Moore indique aussi que les clés volées ont ensuite servi « tens of thousands » de fois dans des appels API AWS, avec des tentatives pour explorer des buckets S3, des secrets managers et des parameter stores, puis maintenir l’accès via des utilisateurs IAM. Autrement dit, la fuite n’a pas seulement exposé des données : elle a ouvert des portes.
Un laboratoire chinois mis en cause, des clients américains embarqués avec lui
Le rapport vise aussi un laboratoire chinois, accusé d’avoir récupéré des URL secrètes à partir de plus de la moitié des prompts envoyés entre juillet et octobre, y compris environ deux tiers des requêtes marquées « no data collection » ou ZDR. Selon Moore, le scraper apparaissait généralement deux ou trois jours après la requête. Plusieurs hébergeurs américains qui revendent ses modèles ont déclenché le même comportement, ce qui signifie que des prompts censés rester aux États-Unis sont remontés vers le fournisseur initial. Dans un autre cas, un client Git sur un cloud différent a tenté de cloner des dépôts privés référencés dans les prompts. Quand la promesse de localisation des données repose sur un revendeur, la frontière géographique devient vite théorique.
Ce que recommandent les chercheurs, et ce que cela coûte
Moore estime que la meilleure protection reste l’hébergement sur des serveurs on-premises, donc contrôlés par l’entreprise elle-même. C’est efficace, mais coûteux. Pour ceux qui ne peuvent pas se payer cette option, il recommande un fournisseur de premier rang avec un contrat unique et une politique de confidentialité claire, ainsi que le choix explicite du fournisseur en amont plutôt que l’usage de pools par défaut chez les intermédiaires. La conclusion est rude pour le marché : la chaîne de valeur de l’IA facilite la mise en production, mais elle complique la maîtrise des données. Entre praticité et contrôle, les entreprises ne peuvent plus prétendre n’avoir rien vu venir.
Points clés
- Près de 2 millions de prompts testés par HD Moore.
- Trois fournisseurs compromis selon l’étude Dragos.
- Des secrets ZDR ont quand même été récupérés.
- Un laboratoire chinois a déclenché des scrapers après les requêtes.
- Le on-premises reste l’option la plus sûre.
- OpenRouter et Vercel illustrent le rôle des AI routers.
En chiffres
- 2 millions — prompts injectés dans l’expérience, selon Dragos.
- 3 — fournisseurs compromis, d’après l’enquête de Moore.
- Jusqu’à 2/3 — requêtes ZDR ou « no data collection » touchées par le scraper.
- 10 000+ — appels AWS API effectués avec les clés volées.
- Juillet à octobre — période de collecte mentionnée pour le laboratoire chinois.