OpenAI verrouille mieux l’extraction des raisonnements cachés
OpenAI dit avoir nettement réduit les attaques visant à extraire le raisonnement interne de GPT-6.2 Astra et Sol. L’enjeu dépasse la simple confidentialité : il touche aussi la sécurité des modèles et la course à la distillation.
OpenAI affirme avoir fortement renforcé les défenses de GPT-6.2 Astra et GPT-6.2 Sol contre l’extraction de leur raisonnement interne, aussi appelé protected reasoning. Dans ses tests automatisés, le taux de réussite des attaques est tombé de 54,0 % à 0,2 % pour des requêtes passées, et de 22,9 % à 0,9 % pour des requêtes en cours. Cette protection compte, car ces traces intermédiaires peuvent révéler plus que la réponse finale et servir à copier des capacités sans autorisation.
Ce que protège OpenAI, exactement
Le protected reasoning désigne les étapes de calcul qu’un modèle produit pour parvenir à une réponse. Ces traces ne sont pas toujours visibles pour l’utilisateur, mais elles peuvent contenir des informations absentes de la sortie finale. OpenAI explique que les attaquants cherchent précisément à récupérer ces éléments pour entraîner d’autres systèmes, notamment sur des tâches de code et de cybersécurité défensive. Pas très fair-play, mais très rentable pour un adversaire.
La société dit avoir déployé des défenses à plusieurs niveaux. D’abord, un entraînement ciblé pour apprendre au modèle à reconnaître les tentatives d’extraction. Ensuite, des filtres d’entrée et de sortie pour les messages et les appels d’outils. Enfin, des blocages API qui empêchent d’anciens modèles de lire ce raisonnement protégé. Les protections s’appliquent à GPT-6.2 Astra et GPT-6.2 Sol, et certaines améliorations sont aussi intégrées à GPT-6 Astra.
Des attaques plus difficiles à mener à grande échelle
OpenAI ne se contente pas de durcir le modèle lui-même. L’entreprise dit aussi mener des actions de blocage contre des campagnes coordonnées, avec des milliers à des dizaines de milliers de comptes bannis chaque semaine. Selon sa note, ce rythme a augmenté nettement pendant l’été 2026. L’objectif affiché est de réduire la quantité de données récupérables, d’augmenter le coût des campagnes et de raccourcir le délai de réaction.
Sur le plan méthodologique, l’évaluation citée par OpenAI est un test « adaptive black-box » agrégé sur six modèles attaquants. Les équipes de red team adaptent leur stratégie au fur et à mesure, tout en ne voyant que ce qu’un utilisateur externe verrait. Dans ce cadre, la baisse de 54,0 % à 0,2 % pour l’extraction depuis une requête antérieure, puis de 22,9 % à 0,9 % sur la requête courante, montre que la barrière monte clairement d’un cran.
Pourquoi la distillation inquiète les éditeurs de modèles
Le sujet dépasse OpenAI. L’éditeur relie cette annonce à un problème plus large : la distillation, c’est-à-dire l’utilisation non autorisée des sorties d’un modèle pour entraîner un autre système. OpenAI dit avoir observé que des traces exactes de raisonnement transfèrent mieux certaines capacités cyber que de simples résumés, même quand les tâches de départ sont autorisées. Le risque, pour les fournisseurs, n’est donc pas seulement de perdre du contenu ; il est aussi de voir partir des compétences.
Dans son étude interne, OpenAI compare deux variantes d’un même modèle étudiant. L’une est entraînée avec des traces exactes du professeur ; l’autre avec des sorties visibles de l’utilisateur, des résumés de raisonnement et des interactions avec outils. Après un premier passage de supervision, le modèle nourri aux traces exactes fait mieux. Après un entraînement par renforcement léger, il reste devant au plus grand budget d’inférence testé sur les benchmarks cités. OpenAI en tire une conclusion prudente : protéger les traces exactes peut limiter le transfert de capacité, y compris sur des tâches autorisées.
Une réponse qui dépasse le seul périmètre d’OpenAI
La publication s’inscrit dans une séquence plus large. OpenAI avait déjà évoqué, le 30 septembre 2026, une campagne coordonnée observée à partir du 1er juillet 2026. L’entreprise parlait alors de 16 000 requêtes d’extraction tentées par plus de 4 000 utilisateurs les 24 et 25 juillet 2026, avec un noyau attribué à des personnes associées à Moonshot AI, tout en précisant qu’il n’était pas certain que tous les opérateurs relevaient d’un seul acteur.
Sur ce terrain, Anthropic mène aussi sa propre lutte contre des attaques de distillation systématique et dit avoir banni des dizaines de milliers de comptes. La société affirme réussir dans 90 à 99 % des cas [à vérifier selon la source citée dans le texte]. OpenAI recommande de son côté de combiner contrôles sur les requêtes, surveillance des appels d’outils, tests de régression et enquêtes sur les campagnes. La défense ne se joue plus seulement sur la réponse finale, mais sur tout ce que le modèle laisse passer entre deux messages.
Points clés
- 54,0 % à 0,2 % sur les requêtes passées, selon OpenAI.
- 22,9 % à 0,9 % sur les requêtes en cours.
- Des milliers à des dizaines de milliers de comptes bannis chaque semaine.
- GPT-6.2 Astra et GPT-6.2 Sol sont les modèles protégés.
- OpenAI évoque une campagne coordonnée observée depuis le 1er juillet 2026.
- Anthropic dit aussi lutter contre la distillation à grande échelle.
En chiffres
- 54,0 % — taux de réussite des attaques sur GPT-6 Astra, avant renforcement.
- 0,2 % — taux de réussite sur GPT-6.2 Astra, avec nouvelles défenses.
- 22,9 % — extraction réussie sur requêtes en cours, avant mise à jour.
- 0,9 % — même test, après durcissement des garde-fous.
- 16 000 — requêtes tentées les 24 et 25 juillet 2026, selon OpenAI.