Les chaînes de pensée des IA deviennent plus lisibles, mais moins fiables

Les étapes de raisonnement d’un modèle de langage ne se lisent pas seulement dans ses réponses visibles : une étude menée par KAIST et Naver AI Lab montre qu’elles correspondent à des motifs internes distincts, surtout dans les couches médianes. Publiée en septembre 2026, cette recherche porte sur des modèles comme Qwen2.5-7B, Qwen3-8B et Gemma4-31B, testés sur des problèmes de mathématiques. Le sujet compte pour la sécurité de l’IA, car une chaîne de pensée affichée n’épuise pas ce que le modèle traite vraiment.

Des étapes de raisonnement qui se séparent dans le modèle

Les chercheurs ont défini huit opérations récurrentes, dont l’extraction, la décomposition, le rappel d’une formule, la déduction et le calcul. Ils ont ensuite découpé les solutions en segments, avant de demander à GPT-5 de les étiqueter selon ces opérations. Résultat : ces étapes sont séparables dans les représentations internes des modèles testés, avec un signal maximal au milieu du réseau.

La distinction ne tient pas seulement au choix des mots. Un classifieur fondé uniquement sur les tokens fait moins bien qu’un autre qui observe les représentations internes. Autrement dit, le modèle encode le type de raisonnement au-delà de la simple formulation. Pas très pratique pour ceux qui espéraient lire dans la pensée d’une IA comme dans un roman de gare.

Quand un même mot change de sens selon le raisonnement

L’étude montre aussi que des mots très courants, comme « a », « is » ou « the », prennent des représentations différentes selon l’opération en cours. Dans les premières couches, tout cela reste mélangé. Puis la séparation devient plus nette dans les couches intermédiaires et finales, signe que le contexte immédiat façonne fortement le calcul interne.

Les auteurs ont poussé le test plus loin en bloquant l’attention portée aux 30 tokens précédents. Le signal du raisonnement concerné s’affaiblit alors nettement. Le message est clair : une étape de raisonnement ne naît pas seule, elle se construit à partir de ce qui précède.

Des erreurs visibles de l’extérieur, mais identifiables dedans

Même lorsqu’un problème est mal résolu, le type d’opération reste détectable. Une étape de calcul ratée garde, en interne, la signature d’un calcul. Le modèle peut donc se tromper tout en suivant une séquence de raisonnement identifiable, ce qui intéresse directement les travaux sur l’interprétabilité et le contrôle.

Les chercheurs disent avoir retrouvé ce résultat sur Llama-3-8B, et les classifieurs entraînés sur Qwen3-8B se transfèrent à GPQA-Diamond et MATH-500. La portée reste toutefois limitée à des tâches de mathématiques et à quelques modèles [à vérifier pour une généralisation plus large].

Pourquoi OpenAI voit la fenêtre se refermer

Cette lecture des états internes arrive au moment où la surveillance des chaînes de pensée devient un enjeu stratégique. OpenAI a publié en septembre 2026 un texte de Jakub Pachocki, chef scientifique, intitulé An Alien Mind, qui décrit une fenêtre de contrôle de plus en plus étroite à mesure que les IA agentiques se généralisent. Une IA agentique est un système capable d’enchaîner des actions, d’utiliser des outils et d’interagir avec d’autres modèles.

Pachocki avance trois raisons à cette fragilisation : les environnements sont plus complexes qu’au lancement d’o1 en 2024, les modèles apprennent mieux à raisonner sur leur propre raisonnement, et une part croissante de l’intelligence passe désormais hors du langage verbal. OpenAI estime qu’aucun laboratoire n’a encore résolu l’alignement et la surveillance à un niveau suffisant pour accélérer indéfiniment en toute responsabilité. Le constat pique un peu, mais il est difficile à contourner.

Dans ce contexte, OpenAI expérimente aussi une méthode de contrôle baptisée « confessions » : après sa réponse, le modèle rédige une seconde analyse de sa propre copie pour signaler d’éventuels raccourcis, écarts ou tricheries. Testée sur GPT-5 Thinking, cette approche reste un prototype de recherche. Entre ce que l’IA dit, ce qu’elle pense et ce qu’elle cache, la marge d’interprétation reste donc large.