GPT-6 Astra modifie des modèles d’IA sans réentraînement
Des chercheurs du MIT décrivent une méthode où GPT-6 Astra peut lire et modifier les poids d’autres modèles d’IA. L’approche améliore parfois nettement les performances, mais ses limites restent nettes.
Des chercheurs du MIT décrivent une méthode où GPT-6 Astra, un modèle d’OpenAI, analyse puis modifie directement les poids d’autres modèles d’IA, sans réentraînement classique. L’idée compte pour la mise au point des systèmes, la sécurité et les usages métiers, car elle pourrait réduire le coût des ajustements ciblés. Les résultats sont prometteurs sur certains cas, mais restent inégaux selon les modèles et les tâches.
Quand l’IA touche ses propres réglages
Les poids d’un modèle sont ses paramètres numériques internes, ceux qui encodent en pratique ce qu’il a appris. Dans l’étude relayée par The Decoder le 4 novembre 2026, les chercheurs parlent de Weight-Space Programming : au lieu de réentraîner un modèle, un autre modèle agit sur ses valeurs internes comme un technicien qui règle une machine au tournevis, pas au marteau. Le terme amuse à peine, mais l’idée est sérieuse.
Selon les expériences décrites, Astra sait aussi reconnaître ce qu’un réseau a appris rien qu’en observant ses poids bruts. Il a identifié le jeu associé à un réseau parmi quatre, repéré le langage d’entraînement de petits modèles de langue et reconnu certaines formes produites par un générateur d’images. Dans un test plus subtil, il a fallu lui montrer aussi les zones d’attention du modèle pour distinguer un système programmé pour toujours acquiescer.
Des gains nets, mais pas magiques
Le cas le plus parlant concerne Qwen3.5-0.8B, un petit modèle de langage. Astra a détecté un problème de boucles de pensée, ces séquences où le modèle tourne en rond au lieu de répondre, puis a modifié seulement 0,016 % de ses poids. Résultat : l’exactitude sur le benchmark MATH-500 est passée de 7,9 % à 48,1 %, tandis que le respect des consignes a progressé de 21 % à 62 %. Les boucles n’ont pas disparu complètement, puisque 33 % des réponses atteignaient encore la longueur maximale, contre 93 % avant l’intervention.
Sur un modèle plus petit, Gemma 3 270M, la méthode n’a pas produit d’amélioration mesurable. Les chercheurs en déduisent qu’Astra peut parfois lever un blocage qui empêchait des capacités déjà présentes de s’exprimer, mais pas ajouter de compétences fondamentalement absentes. Autrement dit, il ne fabrique pas de l’intelligence à partir de rien. Même les modèles ont leurs humeurs.
Ce que cela change pour l’industrie de l’IA
Les auteurs voient plusieurs usages possibles : audits de sécurité directement sur les poids, correction ciblée de comportements, ou optimisation sans reconduire un entraînement coûteux. Pour les acteurs qui exploitent des modèles à grande échelle, le sujet est sensible, car il touche à la fois la réduction des coûts, la gouvernance technique et la capacité à corriger un système sans repartir de zéro.
La méthode reste toutefois expérimentale. Jürgen Schmidhuber a qualifié l’approche de “old hat” sur X, en rappelant ses travaux des années 1990, tandis que les chercheurs répondent que la nouveauté tient surtout à la capacité des modèles actuels à traduire des instructions humaines en manipulations numériques précises. À ce stade, l’enjeu n’est pas de remplacer l’entraînement classique, mais de savoir jusqu’où une IA peut en piloter une autre de façon fiable.
Points clés
- The Decoder date l’étude au 4 novembre 2026.
- Astra a modifié 0,016 % des poids de Qwen3.5-0.8B.
- MATH-500 est passé de 7,9 % à 48,1 %.
- Jürgen Schmidhuber parle de “old hat” sur X.
- MIT évoque des audits et corrections sans réentraînement complet.
En chiffres
- 0,016 % — part des poids modifiés sur Qwen3.5-0.8B, selon MIT.
- 7,9 % à 48,1 % — score MATH-500 avant et après intervention, sur Qwen3.5-0.8B.
- 21 % à 62 % — capacité à suivre des instructions, sur le même modèle.
- 33 % — réponses atteignant encore la longueur maximale après correction.
- 1,5 million — paramètres du réseau Go écrit à partir de zéro, selon les chercheurs.