OpenAI pousse des standards mondiaux pour encadrer l’auto-amélioration des IA

OpenAI appelle à définir des standards internationaux pour les systèmes d’IA avancés capables d’automatiser une partie de leur propre recherche, un domaine souvent résumé par l’expression recursive self-improvement, ou RSI. Dans une note publiée le 22 septembre 2026, l’entreprise estime que cette capacité pourrait accélérer fortement le développement des modèles, mais aussi rendre la filière plus difficile à contrôler. OpenAI prévient qu’« Fully autonomous RSI is not happening today » et qu’il ne faut aller dans cette direction que « until it can be done safely ». Sans garde-fous mûrs, écrit-elle, les humains pourraient perdre la main sur le rythme et la direction de développement. Le sujet compte car il touche à la sécurité, à la supervision humaine et, à terme, aux règles communes que les États et les organismes de normalisation devront probablement fixer.

Une IA qui accélère sa propre recherche, ce n’est plus seulement de la science-fiction

Le RSI désigne des systèmes capables d’automatiser de plus en plus de tâches nécessaires à la création de la génération suivante d’IA. OpenAI décrit un scénario où la recherche se mettrait à tourner en partie toute seule, ce qui pourrait faire grimper la vitesse d’innovation. Mais cette logique concentre aussi les risques : si le processus devient trop autonome, les opérateurs humains peuvent perdre de vue ce qui est testé, corrigé ou déployé. La promesse est séduisante sur le papier ; en pratique, elle ressemble vite à une machine qui va plus vite que le tableau de bord.

Dans sa note, OpenAI estime qu’un tel système pourrait devenir « more dangerous, less aligned, and, on the whole, a danger to people » si les garde-fous ne suivent pas. Ici, « aligned » renvoie à l’alignement entre le comportement d’un modèle et les objectifs humains fixés à sa conception. La formulation n’a rien d’anecdotique : elle relie directement la performance technique à la capacité de contrôle, un point central dans les débats sur les IA agentiques et les modèles qui agissent avec davantage d’autonomie.

Des standards communs, pas seulement des promesses de laboratoire

OpenAI propose que les États-Unis prennent la tête d’un effort mondial de standards techniques, en s’appuyant sur les instituts nationaux de sécurité de l’IA et sur des organismes comme CAISI et l’ISO. L’idée est d’établir des méthodes de mesure partagées, des règles de remontée des incidents et des exigences claires de supervision humaine pour la recherche automatisée. Dans ce cadre, la normalisation n’est pas un détail administratif : elle peut décider de ce qu’une IA a le droit d’essayer, de ce qui doit être journalisé et de ce qui doit rester sous contrôle direct.

Cette approche rejoint des avertissements récents d’un panel scientifique de l’ONU, qui a évoqué des risques de perte de contrôle sur des essaims d’agents autonomes et plaidé pour une coopération internationale sur la sécurité de l’IA. Le rapprochement avec l’aviation, le nucléaire ou la cybersécurité est révélateur : dans ces secteurs, les règles communes ont été construites après des décennies d’accidents, de tests et de compromis. Pour l’IA, la fenêtre est plus courte, car les capacités progressent vite et les usages s’installent avant les garde-fous.

Pourquoi le débat sort du laboratoire maintenant

Le timing n’est pas anodin. À mesure que les modèles gagnent en autonomie, les entreprises testent des agents capables de planifier, d’exécuter et de coordonner plusieurs actions sans validation humaine à chaque étape. Dans ce contexte, la question n’est plus seulement de savoir si l’IA sait répondre, mais si elle peut aussi apprendre à améliorer les systèmes qui la feront tourner demain. Cette bascule intéresse à la fois les industriels, les régulateurs et les organismes de normalisation, car elle touche au coût de la recherche, à la responsabilité en cas d’incident et à la souveraineté technique.

OpenAI dit vouloir poursuivre dans cette direction uniquement « until it can be done safely ». La formulation fixe une ligne rouge, mais laisse aussi entendre que la course est lancée. Reste à voir qui écrira les règles, et à quel rythme elles arriveront par rapport aux capacités qu’elles sont censées encadrer.