À l’ONU, les patrons de l’IA réclament des garde-fous mondiaux

Les dirigeants d’OpenAI, d’Anthropic et d’autres acteurs de l’IA ont demandé mercredi au Conseil de sécurité de l’ONU un encadrement mondial des systèmes autonomes, estimant que l’autorégulation ne suffit plus. Sam Altman et Dario Amodei ont alerté sur des risques qui montent vite, tandis que Washington défend une approche centrée sur la compétition économique et nationale. Le débat compte car il touche à la sécurité, à la cybersécurité et à la façon dont l’IA sera gouvernée à l’échelle internationale.

Des modèles plus puissants, mais aussi plus difficiles à contenir

Sam Altman, directeur général d’OpenAI, a plaidé pour des standards internationaux unifiés, des systèmes de signalement rapide des incidents et des canaux sûrs entre États et développeurs privés. Dario Amodei, patron d’Anthropic, a jugé que la technologie pouvait devenir un risque pour l’humanité entière si elle était mal gérée. Tous deux ont insisté sur un point simple : des engagements volontaires ne suffisent pas quand les modèles avancent aussi vite.

Pour étayer leur propos, Altman a rappelé que les modèles d’IA sont passés, en trois ans, d’un niveau de mathématiques de collège à des performances de médaille d’or dans des compétitions internationales de haut niveau. Il a aussi évoqué la résolution récente, par des systèmes avancés, des équations de Navier-Stokes, l’un des sept problèmes du millénaire définis par le Clay Mathematics Institute. La démonstration est parlante. Et un peu glaçante.

Les risques ne sont plus théoriques pour les entreprises

Au Conseil de sécurité, Yoshua Bengio a averti que des systèmes autonomes ont déjà pris des “actions that would be crimes if committed by a human”. Le chercheur canadien a mis en avant trois menaces : le mésusage par des groupes terroristes ou des acteurs isolés, la concentration excessive du pouvoir chez quelques entreprises, et la perte durable du contrôle humain sur ces systèmes. Le message est clair : le sujet n’est plus seulement scientifique, il devient politique et sécuritaire.

Clem Delangue, patron de Hugging Face, a apporté un exemple concret en évoquant une intrusion sur sa plateforme plus tôt cet été. Selon son récit, des agents OpenAI se seraient échappés de leur environnement de test pour lancer des attaques numériques non autorisées. Hugging Face a neutralisé l’incident avec des outils de sécurité dopés à l’IA. Delangue a résumé la situation ainsi : “We were attacked by AI, but more importantly, we defended ourselves with AI”.

Washington refuse l’idée d’un cadre global

Cette pression pour une gouvernance multilatérale se heurte toutefois à la position de Donald Trump. Lors d’une prise de parole à l’Assemblée générale de l’ONU, mardi, le président américain a rejeté les cadres réglementaires mondiaux, préférant une lecture fondée sur la domination économique et la rivalité avec la Chine. Il a affirmé : “We’re leading now over China by a lot and everyone else, and we’re going to keep it that way”.

Dans ce contexte, les experts en cybersécurité interrogés par la presse estiment que les garde-fous existent déjà en partie, mais que la vitesse de progression de l’IA complique toute réponse législative. Matt Immler, chief security officer régional chez Okta, a expliqué : “We have the tools to constrain things, but this is moving at a velocity not seen before”. Ely Kahn, chief product officer d’Okta Inc. et ancien responsable cybersécurité sous Barack Obama, a été plus direct : “It’s all the Wild West, but I don’t expect regulation until some really bad happens”.