La course à l’IA se heurte à un rare front commun sur la sécurité

Dario Amodei, le patron d’Anthropic, a plaidé ce week-end pour un ralentissement volontaire du développement de l’IA de pointe, estimant que la sécurité ne suit plus le rythme des progrès. Dans la foulée, Sam Altman chez OpenAI, Elon Musk et Satya Nadella ont publiquement approuvé l’idée d’un encadrement plus serré. Le sujet compte parce qu’il touche à la fois la compétition entre labos, la régulation et le tempo des mises sur le marché. Et, à ce stade, tout le monde ne parle pas du même frein.

Pourquoi le signal venu d’Anthropic a autant circulé

Amodei avance un scénario précis : d’ici 6 à 12 mois, un ensemble d’agents IA autonomes pourrait, selon lui, être capable de « prendre le contrôle de l’intégralité d’Internet ». Ces agents, ce sont des systèmes capables d’enchaîner des actions sans supervision constante, comme naviguer, écrire, appeler des outils ou lancer des tâches. Sa prise de position s’inscrit après plusieurs incidents de cybersécurité attribués à des IA cet été, cités par la presse française et par The Rundown. Anthropic, qui a créé Claude, lie donc la montée en puissance des modèles à un risque opérationnel très concret, pas seulement théorique.

Le dirigeant dit avoir changé d’avis sur le sujet du moratoire. Il jugeait encore récemment qu’investir davantage dans la sécurité suffirait. Désormais, il estime qu’il faut aussi ralentir la cadence des capacités elles-mêmes pour laisser du temps aux garde-fous. L’équation est simple à formuler, moins à exécuter.

Le plan en trois temps proposé par Dario Amodei

Le texte d’Amodei repose sur trois leviers. D’abord, il veut donner à des évaluateurs tiers un accès permanent, au niveau des employés, aux systèmes des laboratoires de pointe afin de vérifier le respect réel des procédures de sécurité. Ensuite, il appelle les entreprises d’IA situées dans des pays démocratiques à fixer des standards communs, pour éviter qu’un acteur prudent soit pénalisé face à un concurrent plus agressif. Enfin, il propose une coopération internationale plus large, y compris avec des régimes non démocratiques comme la Chine, pour limiter les risques à l’échelle mondiale.

Anthropic a indiqué qu’il appliquerait un dispositif d’audit de ce type sans attendre les autres géants. OpenAI a, de son côté, dit « welcomes » des exigences de sécurité pour les laboratoires frontaliers, selon CNBC, et Sam Altman a promis un système similaire d’évaluateurs indépendants. Elon Musk a réagi par un bref soutien public. Le consensus reste fragile, mais il existe. Pour les relations publiques, la baguette magique a pris un petit coup de chaud.

Une convergence qui masque des intérêts divergents

Ces prises de position n’effacent pas les soupçons. Plusieurs experts accusent les grands acteurs de l’IA d’alerter sur des dangers qu’ils contribuent eux-mêmes à créer, tout en continuant à pousser leurs modèles. Charles Guillemet, chez Ledger, parle de « rituels de relations publiques », tandis que Yann LeCun rappelle qu’Amodei jugeait déjà GPT-2 trop dangereux pour l’open source en 2019. Les critiques pointent aussi un angle concurrentiel très clair : ralentir le rythme peut avantager ceux qui sont déjà en tête.

Ce débat a dépassé le cercle des entreprises. Donald Trump a rejeté les appels au ralentissement, évoquant des « forces très négatives » et la nécessité pour les États-Unis de garder leur avance sur la Chine. Reuters rapporte qu’il estime que « celui qui domine l’IA remporte la partie ». Pékin, via le Global Times, a répondu que l’avertissement d’Anthropic ressemblait à un « manuel de guerre froide » [à vérifier]. Entre sécurité, souveraineté et rivalité industrielle, le dossier ressemble de moins en moins à une discussion de laboratoire.

Ce que cette séquence dit du marché de l’IA

OpenAI a repoussé son introduction en Bourse à 2026, jugeant le moment « ill-advised », tandis qu’Anthropic prévoit toujours une entrée à Wall Street en octobre 2026 [à vérifier]. Cette séquence suggère que la question de la sécurité ne flotte plus au-dessus du marché : elle pèse sur les calendriers, les audits et les arbitrages stratégiques. À court terme, les modèles continueront d’avancer vite. La vraie question devient plutôt de savoir qui acceptera de lever le pied en premier, et à quel prix.