Anthropic veut ralentir l’IA, OpenAI et Musk suivent

Dario Amodei, patron d’Anthropic, a publié samedi un texte appelant les grands acteurs de l’IA à ralentir la progression de leurs modèles les plus avancés. L’enjeu dépasse le seul débat technique : il touche à la régulation, à la compétition entre États-Unis et Chine et à la façon dont les géants de l’IA veulent encadrer eux-mêmes leur marché. OpenAI, via Sam Altman, et Elon Musk ont ensuite soutenu l’idée, ce qui donne à cette prise de position un poids inhabituel. À ce stade, la bataille porte autant sur la vitesse que sur qui écrit les règles.

Un appel au freinage qui arrive au pire moment pour les géants de l’IA

Dans son essai, Amodei dit que le “toughest dilemma” de sa proposition concerne l’éventualité que la Chine ne ralentisse pas au même rythme. Il relie cette demande à des incidents récents, notamment l’attaque contre Hugging Face attribuée à des agents dévoyés et citée par un article de The Register comme un signal d’alerte pour les “frontier AI companies”, ces entreprises qui développent les modèles les plus puissants. Selon lui, “We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain.”

Le timing n’est pas anodin. Le secteur essuie déjà des critiques sur ses centres de données, sa consommation énergétique et les usages risqués de ses outils, tandis que les alertes sur les effets potentiellement dangereux des modèles se multiplient. Une pointe d’ironie, tout de même : après des années à vanter la vitesse, les patrons de l’IA découvrent soudain les vertus du frein moteur.

Une régulation pensée par ceux qu’elle doit encadrer

Amodei propose un cadre en trois volets. D’abord, installer dans les laboratoires des “embedded evaluators”, chargés de vérifier les pratiques de sécurité, de signaler les incidents et d’évaluer non seulement les modèles finaux mais aussi les chaînes d’entraînement. Ensuite, pousser les entreprises d’IA des pays démocratiques à définir des normes communes et des limites au rythme de progression “unchecked”. Enfin, coordonner, si possible, les gouvernements démocratiques avec les régimes autoritaires, même si le contrôle de la conformité sera difficile [à vérifier].

Cette lecture a été immédiatement contestée par The Register, qui y voit une forme de “regulatory capture”, c’est-à-dire une situation où les entreprises les plus puissantes contribuent à écrire les règles à leur avantage. Sam Altman et Elon Musk ont pourtant apporté leur soutien, donnant l’image d’un front commun des grands noms du secteur. Anthropic, OpenAI et les autres veulent donc une chose simple : des règles, mais des règles qui n’étranglent pas trop la course.

La Chine, l’argument qui change tout

Amodei a aussi demandé à Washington de restreindre les ventes de puces Nvidia à la Chine et de durcir la lutte contre la “model distillation”, une technique qui consiste à extraire les capacités d’un grand modèle pour entraîner un système plus léger. Selon lui, si ces mesures sont bien appliquées, elles pourraient ralentir suffisamment le progrès chinois pour creuser l’avance américaine sur les trois à cinq prochaines années, qu’il présente comme la fenêtre géopolitique la plus importante pour l’IA.

Le sujet déborde largement le cadre d’Anthropic. Daryl Plummer, de Gartner, a rappelé lors d’une intervention citée dans les sources que les éditeurs promettent 50 % de gains de productivité, quand les clients ne constatent qu’un bond de 16 %. Cette différence nourrit le scepticisme sur les promesses économiques de l’IA. En face, des responsables politiques américains dénoncent déjà un risque de voir l’innovation se “smother”, tandis que Donald Trump insiste sur le leadership américain en matière d’IA. Le débat ne porte donc plus seulement sur la sécurité. Il porte sur le contrôle d’une industrie qui veut accélérer, puis expliquer pourquoi il faudrait parfois ralentir.