Anthropic accélère sa R&D grâce à l’IA, au prix d’un sérieux malaise

Anthropic accélère sa recherche et développement grâce à l’IA, selon un rapport publié jeudi par l’organisation de sécurité METR après 11 semaines d’enquête dans l’entreprise. Le document estime que les modèles de la société progressent désormais environ deux fois plus vite qu’il y a un an, alors même que son patron, Dario Amodei, plaide publiquement pour un ralentissement du secteur. L’enjeu dépasse le cas d’Anthropic : il touche à la capacité des grands labos à utiliser l’IA pour améliorer l’IA, avec des effets possibles sur la vitesse de toute l’industrie et sur la transparence des méthodes employées.

Quand la machine aide déjà la machine

METR dit avoir observé une accélération qui ne s’explique pas seulement par la montée en puissance du calcul, le fameux compute qui désigne les ressources de calcul utilisées pour entraîner les modèles. Les chercheurs affirment que, sur la période étudiée, la majorité de la hausse venait de l’IA elle-même, et non d’un simple empilement de serveurs. Selon le rapport, Anthropic a accompli en un an l’équivalent d’environ deux ans de progrès historique. Les employés interrogés disent aussi gagner beaucoup de temps : avec le modèle interne le plus avancé, ils se sont déclarés en moyenne environ 12 fois plus productifs dans leur travail qu’ils ne l’auraient été sans assistance IA.

Cette dynamique reste surtout celle d’un copilote très efficace, pas encore d’un chercheur totalement autonome. METR précise toutefois voir des indices d’une montée en puissance des contributions entièrement automatisées. Le rapport ne repère pas de frein évident à une accélération encore plus forte. Sur ce point, le message est assez simple : ça va vite. Très vite.

Des modèles non publiés et une transparence sous tension

Une partie des gains observés chez Anthropic provient de modèles internes non publiés. METR indique que l’entreprise a terminé l’entraînement de trois modèles au cours des six derniers mois, sous les noms de code Model 2, Model 3 et Model 4, achevés respectivement en juillet, puis en août-septembre, puis en septembre-octobre. Les chercheurs mentionnent aussi un modèle non publié datant de 2022, appelé Unreleased 2022. Ces noms sont ceux communiqués à METR, qui précise qu’ils diffèrent des codages internes réels.

Le rapport a pourtant une limite de taille : Anthropic a lourdement censuré sa version publique. METR dit avoir remis un rapport complet d’environ 100 pages, mais voir « une majorité des preuves les plus informatives » retirée de la version rendue publique. L’entreprise a aussi refusé certaines demandes de données et limité l’accès des chercheurs. Sam McCandlish, cofondateur d’Anthropic, a reconnu sur X : « We redacted a lot, and I accept that this makes it harder for others to check METR’s work ». Il a ajouté que révéler précisément ce qui alimente l’accélération n’était « not the right thing to do », car cela serait à la fois commercialement sensible et susceptible de fournir un mode d’emploi à des concurrents. Une logique défendable en entreprise, mais pas forcément rassurante pour le public.

Pourquoi cette affaire dépasse Anthropic

Le débat ne porte pas seulement sur la vitesse de travail d’un laboratoire. Il touche à une contradiction désormais visible : Anthropic se présente comme l’un des acteurs les plus attachés à la sécurité et à la prudence, tout en contribuant, selon ce rapport, à accélérer la technologie qu’il juge risquée. Pour plusieurs chercheurs, cela suggère aussi que les scénarios de progression rapide de l’IA pourraient avoir été trop prudents. Marius Hobbhahn, de Apollo Research, estime que le rapport va plus vite que ce qu’anticipait le scénario AI 2027. Alan Chan, de GovAI, juge qu’il faut peut-être raccourcir les délais envisagés pour l’automatisation complète de certaines tâches de génie logiciel.

La séquence alimente également une demande plus large de contrôle indépendant des labos frontières. Brianna Rosen, de l’Institute for AI Policy and Strategy, estime que les entreprises ne devraient pas être celles qui décident seules du niveau d’automatisation de la recherche. À ses yeux, les évaluateurs doivent pouvoir expliquer leurs conclusions et les gouvernements doivent pouvoir examiner les preuves eux-mêmes. Anthropic, de son côté, prépare son entrée en Bourse et a promis de publier son propre rapport dans les prochaines semaines. Entre la course technique et la course à la confiance, le calendrier s’annonce serré.