Anthropic ouvre ses systèmes à des évaluateurs externes

Anthropic a commencé, le 15 octobre 2026, à donner à METR un accès de niveau employé à une équipe embarquée chargée d’évaluer ses modèles d’IA frontière et ses pratiques de sécurité. Les six employés de ce laboratoire à but non lucratif disposent de matériel fourni par l’entreprise, d’un espace de travail et d’un accès à ses outils internes. L’enjeu est simple : rendre les audits plus crédibles, alors que les modèles gagnent en puissance et que les risques deviennent plus difficiles à mesurer de l’extérieur.

Un audit embarqué, presque comme pour des salariés

Anthropic décrit cet arrangement comme un accès « roughly on par » avec celui de ses propres équipes de risque. En pratique, ses salariés sont encouragés à partager des informations avec METR comme ils le feraient avec un collègue travaillant sur l’alignement, sauf dans quelques cas bien délimités : données clients, informations couvertes par le secret avocat-client et détails sur les architectures de modèles. L’entreprise justifie cette réserve par le risque de fuite involontaire ; quand ces éléments sont réellement pertinents pour l’évaluation, ils peuvent tout de même être partagés après validation interne.

METR, de son côté, pourra publier son analyse des niveaux de risque, des incidents ou des pratiques observées. Anthropic ne peut pas bloquer la publication, mais elle peut exiger des suppressions limitées dans des catégories prédéfinies. Le laboratoire externe garde le droit de dire publiquement si ces coupes lui semblent justifiées. C’est un compromis assez net : l’entreprise ouvre la porte, mais pas le coffre-fort. Et, au passage, elle essaie d’éviter que l’exercice ne se transforme en simple séance photo pour communicateurs.

Pourquoi Anthropic pousse ce modèle d’évaluation

La société dit vouloir être publiquement comptable de ses choix sans pour autant exposer toutes les informations sensibles liées à ses modèles. Certaines données pourraient aider des acteurs malveillants ; d’autres sont commercialement sensibles, comme les informations sur le calcul utilisé pour l’entraînement. D’où cette logique d’évaluateurs tiers ayant un accès profond aux systèmes, puis publiant des conclusions fondées sur des preuves, afin de réduire l’écart entre ce que voit l’extérieur et ce que sait réellement l’entreprise.

Anthropic avance quatre conditions pour qu’un évaluateur de modèles frontières soit crédible : une expertise réelle, une indépendance financière et opérationnelle, un accès suffisant pour examiner aussi l’entraînement et les garde-fous, et la liberté de publier ses constats. L’entreprise compare cette logique à la supervision bancaire : les banques connaissent mieux leurs risques que les observateurs, donc des examinateurs résidentiels travaillent à l’intérieur des plus grands établissements. L’analogie n’est pas parfaite, reconnaît Anthropic, mais elle sert à justifier un principe : pour vérifier ce qui est sensible, il faut parfois regarder de l’intérieur.

Trois niveaux d’accès, avec METR au sommet

Anthropic dit construire trois paliers pour ses évaluateurs externes. Le premier se limite à des investigations circonscrites, avec publication soumise à approbation. Le deuxième donne davantage d’accès et autorise la publication sans validation préalable, tout en laissant l’entreprise retrancher certaines catégories d’informations. Le troisième correspond à METR : un accès de type employé et des droits de publication proches de ceux du deuxième niveau.

À terme, Anthropic espère avoir plusieurs évaluateurs au troisième niveau, chacun publiant sa propre analyse de la posture de risque de l’entreprise. Dans cette logique, l’évaluation externe ne doit plus être un contrôle ponctuel, mais un mécanisme presque permanent. C’est aussi un test politique : si ce modèle fonctionne chez Anthropic, il pourrait servir de référence à d’autres acteurs du secteur, ou devenir une base de discussion pour les régulateurs.

Ce que disent les autres partenaires d’Anthropic

SecureBio se trouve pour l’instant dans le premier niveau. L’organisation examine le chapitre sur les armes chimiques et biologiques du Risk Report d’août 2026, après avoir déjà publié un pilote sur le rapport précédent. Anthropic dit qu’elle envisagera ensuite de lui accorder plus d’accès et davantage de droits de publication.

Avec Accenture et Faculty, l’entreprise travaille sur des partenariats qui couvrent l’évaluation des modèles, les red teams, les tests de garde-fous et le développement de compétences. Des discussions sont aussi engagées avec d’autres organismes, dont Hugging Face, mais ces échanges restent à un stade précoce et les droits accordés y sont plus limités. Anthropic affirme vouloir élargir progressivement ce modèle à mesure que la confiance et les garanties s’installent.

Une promesse déjà esquissée en septembre

Cette annonce prolonge un engagement pris en septembre 2026, lorsque Dario Amodei a publié l’essai « We Must Pace the Frontier ». Le cofondateur d’Anthropic y faisait de l’accès embarqué des évaluateurs externes la première étape d’un plan en trois volets pour ralentir la course aux capacités tant que les garde-fous ne suivent pas. Il appelait aussi les gouvernements à imposer la même discipline aux autres entreprises de pointe.

Dans ce contexte, la décision d’Anthropic compte moins comme un simple geste de transparence que comme un essai de gouvernance. Elle ne règle pas la question du contrôle des modèles frontières, mais elle fixe un standard plus exigeant que la simple publication de rapports. Reste à voir si les concurrents accepteront de jouer avec les mêmes règles, ou si chacun préférera garder ses clés dans sa poche.