FlashProve veut signer les réponses des modèles d’IA

Anthropic travaille sur FlashProve, un système open source censé vérifier quel modèle d’IA a produit une réponse donnée, selon une publication de recherche datée du 3 novembre 2026. L’idée compte pour les entreprises comme pour les régulateurs : éviter qu’un fournisseur remplace discrètement un modèle par un autre, et pouvoir prouver qu’une sortie vient bien de la bonne machine. Le tout sans exposer les poids du modèle, ces paramètres internes qui font tourner le moteur.

Une preuve cryptographique pour identifier le bon modèle

FlashProve repose sur ce qu’Anthropic appelle une « provable inference » : une preuve mathématique qu’un résultat donné sort bien d’un modèle précis. Le principe rappelle une signature de courriel, sauf qu’ici la signature accompagne une réponse d’IA. Selon les chercheurs, le système doit résister à des tentatives d’usurpation, y compris si le fournisseur du modèle cherche lui-même à maquiller ses sorties.

Dans son annonce, Anthropic cite plusieurs usages possibles. Une société pourrait, par exemple, démontrer qu’un modèle de cybersécurité avancé a bien scanné un logiciel pour détecter des failles. Une autre pourrait prouver qu’un plan d’affaires a été validé par un modèle précis. Le mécanisme vise aussi un problème plus terre à terre : empêcher qu’un acteur fasse passer un modèle moins cher pour un modèle plus puissant, histoire d’alléger la facture ou de gonfler des performances. Le genre de petit arrangement que les audits n’aiment pas beaucoup.

Ce que le prototype sait faire, et ce qu’il ne sait pas encore faire

Pour fonctionner, FlashProve demande aux laboratoires de publier une « empreinte » de chaque modèle, ensuite rapprochée des sorties générées. Ces empreintes ne révèlent pas les poids du modèle, donc pas son cœur propriétaire, ce qui permet théoriquement de l’appliquer aussi à des modèles commerciaux. Anthropic dit aussi avoir conçu le système pour qu’il reste léger, avec une vérification possible sur un appareil local.

Les chiffres donnent une idée du gain par rapport aux premiers essais du genre. D’après le rapport technique, FlashProve peut générer des preuves à environ 110 tokens par seconde sur un seul GPU H100 pour Llama 4 Maverick de Meta, un modèle de 400 milliards de paramètres. Chaque preuve pèse environ 19 mégaoctets et se vérifie en 17 secondes sur un processeur standard. Le surcoût reste élevé, autour de 70 à 95 fois l’inférence normale, mais Anthropic juge l’écart nettement plus faible que les systèmes open source comparables déjà publiés, qui mettaient plus de 14 heures pour 1 000 tokens et produisaient une preuve de 93,6 gigaoctets.

Pourquoi Anthropic pousse ce chantier maintenant

L’entreprise relie FlashProve à sa feuille de route Frontier Safety Roadmap, qui visait un prototype de vérification d’inférence pour septembre 2026. Anthropic dit avoir atteint cet objectif avec un autre projet fondé sur la signature du trafic d’inférence et le suivi du calcul sur un serveur de confiance. FlashProve prend une voie différente : purement cryptographique, sans matériel de confiance. C’est plus élégant sur le papier, mais aussi plus exigeant à l’usage.

Le prototype reste toutefois très incomplet. Anthropic précise qu’il ne couvre que des contextes de 1 024 tokens, bien en dessous des fenêtres de contexte courantes. Il masque les poids, mais pas l’architecture du modèle. Surtout, la preuve fonctionne quand le modèle choisit le token suivant le plus probable, pas quand il génère des réponses plus aléatoires, comme dans la plupart des conversations réelles. Autrement dit, l’outil sait surtout montrer sa démonstration de force, pas encore tenir la cadence en production.

Un outil de gouvernance autant qu’un outil technique

Les usages visés dépassent la simple curiosité scientifique. Anthropic évoque des régulateurs capables de vérifier qu’un fournisseur exécute bien uniquement les modèles autorisés, ou des entreprises qui voudraient tracer plus finement qui a réellement examiné un code ou un document. Le système pourrait aussi servir à détecter une altération sur les serveurs, lorsqu’un attaquant ou un modèle plus avancé se glisse dans la chaîne sans prévenir.

Pour l’instant, FlashProve reste un prototype de recherche. Anthropic publie la spécification technique, le code et la documentation sous licence open source sur GitHub, mais n’annonce aucun déploiement interne ni externe. La société précise d’ailleurs que cette publication ne clôt pas un programme finalisé : « This research post is meant to share intermediate progress, and not a completed research agenda », écrivent les chercheurs. La suite dépendra surtout d’un point simple et coriace à la fois : faire en sorte que la vérification d’une réponse d’IA ne coûte pas plus cher que la réponse elle-même.