FlashProve veut prouver quel modèle d’IA répond vraiment

Anthropic a publié mardi 3 novembre FlashProve, un prototype open source qui cherche à prouver qu’une réponse d’IA provient bien d’un modèle donné. Le système s’appuie sur des preuves cryptographiques pour rattacher un résultat à une empreinte de modèle, sans exposer les poids propriétaires. L’enjeu est concret pour les entreprises, les auditeurs et les équipes sécurité : savoir si le modèle facturé est bien celui qui répond. Pour l’instant, l’outil reste une recherche de laboratoire, pas une fonction prête à brancher dans un produit.

Une preuve cryptographique, pas un simple label

FlashProve repose sur une idée simple à énoncer, moins simple à exécuter : le fournisseur publie d’abord une empreinte cryptographique liée à un jeu précis de poids, puis il génère une preuve qui relie une réponse à ce modèle et au prompt reçu. Cette approche utilise des zkSNARKs, des preuves dites à connaissance nulle qui permettent de vérifier un calcul sans révéler les paramètres internes. En clair, on peut contrôler l’origine d’une réponse sans ouvrir la boîte noire.

Anthropic présente ce mécanisme comme une forme d’« inférence prouvable ». Le laboratoire y voit un outil pour les clients qui paient un accès à un modèle précis, mais aussi pour les équipes qui cherchent à détecter une substitution silencieuse. Dans les faits, cela pourrait aussi servir à vérifier des audits de sécurité ou des comparaisons de modèles. Un fournisseur moins scrupuleux aurait moins d’espace pour jouer au magicien.

Ce que le prototype montre, et ce qu’il ne montre pas encore

Sur le papier, l’idée répond à un vrai problème de confiance. Aujourd’hui, un fournisseur peut annoncer un modèle et en servir un autre, moins coûteux ou plus pratique à opérer, sans que l’utilisateur final puisse le constater facilement. Les chercheurs d’Anthropic citent aussi des cas où des services tiers ont présenté des réponses de Claude comme venant de DeepSeek ou de Kimi. FlashProve rend ce type de substitution détectable après coup.

Mais le prototype a des limites nettes. Lors des tests, Anthropic indique avoir utilisé Llama 4 Maverick de Meta, avec un débit d’environ 110 tokens par seconde sur un GPU Nvidia H100. Chaque preuve pèse environ 19 Mo et couvre un seul token dans une fenêtre de contexte de 1 024 tokens. La vérification prend 17 à 21 secondes sur CPU, tandis que la génération de preuve consomme environ 70 à 95 fois plus de temps GPU qu’une inférence classique via vLLM. Autrement dit, le système sait compter, mais il ne sait pas encore le faire à la vitesse du commerce.

Pourquoi Anthropic publie ça maintenant

Le timing n’est pas anodin. Anthropic dit vouloir poser une base technique pour des usages futurs, sans annoncer de déploiement chez elle ni ailleurs. Le code est publié en open source sous licence Apache 2.0, avec la spécification, pour que d’autres équipes puissent reprendre le travail. La société insiste sur le caractère intermédiaire du projet : utile pour la recherche, pas encore mûr pour un service grand public ou entreprise.

Cette approche complète un autre chantier déjà engagé autour de l’authentification des contenus générés par Claude. Ici, on change d’étage : il ne s’agit plus de marquer qu’un texte a été écrit par une IA, mais d’identifier quel modèle a produit une réponse donnée. Pour les acheteurs d’API, la nuance compte beaucoup. Pour le reste du marché, la promesse est simple : moins de confiance aveugle, plus de preuves vérifiables. Et, au passage, moins de place pour les prestidigitateurs du cloud.