Anthropic durcit la défense de Claude contre le pillage de ses raisonnements

Anthropic affirme avoir fortement réduit les attaques de distillation visant Claude, ses modèles d’IA, en coupant de 90 % à 99 % la collecte de tokens de raisonnement par des acteurs non autorisés. L’enjeu dépasse la simple copie commerciale : la société lie ces pratiques à des risques de cybersécurité, de surveillance et, plus largement, de sécurité nationale. Depuis le déploiement de nouvelles protections, des milliers de comptes ont été limités ou bannis, mais quelques utilisateurs réguliers se retrouvent aussi pris dans le filet.

Quand copier un modèle devient une industrie parallèle

La distillation consiste à utiliser les réponses d’un grand modèle pour entraîner un autre système, plus petit et moins coûteux. Ce qui intéresse Anthropic n’est pas seulement la réponse finale, mais le raisonnement intermédiaire, souvent appelé chain of thought : une trace de travail qui révèle comment le modèle construit sa réponse. En pratique, cela accélère l’apprentissage d’un concurrent sans lui faire payer le prix complet de la recherche et de l’entraînement. Et comme souvent dans l’IA, la subtilité technique finit par ressembler à un très vieux sport industriel : récupérer le travail des autres à grande échelle.

Selon Anthropic, des attaquants ont utilisé des réseaux de centaines de milliers de faux comptes pour extraire ces traces. L’entreprise cite aussi des tentatives de contournement par multiples requêtes et par réemploi de conversations anciennes. Ses propres tests montrent qu’un Claude préentraîné sur des transcriptions complètes obtenait 80,4 % sur le benchmark SWE-bench Verified, contre 71,8 % lorsque ces transcriptions étaient résumées.

Trois barrières pour ralentir l’extraction

Anthropic dit avoir combiné trois niveaux de protection. D’abord, une fonction appelée preserved thinking empêche certains nouveaux comptes API créés à partir du 31 août 2026 de modifier le contexte antérieur dans les modèles pris en charge. Ensuite, un classifieur en deux étapes détecte les tentatives de récupération du raisonnement caché ; Anthropic affirme que son taux de faux positifs est inférieur à 0,1 %. Enfin, les comptes soupçonnés d’abus subissent des limites plus strictes ou un bannissement pur et simple.

Ces protections concernent plusieurs modèles, dont Claude Sonnet 5.5, Claude Opus 5 et 5.5, ainsi que Claude Fable 5 et 5.1. L’entreprise précise aussi qu’elle a commencé, depuis le 24 septembre, à facturer certaines requêtes bloquées avant réponse dans des zones où le taux de faux positifs reste inférieur à 0,1 %, dont la distillation. Cette mécanique vise à rendre l’abus plus coûteux, même si elle complique un peu la vie des clients légitimes.

Un problème technique, mais aussi géopolitique

Anthropic ne présente pas la distillation non autorisée comme un simple conflit entre concurrents. La société cite Zhipu, à qui elle reproche d’avoir cherché à extraire des capacités cyber de modèles américains de premier plan pour GLM-5.3, puis d’avoir basculé vers un ancien modèle Claude et un autre modèle de laboratoire. Elle indique aussi avoir observé des requêtes routées discrètement vers des modèles Moonshot pendant des tentatives d’extraction, dont une portant sur la surveillance CCTV d’une personne précise, et liée selon elle à un acteur associé à l’Armée populaire de libération chinoise.

Dans ce contexte, le débat porte autant sur la protection de la propriété intellectuelle que sur la circulation de capacités sensibles. Anthropic dit avoir sacrifié une part importante de revenus et de trafic payant pour durcir ses défenses, tout en mobilisant ses équipes produit et recherche. Reste une question simple : jusqu’où serrer la vis sans pénaliser des usages normaux ? La réponse, pour l’instant, tient en une ligne de crête assez inconfortable.