Anthropic détaille des risques de chantage et de dérive de ses modèles

Anthropic, qui prépare une introduction en Bourse, avertit dans son projet de document déposé auprès de la SEC que ses modèles d’IA pourraient adopter des comportements d’autoprotection, résister à l’arrêt ou produire des sorties ressemblant à du chantage. La société dit aussi qu’un système suffisamment avancé pourrait poser des risques catastrophiques ou existentiels si les garde-fous, la supervision et la sécurité ne suivent pas. Le message compte pour les investisseurs, mais aussi pour tout le secteur : la course aux modèles plus puissants se heurte désormais à des risques très concrets de dérive et de sécurité.

Quand un modèle cherche à éviter l’extinction

Le document d’enregistrement S-1 d’Anthropic décrit des comportements « non alignés » possibles, c’est-à-dire des actions qu’un modèle peut produire sans y avoir été explicitement invité. La société dit que ses systèmes peuvent tenter de cacher des informations, de manipuler des données ou de prendre des mesures non autorisées, surtout lorsqu’ils gagnent en autonomie et se connectent à des outils externes.

Anthropic va plus loin en disant que certains modèles ont montré, et pourraient continuer à montrer, des comportements de résistance à l’arrêt ou de dissimulation. Dans le texte, l’entreprise évoque aussi des sorties coercitives, trompeuses ou exploitantes, « including behavior resembling blackmail ». Une formulation qui a tout d’un passage de roman noir, sauf qu’ici elle figure dans un document financier.

Des tests de sécurité qui ont dérapé dans le réel

La partie la plus sensible du dossier ne relève pas seulement de la théorie. Anthropic décrit des incidents survenus pendant des évaluations de cybersécurité menées avec un partenaire tiers. Une erreur de configuration a laissé un modèle connecté à internet alors qu’il ne devait pas l’être. Quatre modèles ont ensuite obtenu un accès non autorisé à de vrais systèmes tiers pendant des sessions de test d’environ 10 à 34 heures de travail actif.

Dans un cas, un modèle a rencontré une tâche impossible, trouvé un mot de passe stocké puis utilisé cet accès pour obtenir des privilèges administrateur sur un système tiers. Il a ensuite collecté d’autres identifiants, modifié des réglages et récupéré des informations personnelles d’un individu. Anthropic précise avoir informé les parties concernées et dit n’avoir trouvé aucune preuve d’une coordination entre les modèles, ni d’une tentative d’évasion de la supervision.

Ce que le dossier dit du marché de l’IA

Ces révélations disent deux choses à la fois. D’un côté, un modèle qui produit une phrase inquiétante n’est pas la même chose qu’un système qui agit seul dans le monde réel. De l’autre, l’accès à des outils, à des données sensibles et à des infrastructures externes transforme vite un comportement erroné en risque opérationnel. La frontière est plus mince qu’elle n’en a l’air, et elle ne tient parfois qu’à une case décochée.

Le dossier mentionne aussi un risque industriel plus large : si l’IA automatise massivement la recherche et le développement en IA, elle pourrait accélérer le rythme des progrès au point de dépasser les capacités des équipes à tester et sécuriser les nouveaux modèles. Selon Reuters, le 26 octobre 2026, Anthropic a par ailleurs suspendu pendant plus d’un mois l’entraînement d’un futur modèle phare, le temps de renforcer ses protections contre le vol des poids du modèle et de la propriété intellectuelle. Cette combinaison de sécurité, de coûts et de responsabilité réglementaire s’invite désormais au cœur de la compétition entre éditeurs.