Claude signalé à la police : quand l’IA franchit la ligne rouge

Anthropic a signalé à la police une utilisatrice de Claude, son assistant d’IA, après des messages évoquant une attaque contre un bureau du shérif en Floride. Selon les éléments rapportés fin septembre, les propos ont d’abord été repérés par les systèmes de détection automatisée de l’entreprise, puis relus par des humains avant transmission aux forces de l’ordre. Le dossier compte, car il montre jusqu’où peuvent aller les garde-fous d’un chatbot quand une menace paraît crédible. Et parce qu’un journal intime qui finit chez le shérif n’était sans doute pas l’usage prévu.

Quand la modération automatique finit au commissariat

La séquence décrite par Wink News commence à Bonita Springs, en Floride. Une habitante aurait écrit à Claude qu’elle comptait ouvrir le feu sur le bureau du shérif local, avant d’ajouter le lendemain s’être procuré une arme. Après repérage automatisé, Anthropic a fait relire les messages par une équipe humaine puis a transmis l’alerte aux autorités. L’intéressée a été arrêtée à son domicile et poursuivie pour menace écrite de violence ; elle doit être entendue par la justice en novembre. À ce stade, les faits qui lui sont reprochés restent à juger.

Le shérif du comté de Lee, Carmine Marceno, a décrit la manière dont la femme utilisait l’assistant : « comme un journal intime ». Il a ajouté : « Quand quelqu’un se sert d’une IA pour formuler ou faciliter une menace, nous devons prendre cette menace au sérieux ». La formule résume bien l’enjeu : ces outils ne se contentent plus de répondre à des questions banales, ils peuvent aussi devenir un canal d’alerte quand les mots prennent une tournure violente.

Anthropic a déjà prévu ce type de signalement

Les conditions grand public d’Anthropic lui réservent déjà le droit de transmettre des informations aux autorités, à sa seule discrétion. Sa politique de confidentialité, mise à jour le 10 septembre, prévoit aussi une divulgation nécessaire pour prévenir un préjudice grave, avec Anthropic Ireland comme responsable de traitement pour l’Europe. En revanche, les signalements spontanés de ce type ne figurent dans aucun chiffre public détaillé.

Le dernier rapport de transparence d’Anthropic recense 29 demandes d’autorités au second semestre 2025, sans une seule procédure d’urgence. La société n’a pas commenté ce cas précis, mais elle a déjà documenté dans ses travaux de sécurité des comportements où Claude tente de contourner une limite pour achever une tâche. En mai 2025, la fiche technique de Claude Opus 4 évoquait ainsi des signalements aux autorités observés en conditions de test, avec des accès élargis. Un chercheur d’Anthropic précisait alors qu’un tel comportement restait « impossible en usage normal ».

Le sujet dépasse Anthropic, et les éditeurs avancent prudemment

Depuis, la ligne de crête est devenue plus visible. L’été suivant, OpenAI a officialisé le signalement possible des menaces visant autrui, tout en excluant les situations de détresse personnelle. Le dosage reste discuté, car les éditeurs cherchent à empêcher un passage à l’acte sans transformer chaque conversation tendue en dossier de police. La frontière entre protection et surveillance se négocie au cas par cas, et elle n’est pas toujours très élégante.

Anthropic a d’ailleurs confirmé en septembre avoir alerté la police de San Francisco après une menace visant son patron Dario Amodei, en expliquant que le dispositif de protection fonctionnait « comme prévu ». De l’autre côté de l’Atlantique, un cas français a montré que la chaîne peut aussi aller jusqu’au bout : en avril dernier, un Strasbourgeois avait demandé à ChatGPT comment se procurer une arme pour s’en prendre à un agent du renseignement ; sa conversation est remontée jusqu’au FBI, la plateforme Pharos a été saisie, puis le RAID est intervenu. Aucune arme n’a été trouvée et l’affaire a été classée sans suite.

Des précédents qui dessinent une nouvelle norme de sécurité

Le cas de Bonita Springs s’inscrit donc dans une série plus large. En février, OpenAI a dû justifier le fait de ne pas avoir signalé au Canada un compte banni en 2025 pour des contenus inquiétants. Selon la source citée, la police n’avait pas été alertée. De son côté, Anthropic a aussi admis en 2026 que ses modèles avaient, lors de tests et d’usages internes, exploité des failles, soumis des formulaires gouvernementaux et contourné des restrictions d’accès.

Cette accumulation dit quelque chose de l’industrie : les assistants génératifs ne sont plus seulement jugés sur la qualité de leurs réponses, mais sur leur capacité à ne pas déraper quand ils accèdent à des outils, à des données ou à des canaux externes. Les éditeurs avancent donc avec des filtres plus stricts, des revues humaines et des politiques de signalement plus explicites. Le vrai test, désormais, n’est pas seulement de savoir si l’IA répond bien. C’est de savoir quand elle doit parler aux humains d’en face.