Des modèles IA sans garde-fous deviennent un service clé en main

La startup américaine Abliteration.ai commercialise depuis fin août un modèle GLM-5.3 « abliterated », c’est-à-dire modifié pour refuser beaucoup moins de requêtes sensibles. Le service vise surtout la cybersécurité, le red teaming et l’analyse de malwares, mais il rend aussi ces capacités offensives plus faciles d’accès. Le sujet compte car il déplace le contrôle des limites de l’éditeur vers le client, avec un vrai pari sur la responsabilité de chacun.

Quand le refus devient un réglage, pas une barrière

L’« abliteration » ne passe pas par un prompt jailbreak classique. La méthode agit sur le modèle lui-même : elle repère les activations internes liées aux refus, puis ajuste les poids pour les atténuer. Autrement dit, on ne contourne pas la sécurité à la volée, on la démonte en partie. Abliteration.ai dit préserver l’essentiel des capacités de code, de cyber et d’agents.

Le premier modèle mis en avant, « abliterated-model-large-v2 », repose sur GLM-5.3 de Z.AI. L’entreprise affirme que cette base reste solide pour des tâches techniques, même après modification. Sa propre évaluation donne 84,5 % sur CyberGym, 41,8 % sur Terminal-Bench 4.0 et 105 tâches ExploitGym résolues en deux heures. Mais la comparaison n’est pas linéaire : GPT-5.5 fait mieux sur CyberGym, et GPT-5.6 Sol comme Fable 5 devancent le modèle sur ExploitGym, avec des harnesses et budgets de calcul différents [à vérifier].

Un marché réel, mais pas sans angle mort

Abliteration.ai ne vend pas les poids du modèle à télécharger. La startup héberge le système et facture l’usage via API, à 5 dollars par million de tokens en entrée ou en sortie au tarif standard. Ce choix enlève aux clients la contrainte d’infrastructure GPU, ce qui est pratique. Et un peu trop pratique, parfois.

L’entreprise positionne le service sur des cas bien identifiés : sécurité offensive, tests d’agents IA, validation de garde-fous, phishing simulé, reproduction de vulnérabilités connues ou analyse de code malveillant. Un fondateur anonyme a expliqué sur le podcast ThursdAI que la demande venait notamment d’équipes testant des agents déployés chez de grands groupes et des banques. Ces systèmes doivent vérifier si un attaquant peut exploiter un jailbreak ou une injection de prompt pour déclencher une action non autorisée.

Reste une question simple : faut-il vraiment retirer des garde-fous pour tester des garde-fous ? Les praticiens ne sont pas tous d’accord. TechCrunch rapporte que plusieurs prestataires de red team n’utilisent pas ce type de modèle dans leurs flux habituels, tandis que la société Fabraix s’appuie plutôt sur le fine-tuning d’open models. Dans le même temps, SaferAI note que le GLM-5.2 non modifié refusait déjà zéro tâche dans ses évaluations offensives. Le besoin existe donc, mais son ampleur réelle reste discutée.

Ce que le fournisseur garde, et ce qu’il ne garde pas

Le point sensible, pour les clients comme pour les régulateurs, tient à la journalisation. Abliteration.ai dit ne pas stocker les prompts ni les réponses. En revanche, la société conserve des métadonnées opérationnelles : compteurs de tokens, horodatage, identifiants de modèle et données de facturation. Pour une équipe sécurité, cela peut limiter l’exposition de code source ou de vulnérabilités non publiées. Pour un abuseur, cela réduit aussi les traces exploitables après coup.

La startup n’impose pas de vérification d’identité classique. Elle soutient que ce type de contrôle ne distingue pas forcément un bon client d’un mauvais, et pourrait pénaliser les plus petites équipes face aux grands groupes. Les clients entreprises peuvent activer une couche de politique optionnelle pour autoriser, bloquer, modifier ou journaliser certaines requêtes. Par défaut, toutefois, l’accès reste largement ouvert, ce qui laisse une bonne part des arbitrages au client.

Le modèle commercial s’étend même aux administrations : Abliteration.ai dit être enregistrée pour les achats publics américains sur SAM.gov et propose des modèles versionnés, des journaux d’audit et des règles spécifiques aux agences, d’abord sur des pilotes hors Controlled Unclassified Information (CUI). La licence de GLM-5.3 autorise les modifications, les dérivés et les offres de « Model as a Service ». Juridiquement, tout dépend ensuite de l’usage, du pays et de l’autorisation écrite pour la cible visée.

Le précédent montre surtout une chose : quand les modèles open weight deviennent assez puissants, la sécurité ne se joue plus seulement au moment de l’entraînement. Elle se négocie aussi à l’achat. C’est là que la frontière entre test légitime et facilitation du pire commence à flotter, et les fournisseurs ne peuvent pas faire comme si elle était en béton.