OpenAI active le filigrane texte de ChatGPT en Europe

OpenAI va ajouter un filigrane invisible aux textes générés par ChatGPT et Codex dans l’Union européenne, avec un déploiement prévu dans les prochaines semaines. La mesure répond aux exigences du règlement européen sur l’IA, qui pousse les fournisseurs à signaler les contenus générés dans un format lisible par machine. Pour les clients API, l’activation restera facultative dans le monde entier. Le sujet compte parce qu’il touche à la fois la transparence, la conformité et la manière dont les modèles seront utilisés dans les produits grand public et les outils professionnels.

Un marquage discret, mais pas infaillible

Le système s’appelle textGrain, une technologie qui injecte un signal statistique invisible dans les choix de mots du modèle. OpenAI dit que l’approche a “matched or exceeded” d’autres méthodes, dont SynthID pour le texte, et prévoit de publier la technologie en open source. Sur le papier, l’idée est simple : rendre l’origine d’un texte détectable sans l’afficher à l’utilisateur. Dans la pratique, le signal reste fragile.

Les résultats fournis par OpenAI montrent que la détection dépend fortement de la longueur du texte et du sujet. Sur des passages de 400 tokens, soit environ 300 mots, le détecteur repère près de 94 % des filigranes dans des textes de psychologie, mais seulement environ 60 % dans des textes de mathématiques [à vérifier selon les sources]. En réduisant le texte de 10 % par remplacement de mots par des synonymes, le taux de détection tomberait de 92 % à 66 % ; avec 25 % de mots modifiés, il chuterait sous 20 %. Voilà pour la magie : elle aime moins les relectures que les communiqués.

Pourquoi l’Europe change la donne

OpenAI distingue clairement les usages. Dans l’Union européenne, le filigrane sera activé pour les utilisateurs de ChatGPT et Codex, tous plans confondus. Ailleurs, il ne deviendra pas le réglage par défaut au lancement. En parallèle, les clients API du monde entier pourront l’activer eux-mêmes pour certains modèles, ce qui laisse davantage de marge aux entreprises soumises à leurs propres obligations de transparence.

Cette approche tranche avec celle d’Anthropic, qui a choisi un marquage obligatoire pour Claude à l’échelle mondiale. OpenAI dit vouloir apprendre d’un déploiement régional avant d’élargir éventuellement le dispositif. Le sous-texte est clair : le cadre européen sert de laboratoire réglementaire, mais sans imposer le même rythme à tous les marchés.

Le détecteur, réservé aux mains de confiance

OpenAI limite aussi l’accès à l’outil de détection. Seuls des chercheurs et des organisations spécialisées pourront, dans un premier temps, demander l’accès via un formulaire. L’entreprise examinera les demandes au cas par cas, dans le cadre du Code of Practice européen. Le détecteur indiquera seulement s’il repère un filigrane OpenAI ; il ne révélera ni l’identité d’un utilisateur, ni ses prompts, ni ses conversations.

Ce verrouillage s’explique par deux risques assumés par OpenAI : des faux positifs et des filigranes manqués. L’entreprise précise aussi qu’un texte marqué ne dit rien de la part exacte de créativité humaine, de la propriété du texte ou de son exactitude. Autrement dit, le filigrane aide à la provenance, pas à la vérité.

Des limites techniques déjà visibles

Les données publiées par OpenAI montrent surtout que le marquage n’est pas une preuve absolue. Plus un texte est court, édité ou reformulé, plus la détection devient difficile. Le contenu compte aussi : les passages très contraints, comme les textes mathématiques, laissent moins de liberté au modèle et réduisent la robustesse du signal. OpenAI dit néanmoins n’avoir observé aucune baisse notable de qualité sur plusieurs benchmarks, dont GPQA Diamond, BrowseComp et DeepSWE, en comparant textes filigranés et non filigranés sur son modèle de pointe Astra.

Pour les éditeurs, les entreprises et les régulateurs, la question n’est donc pas seulement “peut-on marquer du texte ?”, mais “à quel niveau de fiabilité, et pour quel usage”. C’est là que le sujet prend du poids : un outil utile pour la conformité peut aussi rester contournable dès qu’un texte est retouché. Le marché de la provenance des contenus n’en est qu’au début, mais il avance déjà avec ses compromis.