ChatGPT tatoué en Europe : OpenAI déploie le filigrane textGrain

OpenAI va apposer un filigrane invisible aux textes générés par ChatGPT et Codex dans l'Union européenne, pour se conformer aux obligations de transparence de l'AI Act (en vigueur depuis le 2 août). Nom de code : textGrain. Efficace en laboratoire, fragile face à la réécriture : l'outil affiche ses limites dès le départ.

Comment marche textGrain

Pas de symbole caché : le filigrane oriente subtilement le choix des mots via une clé secrète qui trie les prédictions — des centaines de micro-biais que seul un détecteur muni de la clé repère. Comme il vit dans les mots eux-mêmes, il voyage avec le copier-coller. Méthode co-écrite avec UPenn et Yale, sans identification de l'utilisateur ni perte de performance mesurée.

Effaçable, et assumé comme tel

Les propres tests d'OpenAI donnent la mesure : remplacer 10 % des mots par des synonymes fait chuter la détection de 92 % à 66 % ; à 25 % de mots modifiés, elle tombe à 17 % (TNW). Textes courts, maths, traductions : encore plus durs à détecter. D'où la prudence affichée : détecteur réservé aux chercheurs agréés, et rappel qu'une absence de filigrane ne prouve pas l'origine humaine.

Les filigranes peuvent indiquer qu'un système OpenAI a généré ou traité un passage — pas la part de jugement, d'édition ou de créativité humaine. — OpenAI

Contexte : Anthropic filigrane déjà Claude dans le monde entier (au grand dam d'utilisateurs qui s'en servaient au travail), et OpenAI avait renoncé en 2024 à sortir son premier filigrane, de peur de faire fuir vers des concurrents non tatoués. Déploiement UE dans les prochaines semaines, API en opt-in mondial.