Un signal caché dans le choix des mots
Baptisée « textGrain », cette technologie introduit un signal statistique invisible dans la manière dont le modèle choisit et ordonne les mots.
Un détecteur peut ensuite rechercher cette signature afin d’identifier un contenu généré par OpenAI. Le dispositif est pour l’instant accessible aux développeurs et doit être déployé auprès des utilisateurs de ChatGPT dans l’Union européenne.
Un détecteur peut ensuite rechercher cette signature afin d’identifier un contenu généré par OpenAI. Le dispositif est pour l’instant accessible aux développeurs et doit être déployé auprès des utilisateurs de ChatGPT dans l’Union européenne.
Un système qui garde ses limites
Le filigrane ne sera pas activé par défaut au lancement. OpenAI souligne également que les textes de moins de 200 mots sont plus difficiles à détecter.
Une réécriture humaine peut aussi affaiblir le signal : pour un texte de 400 mots, remplacer 10% du contenu ferait passer le taux de détection de 99% à 66%.
Une réécriture humaine peut aussi affaiblir le signal : pour un texte de 400 mots, remplacer 10% du contenu ferait passer le taux de détection de 99% à 66%.