Ce qu'un marquage établit réellement
Un filigrane technique établit qu'un contenu provient probablement d'un système donné. Il n'établit pas qu'il n'a pas été modifié, ni qu'il est opposable, ni qu'un tiers ne l'a pas retiré. Cette nuance décide de ce qu'on peut en faire.
Les méthodes existent et elles fonctionnent dans leur domaine : une signature statistique dans le choix des mots, une empreinte dans les métadonnées d'un fichier, un motif imperceptible dans une image.
Toutes partagent la même limite. Elles sont conçues pour résister à une manipulation ordinaire, pas à une manipulation déterminée. Une reformulation, une conversion de format, une capture d'écran suffisent souvent à les faire disparaître.
Les trois choses qu'il ne faut pas en attendre
L'intégrité après édition, la preuve opposable et la détection fiable d'un retrait sont hors de portée des méthodes actuelles. Les promettre engage l'organisation sur ce qu'elle ne peut pas tenir.
L'intégrité après édition : un texte marqué puis retouché à la main perd sa signature progressivement. Il n'existe pas de seuil net entre « encore détectable » et « plus détectable ».
La preuve opposable : la présence d'un marquage n'établit pas juridiquement l'origine, et son absence n'établit pas qu'un contenu est humain. Un document non marqué peut avoir été généré par un système qui ne marque pas.
La détection d'un retrait : rien ne distingue un contenu dont le marquage a été supprimé d'un contenu qui n'en a jamais porté.
Ces trois limites sont structurelles, pas conjoncturelles : elles ne seront pas levées par une meilleure implémentation.
Ce sur quoi une organisation peut s'appuyer à la place
- Sa propre journalisation, qui établit ce que le système a produit, quand et pour qui. C'est la seule trace dont l'organisation maîtrise l'intégrité. Voir l'observabilité des systèmes IA.
- La validation humaine tracée, qui transfère la responsabilité du contenu à une personne identifiée.
- La mention explicite dans l'interface, qui remplit l'obligation d'information indépendamment de toute technique de marquage.
- La documentation du système, qui décrit ce qui est produit et comment. Voir écrire la fiche d'un système d'IA.
Le cas de la détection à l'entrée
Vouloir détecter si un document reçu a été généré par une machine est un problème différent, et il n'a pas de solution fiable aujourd'hui. C'est pourtant la demande que je reçois le plus souvent sur ce sujet.
Le cas type est une organisation qui reçoit des candidatures, des copies ou des dossiers, et qui veut savoir lesquels ont été produits par un système. Les outils qui promettent cette détection existent et leur taux de faux positifs les rend inutilisables sur des décisions individuelles.
Le risque est concret : accuser à tort une personne sur la foi d'un score. Ce risque est bien plus élevé que celui qu'on cherche à éviter.
Ma recommandation est constante : ne pas fonder de décision individuelle sur une détection automatique. Si le contenu généré pose problème dans un processus, c'est le processus qu'il faut revoir, en demandant autre chose qu'un texte.
Ce qu'on écrit dans un engagement contractuel
Une clause qui promet de marquer tous les contenus générés est intenable ; une clause qui décrit le dispositif et ses limites l'est. La différence se voit au premier litige.
La formulation qui tient nomme ce qui est fait : mention dans l'interface, journalisation des productions, validation humaine avant diffusion externe. Elle ne promet pas un résultat technique que la méthode ne garantit pas.
La formulation qui ne tient pas est celle qui reprend le vocabulaire des fournisseurs : contenus marqués, traçabilité assurée, origine garantie. Ces termes ont un sens commercial et pas de contenu vérifiable.
Cette prudence rédactionnelle relève du même principe que celui appliqué aux annonces de performance dans comment lire une annonce de benchmark : ne reprendre à son compte que ce qu'on peut vérifier soi-même.
La phrase qui évite un engagement intenable
Décrire le dispositif, jamais le résultat. « Les contenus produits sont journalisés et validés avant diffusion » se prouve. « Les contenus générés sont identifiables » ne se prouve pas, et vous en répondrez.
Ce que ça change à la conception
Puisque le marquage technique ne porte pas la preuve, c'est le flux qui doit la porter : validation, journal, mention. Cela déplace l'effort de l'outil vers le processus, ce qui est une bonne nouvelle.
Un processus se conçoit, se documente et se contrôle. Une méthode de marquage dépend d'un fournisseur, évolue sans préavis, et personne dans l'organisation ne peut en vérifier la robustesse.
Concrètement, cela signifie trois décisions au cadrage : où se place la validation humaine, ce que le journal conserve et combien de temps, et où apparaît la mention. Aucune ne demande de compétence technique particulière.
Ces trois décisions sont les mêmes que celles qui structurent le dossier de conformité, ce qui permet de les traiter une fois pour les deux besoins, comme décrit dans ce qui doit exister avant l'échéance.
Questions fréquentes
Un filigrane prouve-t-il l'origine d'un contenu ?
Il établit une origine probable. Il ne prouve ni l'intégrité après édition, ni une origine opposable, et son absence ne prouve pas qu'un contenu est humain.
Peut-on détecter un texte généré à l'entrée ?
Pas de façon fiable. Les outils existants ont un taux de faux positifs qui les rend inutilisables pour une décision individuelle, avec le risque d'accuser à tort.
Sur quoi s'appuyer alors ?
Sur sa propre journalisation, sur la validation humaine tracée et sur la mention explicite dans l'interface. Ce sont les trois éléments dont l'organisation maîtrise l'intégrité.
Que peut-on écrire dans un contrat ?
Le dispositif, jamais le résultat. « Les contenus produits sont journalisés et validés avant diffusion » se prouve ; « les contenus générés sont identifiables » ne se prouve pas.