Parlons de votre projet
Aller au contenu
Toutes les publications

Marquer un contenu généré : où l'obligation se pose

Par Docteur en intelligence artificielle · Conseil, conception de systèmes et formation

AI ActTransparenceConformitéArchitecture20 août 202610 min

Le fournisseur du modèle signe un code de bonnes pratiques. L'obligation de marquer, elle, se pose un cran plus bas : chez celui qui met le système en service.

Illustration de l’article « Marquer un contenu généré : où l'obligation se pose »

Qu’est-ce que marquer un contenu généré par IA ?

Marquer un contenu généré par IA, c’est rendre identifiable, pour une machine ou pour un lecteur, qu’un texte, une image ou un son a été produit par un système automatisé. Le mot recouvre deux gestes distincts qu’il faut séparer dès le départ.

Le premier est technique : un signal lisible par machine, inscrit dans les métadonnées du fichier ou dans le contenu lui-même, qui permet de détecter l’origine artificielle. Le second est une information destinée à la personne qui lit : une mention visible, au bon endroit, qui lui dit ce qu’elle a sous les yeux.

Le règlement européen sur l’intelligence artificielle traite les deux dans son article 50, mais ne les attribue pas aux mêmes acteurs ni dans les mêmes conditions. Le paragraphe 2 impose au fournisseur du système d’IA, qui est souvent l’organisation qui l’intègre et le met en service sous son nom, de marquer les sorties dans un format lisible par machine. Le paragraphe 4 impose à celui qui déploie certains contenus, hypertrucages ou textes publiés pour informer le public, de signaler leur origine artificielle. C’est cette double attribution qui produit la plupart des malentendus. Le cas voisin de l’échange en direct avec un assistant, où la question est de savoir si l’utilisateur sait qu’il parle à une machine, est traité dans faut-il dire à l’utilisateur qu’il parle à une machine.

Pourquoi l’engagement du fournisseur du modèle ne suffit-il pas ?

Quand un fournisseur de modèle annonce qu’il marquera ce que son modèle écrit, beaucoup d’équipes en concluent que la question est réglée pour elles. Elle ne l’est pas : l’obligation de transparence vis-à-vis de l’utilisateur final pèse sur celui qui met le système en service.

La distinction est la même que celle qui structure tout le règlement : le fournisseur du modèle a ses obligations, l’intégrateur a les siennes, et les secondes ne se délèguent pas aux premières. Ce partage est détaillé dans modèles à usage général : ce qui doit descendre la chaîne.

Un engagement de fournisseur est une pièce utile à verser au dossier. Ce n’est pas une réponse à la question « est-ce que mes utilisateurs savent qu’ils lisent un texte produit par une machine ».

La chaîne fournisseur, intégrateur, utilisateur et l'endroit où le marquage se pose
L'obligation se pose au milieu de la chaîne, pas à son début.

Quelles situations faut-il distinguer avant de marquer ?

Un contenu vu par un utilisateur final, un contenu retravaillé par un humain avant diffusion, et un contenu interne qui ne sort pas n’appellent pas le même traitement. Les mélanger produit soit de la sur-conformité, soit un manquement.

Le premier cas appelle une qualification : la mention visible de l’article 50, paragraphe 4, vise notamment les hypertrucages et les textes destinés à informer le public sur des questions d’intérêt public. Toute sortie vers une personne extérieure ne relève pas automatiquement de cette disposition.

Le deuxième est celui que les équipes traitent mal. Un brouillon généré puis repris, corrigé et validé par une personne qui en répond devient, aux yeux du lecteur, un document de l’organisation. Le point de bascule est la validation humaine effective, pas le fait qu’un modèle soit intervenu. Il faut pourtant rester précis sur la portée de cette bascule : l’exception de contrôle éditorial prévue au paragraphe 4 de l’article 50 ne vise que les textes publiés pour informer le public sur des questions d’intérêt public, lorsqu’une personne assume la responsabilité éditoriale. Elle ne lève pas le marquage lisible par machine du paragraphe 2, qui reste à la charge du fournisseur du système. La validation humaine allège la mention visible, elle ne supprime pas le signal technique.

Le troisième cas, un contenu strictement interne, ne suffit pas à écarter les obligations : il faut encore qualifier le système, le contenu et le rôle de l’organisation. Ce qui ne veut pas dire qu’il ne faut rien faire, comme le montre écrire la fiche d’un système d’IA.

Que faut-il décider au moment de la conception ?

  • Où le marquage apparaît : dans l’interface, dans le document produit, dans les métadonnées, ou dans les trois.
  • Ce qui se passe quand un humain valide : le marquage tombe-t-il, et qui en décide ?
  • Comment on le prouve : la journalisation doit conserver la trace de ce qui a été généré et de la validation. Voir l’observabilité des systèmes IA.
  • Qui répond du dispositif, nommément. Sans cette réponse, il n’y a pas de dispositif.

Pourquoi le marquage se conçoit-il au lieu de s’ajouter à la fin ?

Un marquage de contenu généré plaqué à la fin est retiré par le premier utilisateur qui copie le texte ailleurs, et il ne prouve rien. Il doit être décidé avec l’interface, pas après.

Le cas concret revient constamment : un assistant produit une réponse, l’utilisateur la copie dans un courriel, et la mention disparaît. Le système a rempli son obligation d’affichage, la chaîne réelle ne l’a pas.

Les réponses possibles sont limitées et il faut choisir. Le tableau suivant les compare sur les critères qui comptent en pratique.

OptionSurvit à la copie ?Coût pour le lecteurCe qu’elle prouve
Mention dans l’interfaceNonNulQue l’affichage existait
Mention dans le contenu lui-mêmeOui, tant qu’on ne la supprime pasTexte alourdiQue le contenu sortait marqué
Signal dans les métadonnéesPartiellement, selon le formatNul, invisibleUne origine détectable par machine
Validation humaine systématique avant sortieSans objetDélai de relectureQue le contenu est celui de l’organisation

La quatrième voie est souvent la meilleure, parce qu’elle déplace la question au lieu de la traiter en surface. Elle rejoint le cadre posé dans supervision humaine : la concevoir, pas la promettre. Elle n’est tenable que si la validation est réelle, ce qui se mesure.

Comment mettre en place le marquage, étape par étape ?

La mise en place du marquage d’un contenu généré suit cinq étapes, de l’inventaire des flux sortants à la preuve conservée dans les journaux. Aucune ne demande de technologie particulière ; toutes demandent une décision écrite.

  1. Inventorier les flux sortants. Lister chaque endroit où un contenu produit par le système quitte l’organisation : réponse client, courriel, publication, document transmis, image diffusée.
  2. Classer chaque flux dans l’une des trois situations : diffusé tel quel, validé par un humain, strictement interne.
  3. Mesurer la validation réelle. Pour les flux réputés validés, relever sur un échantillon la part des contenus envoyés sans modification. C’est ce chiffre, et non l’organigramme, qui dit si la validation existe.
  4. Choisir l’emplacement du marquage pour les flux diffusés, en fonction de ce qui doit survivre à une copie.
  5. Tracer et attribuer. Journaliser ce qui a été généré, ce qui a été validé et par qui, et nommer la personne qui répond du dispositif.

L’étape 3 est celle que l’on saute le plus souvent, parce qu’elle oblige à regarder des pratiques que personne n’a décidées.

Qu’apporte réellement l’engagement de marquage du fournisseur ?

L’engagement de marquage d’un fournisseur de modèle apporte une pièce datée pour votre dossier, et un signal sur la stabilité de votre chaîne. Ce n’est pas ce qu’on en attend.

La pièce datée est utile : elle documente que le modèle utilisé relève d’un fournisseur engagé dans une démarche de transparence, à telle date. Elle s’archive avec la documentation technique.

Le signal sur la stabilité est plus intéressant en pratique. Un fournisseur qui s’engage sur le marquage introduira des mécanismes techniques dans ses réponses, et ces mécanismes peuvent changer le format de sortie. Une équipe qui a un jeu de tests le verra ; une équipe qui n’en a pas découvrira une régression sans cause apparente.

C’est un cas de plus où le jeu de tests protège d’un changement subi, comme dans le jour où le modèle a changé sans prévenir.

Quelles erreurs reviennent le plus souvent ?

Les erreurs les plus fréquentes sur le marquage sont de s’en remettre au fournisseur, de marquer tout par précaution, et de croire validé un flux qui ne l’est pas. Les trois ont le même effet : un dispositif qui existe sur le papier et pas dans la chaîne.

  • Tout déléguer au fournisseur. Son engagement couvre son modèle, pas votre interface ni vos usages.
  • Tout marquer. Une mention apposée sur chaque document interne, y compris ceux relus et signés, dilue l’information et finit ignorée.
  • Supposer la validation. Un processus qui prévoit une relecture ne prouve pas que la relecture a lieu.
  • Confondre report et dispense. Le règlement (UE) 2026/1744 laisse aux systèmes déjà sur le marché jusqu’au 2 décembre 2026 pour se mettre en conformité. Ce délai décale l’échéance, il ne change rien au travail de conception à mener, comme le rappelle omnibus : le report de l’AI Act ne solde rien. Un système mis en service aujourd’hui doit être conçu avec son marquage.

La question à poser au cadrage

« Un lecteur extérieur peut-il croire que ce texte a été écrit par une personne ? » Si la réponse est oui, le marquage se conçoit maintenant. Si elle est non, il faut écrire pourquoi, et cette phrase suffit au dossier.

Que change l’obligation de marquage pour les usages de rédaction ?

Les systèmes d’IA qui produisent du texte destiné à sortir de l’organisation sont ceux qui doivent être repris en premier pour le marquage. Ils sont aussi les plus répandus et les moins documentés.

Le schéma type : une équipe marketing ou support utilise un assistant pour préparer des réponses, et ces réponses partent parfois telles quelles. Personne n’a décidé que c’était le cas, et personne ne sait dans quelle proportion.

Le premier geste n’est donc pas de marquer, c’est de mesurer : sur cent réponses préparées, combien sont envoyées sans modification. Ce chiffre décide de la suite.

S’il est élevé, le flux relève de la génération diffusée et doit être traité comme tel. S’il est bas, la validation humaine est réelle et le dispositif est déjà en place, il suffit de le documenter. C’est le même raisonnement de mesure préalable que dans mesurer l’adoption, pas la satisfaction.

Cette cartographie des flux fait partie d’un audit IA, et la relecture effective s’apprend : c’est l’un des gestes travaillés en formation IA avec les équipes qui rédigent.

Questions fréquentes

Qui doit marquer un contenu généré ?

Le fournisseur du système d’IA pour le marquage lisible par machine, et celui qui le déploie pour l’information visible de l’utilisateur final ; c’est souvent la même organisation, celle qui met le système en service. Le fournisseur du modèle sous-jacent n’en est pas chargé à leur place : son engagement est une pièce pour le dossier, pas une réponse à l’obligation.

Quelle différence entre marquage technique et mention visible ?

Le marquage technique est un signal lisible par machine, dans les métadonnées ou le contenu, qui permet de détecter l’origine artificielle. La mention visible informe la personne qui lit. Les deux répondent à des besoins différents et ne se remplacent pas.

Un texte relu et validé par un humain doit-il être marqué ?

La validation humaine effective peut dispenser de la mention visible, mais seulement dans le cas prévu par le texte : un texte publié pour informer le public, sous la responsabilité éditoriale d’une personne. Elle ne lève pas le marquage lisible par machine, qui reste à la charge du fournisseur du système.

Où placer le marquage ?

Dans l’interface, dans le contenu, ou dans les métadonnées, selon ce qui doit survivre à une copie. Un marquage plaqué à la fin disparaît dès que l’utilisateur transfère le texte ailleurs.

Faut-il marquer les contenus purement internes ?

Le caractère interne ne constitue pas une dispense générale. Il faut distinguer le marquage technique dû par le fournisseur et les obligations d’information applicables au système ou au contenu. La politique interne complète cette qualification.

Par quoi commencer ?

Par mesurer, sur cent réponses préparées, combien partent sans modification. Ce chiffre dit si le flux relève de la génération diffusée ou d’une validation humaine réelle.

Sources

Votre prochain projetParlons-en.Réserver un échange de 15 minutes sur Cal.com, dans un nouvel onglet