Parlons de votre projet
Aller au contenu
Toutes les publications

Faut-il dire à l'utilisateur qu'il parle à une machine ?

Par Docteur en intelligence artificielle · Conseil, conception de systèmes et formation

AI ActTransparenceConceptionConformité6 août 202610 min

Le critère n'est pas la présence d'un modèle. C'est la possibilité, pour l'utilisateur, de se méprendre sur ce à quoi il s'adresse.

Illustration de l’article « Faut-il dire à l'utilisateur qu'il parle à une machine ? »

Qu’est-ce que l’obligation de dire à l’utilisateur qu’il parle à une machine ?

L’obligation de transparence sur l’interaction consiste à informer une personne qu’elle échange avec un système automatisé, et non avec un humain, dès que la confusion est possible. Elle figure à l’article 50 du règlement européen sur l’intelligence artificielle, qui vise les systèmes destinés à interagir directement avec des personnes, sauf lorsque la nature automatisée de l’échange est évidente pour une personne raisonnablement attentive.

Deux idées tiennent dans cette définition. La première : l’obligation porte sur l’interaction, pas sur la technologie. Un modèle qui classe des courriels en arrière-plan n’interagit avec personne et n’appelle aucune mention. La seconde : l’exception de l’évidence fait tout le travail. C’est elle qui transforme une règle apparemment générale en question de conception, que l’on tranche écran par écran.

Cette obligation ne dépend pas du classement d’un système en haut risque, ce qui la rend beaucoup plus fréquente qu’on ne le croit ; c’est l’une des confusions traitées dans quatre idées reçues sur l’AI Act. Pour une équipe produit, la traduction opérationnelle est simple : chaque point de contact où un système répond à la place d’une personne doit être examiné, et la décision doit être écrite, comme les autres livrables décrits dans AI Act en vigueur : ce que l’ingénieur doit livrer.

Quel critère décide s’il faut annoncer une machine ?

La question n’est pas de savoir si un modèle intervient, mais si l’utilisateur peut se méprendre sur la nature de son interlocuteur. Ce déplacement règle la plupart des cas en une phrase.

Un moteur de recherche interne utilise un modèle et personne ne croit dialoguer avec une personne : la mention n’apporte rien. Un assistant conversationnel qui répond au nom du service client, avec un ton et un rythme humains, est exactement le cas visé.

Ce critère a l’avantage de se poser au moment de la conception de l’interface, là où la décision est gratuite, plutôt qu’à la relecture juridique, où elle coûte une refonte.

Arbre de décision sur la mention explicite d'une interaction avec une machine
Le critère porte sur la méprise possible, pas sur la présence d'un modèle.

Quels sont les cas limites qui reviennent le plus ?

L’assistant interne, la réponse préparée puis validée, et la voix de synthèse posent les trois questions difficiles de la mention d’interaction automatisée. Les traiter une fois évite de les reposer à chaque projet.

L’assistant interne, d’abord. Les collaborateurs savent qu’ils utilisent un outil, la méprise est peu plausible, et l’obligation ne s’y applique pas de la même façon. Cela ne dispense pas d’une mention, mais elle relève de la politique de l’organisation plutôt que du texte.

La réponse préparée puis validée, ensuite. Dès qu’une personne relit, corrige et engage sa responsabilité, le message devient celui de l’organisation. Le point de bascule est la validation effective, pas le fait qu’un modèle ait servi. Le sujet est développé dans marquer un contenu généré.

La voix de synthèse, enfin, est le cas le plus net : une voix qui imite le naturel crée la méprise par construction, et la mention s’impose au début de l’échange.

Dans quelles situations la mention est-elle nécessaire ?

La mention est nécessaire chaque fois qu’un utilisateur raisonnable pourrait attribuer la réponse à une personne, et superflue quand la nature automatisée de l’outil saute aux yeux. Le tableau ci-dessous classe les situations les plus courantes selon ce seul critère.

SituationMéprise plausible ?MentionOù la placer
Moteur de recherche interneNonInutileAucune
Assistant interne pour les collaborateursFaibleSelon la politique internePage d’accueil de l’outil
Agent conversationnel du service clientOuiNécessairePremier message de l’échange
Réponse préparée par un modèle, relue et validée par un conseillerNon, si la validation est réelleNon requise au titre de l’interactionDocumentation du flux
Réponse générée envoyée sans relecture sous la signature d’un serviceOuiNécessaireDans le message lui-même
Voix de synthèse au téléphoneOui, par constructionNécessairePremière phrase de l’appel

La ligne la plus délicate est l’avant-dernière. Beaucoup de flux présentés comme validés partent en réalité sans relecture, faute de temps. La seule façon de trancher est de mesurer la part des réponses envoyées sans modification : un principe affiché ne remplace pas un constat.

Le cas de l’assistant documentaire mérite aussi une remarque. Un agent qui répond aux clients à partir de la base de connaissances de l’entreprise, avec citations, relève de la troisième ligne, et les garde-fous décrits dans chatbot RAG : sources et garde-fous ne remplacent pas la mention : ils la complètent.

Que doit contenir la mention, et que doit-elle éviter ?

  • Une phrase, au début, pas un bandeau permanent qui devient invisible en trois secondes.
  • Ce que l’utilisateur peut faire ensuite : joindre une personne, et comment. Une mention sans issue crée de la frustration sans rien apporter.
  • Pas de justification technique. « Cet échange est traité automatiquement » suffit ; le nom du modèle n’intéresse personne et vieillit mal.
  • Pas d’excuse. Un système qui s’excuse d’être un système inspire moins confiance qu’un système qui l’annonce simplement.

Comment décider et rédiger la mention, étape par étape ?

Décider de la mention d’un système conversationnel se fait en cinq étapes, du recensement des points de contact jusqu’à la vérification en recette, et chaque étape laisse une trace écrite. L’ordre compte : on ne rédige pas avant d’avoir recensé.

  1. Recenser les points de contact. Lister chaque écran, canal ou message où le système s’adresse directement à une personne : fenêtre de discussion, courriel automatique, serveur vocal, notification.
  2. Appliquer le critère de méprise. Pour chaque point, se demander si un utilisateur raisonnable peut croire s’adresser à une personne. Le ton, le prénom affiché, l’avatar et le délai de réponse comptent autant que le contenu.
  3. Écrire la phrase. Une formulation courte, au présent, sans jargon : « Vous échangez avec un assistant automatisé. » Ajouter immédiatement le moyen de joindre une personne.
  4. Placer la phrase au premier contact. Dans le premier message, la première seconde d’un appel, l’en-tête d’un courriel. Pas dans les conditions générales.
  5. Documenter et tester. Consigner la décision, y compris quand elle conclut qu’aucune mention n’est nécessaire, dans la fiche du système, puis vérifier en recette que la mention s’affiche sur tous les canaux.

L’étape 2 appelle une précaution. Un prénom humain donné à un assistant, ou un délai artificiel qui imite la frappe au clavier, fabrique la méprise que l’étape 3 devra ensuite lever. Ces choix de design se décident avec la mention, pas séparément, et souvent par la même personne.

Pourquoi la mention améliore-t-elle l’usage ?

Un utilisateur qui sait qu’il s’adresse à une machine formule mieux sa demande et se plaint moins de ce que le système ne sait pas faire. C’est l’argument qui convainc les équipes réticentes.

Le schéma est constant : un utilisateur qui croit s’adresser à une personne pose sa question comme à une personne, avec de l’implicite, des sous-entendus, du contexte non dit. Le système répond mal, et la déception est attribuée au système.

Le même utilisateur informé pose une question plus explicite, obtient une meilleure réponse, et accepte beaucoup mieux un refus quand il survient.

La mention n’est donc pas un coût de conformité, c’est un réglage d’usage. Elle rejoint le raisonnement de le refus de répondre est une fonctionnalité : un système honnête sur ses limites est plus utilisé, pas moins.

Que faut-il décider en même temps que la mention ?

La mention et le chemin vers un humain se conçoivent ensemble, sinon la première ne sert à rien. C’est l’oubli le plus fréquent.

Annoncer un traitement automatique sans offrir de sortie place l’utilisateur devant un mur : il sait qu’il parle à une machine et n’a aucun moyen d’en sortir. La mention aggrave alors la situation au lieu de l’améliorer.

Le chemin peut être minimal : une adresse, un formulaire, un numéro. Ce qui compte est qu’il existe et qu’il soit visible au moment où l’utilisateur en a besoin, c’est-à-dire quand le système vient de refuser.

Ce couple mention plus sortie fait partie du dispositif de supervision décrit dans supervision humaine : la concevoir, pas la promettre, et il se documente dans la fiche du système.

Quelles erreurs les équipes commettent-elles le plus souvent ?

Les erreurs les plus fréquentes sur la mention d’interaction sont de la cacher dans les conditions générales, de donner un visage humain à l’assistant sans l’annoncer, et d’oublier les canaux secondaires. Chacune annule l’effet recherché.

  • La mention enfouie. Une ligne dans les conditions d’utilisation n’informe personne au moment de l’échange. Le critère est ce que l’utilisateur sait quand il écrit, pas ce qu’il a accepté un jour.
  • Le personnage ambigu. Un prénom, une photo et des formules de politesse très humaines créent la méprise que la mention est censée lever. Rien n’interdit un nom, mais il accompagne l’annonce, il ne la remplace pas.
  • Le canal oublié. La fenêtre de discussion porte la mention, mais les réponses envoyées par courriel par le même système ne la portent pas.
  • La mention qui disparaît à la mise à jour. Une refonte de l’interface supprime la phrase sans que personne ne le remarque. Un test automatique sur sa présence, intégré à l’évaluation continue, règle le problème.
  • La mention sans sortie, traitée plus haut, qui transforme une information en impasse.

La question qui se pose au premier atelier de conception

« Si un utilisateur raconte cet échange à un collègue, dira-t-il qu’il a parlé à quelqu’un ? » Si la réponse est possible, la mention est nécessaire, et elle se place maintenant.

Que change cette question dans la conduite d’un projet ?

Traiter la mention d’interaction automatisée au cadrage coûte une phrase ; la traiter à la recette coûte une refonte d’interface et un report de mise en service. L’écart tient uniquement au moment où on la pose.

La raison est que la mention n’est jamais isolée : elle entraîne le chemin vers un humain, qui entraîne un processus de reprise, qui entraîne une charge pour une équipe. Ces conséquences se dimensionnent au cadrage.

Découvertes à la recette, elles arrivent quand l’interface est figée et l’équipe métier déjà engagée sur d’autres sujets. C’est le scénario classique du verrou levé trop tard, décrit dans sortir du prototype, les cinq verrous.

J’inscris donc systématiquement cette question dans la note de cadrage, à côté du périmètre de refus, parce que les deux se répondent. Elle fait partie des points vérifiés lors d’un audit IA, avec la documentation qui la justifie.

Questions fréquentes

Quel est le critère qui décide ?

La possibilité, pour l’utilisateur, de se méprendre sur la nature de son interlocuteur. Ce n’est pas la présence d’un modèle : un moteur de recherche interne n’appelle pas de mention.

D’où vient l’obligation d’informer l’utilisateur ?

De l’article 50 du règlement européen sur l’intelligence artificielle, qui vise les systèmes destinés à interagir directement avec des personnes. Il prévoit une exception lorsque la nature automatisée de l’échange est évidente. Cette obligation ne dépend pas du classement en haut risque.

Un assistant interne doit-il porter la mention ?

L’obligation s’y applique moins directement, les collaborateurs sachant qu’ils utilisent un outil. Une mention reste souhaitable, mais elle relève de la politique de l’organisation.

Que doit contenir la mention ?

Une phrase au début, et le moyen de joindre une personne. Pas de bandeau permanent, pas de nom de modèle, pas d’excuse. Une mention sans issue crée de la frustration.

Peut-on donner un prénom à un assistant conversationnel ?

Oui, à condition que la mention l’accompagne dès le premier message. Un prénom, une photo et un délai qui imite la frappe renforcent la méprise ; ils rendent l’annonce d’autant plus nécessaire.

La mention nuit-elle à l’usage ?

L’inverse. Un utilisateur informé formule mieux sa demande, obtient de meilleures réponses et accepte bien mieux un refus.

Sources

Votre prochain projetParlons-en.Réserver un échange de 15 minutes sur Cal.com, dans un nouvel onglet