Parlons de votre projet
Aller au contenu
Toutes les publications

Faut-il dire à l'utilisateur qu'il parle à une machine ?

Par Docteur en intelligence artificielle · Conseil, conception de systèmes et formation

AI ActTransparenceConceptionConformité6 août 202610 min

Le critère n'est pas la présence d'un modèle. C'est la possibilité, pour l'utilisateur, de se méprendre sur ce à quoi il s'adresse.

Le critère qui tranche

La question n'est pas de savoir si un modèle intervient, mais si l'utilisateur peut se méprendre sur la nature de son interlocuteur. Ce déplacement règle la plupart des cas en une phrase.

Un moteur de recherche interne utilise un modèle et personne ne croit dialoguer avec une personne : la mention n'apporte rien. Un assistant conversationnel qui répond au nom du service client, avec un ton et un rythme humains, est exactement le cas visé.

Ce critère a l'avantage de se poser au moment de la conception de l'interface, là où la décision est gratuite, plutôt qu'à la relecture juridique, où elle coûte une refonte.

Arbre de décision sur la mention explicite d'une interaction avec une machine
Le critère porte sur la méprise possible, pas sur la présence d'un modèle.

Les trois cas limites qui reviennent

L'assistant interne, la réponse préparée puis validée, et la voix de synthèse posent les trois questions difficiles. Les traiter une fois évite de les reposer à chaque projet.

L'assistant interne, d'abord. Les collaborateurs savent qu'ils utilisent un outil, la méprise est peu plausible, et l'obligation ne s'y applique pas de la même façon. Cela ne dispense pas d'une mention, mais elle relève de la politique de l'organisation plutôt que du texte.

La réponse préparée puis validée, ensuite. Dès qu'une personne relit, corrige et engage sa responsabilité, le message devient celui de l'organisation. Le point de bascule est la validation effective, pas le fait qu'un modèle ait servi. Le sujet est développé dans marquer un contenu généré.

La voix de synthèse, enfin, est le cas le plus net : une voix qui imite le naturel crée la méprise par construction, et la mention s'impose au début de l'échange.

Ce que la mention doit contenir, et ce qu'elle ne doit pas

  • Une phrase, au début, pas un bandeau permanent qui devient invisible en trois secondes.
  • Ce que l'utilisateur peut faire ensuite : joindre une personne, et comment. Une mention sans issue crée de la frustration sans rien apporter.
  • Pas de justification technique. « Cet échange est traité automatiquement » suffit ; le nom du modèle n'intéresse personne et vieillit mal.
  • Pas d'excuse. Un système qui s'excuse d'être un système inspire moins confiance qu'un système qui l'annonce simplement.

Pourquoi la mention améliore l'usage

Un utilisateur qui sait à quoi il s'adresse formule mieux sa demande et se plaint moins de ce que le système ne sait pas faire. C'est l'argument qui convainc les équipes réticentes.

Le schéma est constant : un utilisateur qui croit s'adresser à une personne pose sa question comme à une personne, avec de l'implicite, des sous-entendus, du contexte non dit. Le système répond mal, et la déception est attribuée au système.

Le même utilisateur informé pose une question plus explicite, obtient une meilleure réponse, et accepte beaucoup mieux un refus quand il survient.

La mention n'est donc pas un coût de conformité, c'est un réglage d'usage. Elle rejoint le raisonnement de le refus de répondre est une fonctionnalité : un système honnête sur ses limites est plus utilisé, pas moins.

Ce qu'il faut décider en même temps

La mention et le chemin vers un humain se conçoivent ensemble, sinon la première ne sert à rien. C'est l'oubli le plus fréquent.

Annoncer un traitement automatique sans offrir de sortie place l'utilisateur devant un mur : il sait qu'il parle à une machine et n'a aucun moyen d'en sortir. La mention aggrave alors la situation au lieu de l'améliorer.

Le chemin peut être minimal : une adresse, un formulaire, un numéro. Ce qui compte est qu'il existe et qu'il soit visible au moment où l'utilisateur en a besoin, c'est-à-dire quand le système vient de refuser.

Ce couple mention plus sortie fait partie du dispositif de supervision décrit dans supervision humaine : la concevoir, pas la promettre, et il se documente dans la fiche du système.

La question qui se pose au premier atelier de conception

« Si un utilisateur raconte cet échange à un collègue, dira-t-il qu'il a parlé à quelqu'un ? » Si la réponse est possible, la mention est nécessaire, et elle se place maintenant.

Ce que ça change dans la conduite d'un projet

Traiter cette question au cadrage coûte une phrase ; la traiter à la recette coûte une refonte d'interface et un report de mise en service. L'écart tient uniquement au moment où on la pose.

La raison est que la mention n'est jamais isolée : elle entraîne le chemin vers un humain, qui entraîne un processus de reprise, qui entraîne une charge pour une équipe. Ces conséquences se dimensionnent au cadrage.

Découvertes à la recette, elles arrivent quand l'interface est figée et l'équipe métier déjà engagée sur d'autres sujets. C'est le scénario classique du verrou levé trop tard, décrit dans sortir du prototype, les cinq verrous.

J'inscris donc systématiquement cette question dans la note de cadrage, à côté du périmètre de refus, parce que les deux se répondent.

Questions fréquentes

Quel est le critère qui décide ?

La possibilité, pour l'utilisateur, de se méprendre sur la nature de son interlocuteur. Ce n'est pas la présence d'un modèle : un moteur de recherche interne n'appelle pas de mention.

Un assistant interne doit-il porter la mention ?

L'obligation s'y applique moins directement, les collaborateurs sachant qu'ils utilisent un outil. Une mention reste souhaitable, mais elle relève de la politique de l'organisation.

Que doit contenir la mention ?

Une phrase au début, et le moyen de joindre une personne. Pas de bandeau permanent, pas de nom de modèle, pas d'excuse. Une mention sans issue crée de la frustration.

La mention nuit-elle à l'usage ?

L'inverse. Un utilisateur informé formule mieux sa demande, obtient de meilleures réponses et accepte bien mieux un refus.

Votre prochain projetParlons-en.Réserver un échange de 15 minutes sur Cal.com, dans un nouvel onglet