Quelle est la différence entre un usage encadré et une pratique interdite par l’AI Act ?
La quasi-totalité du règlement européen sur l’IA encadre des usages à condition de prendre des mesures, alors que l’article 5 en interdit une courte liste définie par des conditions précises, applicable depuis le 2 février 2025. Confondre les deux catégories est l’erreur de lecture la plus coûteuse.
Un système à haut risque est autorisé s’il satisfait des exigences : documentation, gestion des risques, supervision humaine, journalisation. C’est exigeant, c’est faisable, et cela occupe l’essentiel des discussions.
Si les conditions d’une interdiction sont réunies et qu’aucune exception prévue ne s’applique, ajouter une documentation ou une supervision ne rend pas la pratique licite. Il faut abandonner cette fonction, ou revoir la finalité pour qu’elle sorte réellement du champ interdit.
Cette distinction doit être posée au tout début d’un cadrage, avant toute discussion technique. Un projet qui tombe dans la liste ne se corrige pas : il s’arrête. Le texte et son économie générale avaient été annoncés dès l’accord politique sur l’AI Act.
Quelles sont les pratiques d’IA interdites par l’article 5 ?
L’article 5 de l’AI Act interdit huit familles de pratiques, de la manipulation subliminale à la notation sociale en passant par la reconnaissance des émotions au travail et à l’école. Le tableau les résume, avec le type de projet ordinaire qui peut s’en approcher.
| Pratique interdite | En résumé | Projet ordinaire qui peut s’en approcher |
|---|---|---|
| Techniques manipulatrices ou subliminales | Altérer le comportement d’une personne à son insu, en lui causant un préjudice | Interface de vente qui exploite des biais cognitifs |
| Exploitation des vulnérabilités | Cibler l’âge, le handicap ou la situation sociale ou économique | Relance commerciale ciblant des personnes en difficulté financière |
| Notation sociale | Classer des personnes selon leur comportement, avec un traitement défavorable sans rapport | Score de « fiabilité » réutilisé hors de son contexte |
| Prédiction d’infraction par profilage | Évaluer le risque qu’une personne commette une infraction sur la seule base de ses traits | Outil de détection de fraude fondé sur la personnalité |
| Moissonnage non ciblé de visages | Constituer une base de reconnaissance faciale à partir d’internet ou de vidéosurveillance | Enrichissement d’un annuaire par photos collectées en ligne |
| Reconnaissance des émotions au travail et à l’école | Inférer les émotions de salariés ou d’élèves, hors raisons médicales ou de sécurité | Analyse de l’agacement des conseillers d’un centre d’appels |
| Catégorisation biométrique sensible | Déduire origine, opinions, religion ou orientation sexuelle de données biométriques | Analyse d’images de clients pour segmenter une audience |
| Identification biométrique à distance en temps réel | Usage répressif dans l’espace public, sauf exceptions strictes | Rarement concerné hors forces de l’ordre |
Ce tableau est un repérage : seuil de préjudice, conditions cumulatives et exceptions doivent être relus dans l’article 5 avant de qualifier le projet.
Quels cas piègent des projets d’entreprise ordinaires ?
Un projet ordinaire d’analyse des échanges peut approcher l’interdiction de reconnaissance des émotions au travail, selon les personnes analysées, les signaux utilisés et la finalité réelle du système. C’est là que se trouve le risque réel pour une entreprise ordinaire.
Le cas typique n’a rien de sinistre au départ. Une équipe veut analyser les enregistrements du service client pour améliorer la qualité. Quelqu’un propose de détecter l’agacement dans la voix. Tout dépend alors de la voix analysée, et personne dans la salle ne le sait.
Un système de reconnaissance des émotions au sens du règlement utilise des données biométriques ; une simple analyse de sentiments textuels ne suffit pas à cette qualification. L’inférence concernant des conseillers salariés relève de l’interdiction au travail, sauf les raisons médicales ou de sécurité prévues. Celle concernant les clients ne relève pas de cette interdiction particulière ; sa qualification à haut risque et les obligations de transparence doivent être examinées séparément, avec leurs échéances encore à venir au 2 février 2025. Le même projet bascule donc d’un régime à l’autre selon un choix de cadrage que personne n’a formulé.
Un second cas revient souvent : l’analyse du comportement des candidats pendant un entretien vidéo, présentée comme une aide à l’évaluation. Le recrutement figure parmi les usages à haut risque, et inférer un état émotionnel dans ce contexte approche de l’interdiction. Là encore, l’intention est banale et le cadre juridique ne l’est pas.
Le réflexe utile est simple : dès qu’un projet infère un état interne d’une personne, émotion, sincérité, engagement, à partir de signaux involontaires, il faut faire vérifier le cadre avant d’aller plus loin. Lecture complémentaire : sanctions AI Act : ce qui devient exigible.
Quelles questions poser pour repérer une pratique d’IA potentiellement interdite ?
Repérer une pratique potentiellement interdite demande d’examiner manipulation, exploitation des vulnérabilités, notation, prédiction pénale et usages biométriques, sans confondre un signal d’alerte avec une qualification juridique définitive.
- Le système infère-t-il un état interne d’une personne à partir de signaux qu’elle n’émet pas volontairement ?
- Le système classe-t-il des personnes selon un comportement général, pour un usage sans rapport avec ce comportement ?
- Le système s’applique-t-il à des personnes en situation de vulnérabilité : âge, handicap, situation économique ?
- Le système prédit-il un comportement individuel futur à partir de caractéristiques personnelles plutôt que de faits établis ?
Qui doit vérifier qu’un projet d’IA n’approche pas d’une pratique interdite, et quand ?
Le filtre des pratiques interdites doit commencer au cadrage avec l’équipe projet et une qualification juridique appropriée, avant que des choix techniques ou financiers difficiles à reprendre soient engagés. Le placer en fin de chaîne garantit qu’on découvre le problème après avoir dépensé.
La raison est pratique. Une direction juridique saisie d’un projet abouti doit se prononcer sur un investissement déjà réalisé, ce qui crée une pression considérable pour trouver un aménagement. Saisie au cadrage, elle peut demander les informations nécessaires avant la réalisation.
La formulation que je recommande tient en une ligne dans le document de cadrage : « ce système infère-t-il quelque chose d’une personne qu’elle n’a pas choisi de communiquer ? ». Cette question ne demande aucune compétence juridique et capte l’essentiel des cas problématiques.
Elle a un mérite supplémentaire : elle est compréhensible par tout le monde autour de la table, ce qui évite que la conformité devienne l’affaire d’une seule personne. Lecture complémentaire : la littératie IA, l’obligation passée inaperçue, qu’une formation IA des équipes projet permet de traiter.
Une seule question permet-elle d’écarter les pratiques interdites ?
Une seule question ne permet pas d’écarter toutes les pratiques interdites, car leur qualification dépend des personnes, des données, des finalités, des préjudices et des exceptions prévues par le texte.
« Ce système déduit-il quelque chose d’une personne qu’elle n’a pas choisi de communiquer ? » Cette question peut déclencher un examen, mais une réponse négative ne suffit pas à établir la licéité : manipulation, vulnérabilités, notation ou collecte de visages demandent aussi une qualification.
Comment appliquer le filtre des pratiques interdites à un portefeuille de projets ?
Appliquer un filtre des pratiques interdites demande un inventaire des systèmes, un examen de leur fonctionnement et une qualification documentée des cas douteux, sans promettre une durée uniforme. La séquence est la suivante.
- Lister les systèmes et projets en cours, y compris les expérimentations menées par les métiers.
- Identifier les personnes concernées par chaque système : salariés, clients, candidats, usagers, élèves.
- Poser les quatre questions du filtre et noter la réponse, oui ou non, pour chacune.
- Isoler les réponses positives et les soumettre à un examen juridique avant toute dépense supplémentaire.
- Rédiger une note d’une page par système, datée et signée, qui consigne le résultat.
- Reprendre le filtre à chaque changement de finalité ou de population concernée.
Un audit IA peut prendre en charge cet inventaire initial lorsque personne en interne n’a la vue d’ensemble.
Qu’est-ce qui reste possible et souvent mal compris ?
Des usages documentaires peuvent être licites, mais résumer ou classer des dossiers ne dispense pas de vérifier les données traitées, les personnes évaluées et les décisions auxquelles le résultat contribue. Je pars de la finalité réelle.
Un tri de courriers ordinaires diffère d’un classement de candidatures ou de demandes de crédit. Le même verbe « classer » peut donc désigner des situations de risque très différentes.
Je recommande un premier périmètre documentaire délimité, avec droits d’accès, sources et tests, comme dans l’IA générative en entreprise. Les métiers concernés doivent expliquer les conséquences du résultat : simple aide à retrouver une information, priorité donnée à un dossier ou décision sur une personne.
Que faut-il écrire pour démontrer que la question a été posée ?
Une note d’une page par système d’IA, listant sa finalité, les personnes concernées et le résultat du filtre, suffit à démontrer que la question des pratiques interdites a été posée. C’est peu, et c’est ce qui manque le plus souvent.
Le contenu tient en cinq lignes : ce que fait le système, sur quelles données, pour quelle décision, qui est concerné, et la réponse aux quatre questions du filtre. Daté, signé, archivé.
Cette note a une valeur qui dépasse la conformité. Elle oblige à formuler la finalité, ce qui révèle régulièrement qu’un projet en poursuit deux à la fois, et qu’une seule est défendable.
Elle constitue aussi le point de départ de la documentation exigée si le système s’avère à haut risque, ce qui évite de la reconstituer plus tard. Le cadre complet figure dans l’AI Act en vigueur : ce que l’ingénieur doit livrer.
Quelles questions se poser sur l’article 5 au 2 février 2025 ?
Une pratique interdite peut-elle être autorisée avec des garanties ?
Quand les conditions d’une interdiction sont réunies et qu’aucune exception prévue ne s’applique, une documentation ou une supervision supplémentaire ne rend pas la fonction licite.
Depuis quand les pratiques interdites par l’AI Act s’appliquent-elles ?
Depuis le 2 février 2025, en même temps que l’obligation de littératie IA et avant toutes les autres obligations du règlement. Les sanctions associées, les plus élevées du texte, relèvent d’un régime applicable à partir d’août 2025.
Quel cas piège le plus souvent une entreprise ordinaire ?
La reconnaissance biométrique des émotions de salariés peut être interdite au travail, sous les exceptions prévues ; les clients et l’analyse de sentiments textuels demandent une qualification distincte.
Qui doit vérifier ce point, et à quel moment ?
L’équipe projet doit ouvrir l’examen au cadrage et faire qualifier les cas douteux avant la réalisation, avec les informations nécessaires sur la finalité, les personnes et les données.
Le tri automatique de documents est-il concerné ?
Un tri documentaire n’est pas automatiquement interdit ou exempt : vérifier sa finalité, les personnes concernées et les décisions servies, en particulier pour des dossiers de recrutement ou de crédit.
Que faut-il conserver comme preuve ?
Une note d’une page par système, datée et signée, qui indique sa finalité, les personnes concernées et la réponse aux quatre questions du filtre. Elle démontre que la vérification a eu lieu avant la mise en service.