AI Act : l'accord politique et ce qu'il annonce pour les ingénieurs

En décembre 2023, quand l'accord politique a été annoncé, la réaction dominante dans les équipes techniques a été un haussement d'épaules : c'est un sujet juridique, il sera traité plus tard, par d'autres.

C'était une erreur d'appréciation, et je l'ai dit à l'époque. Ce que le texte impose n'est pas un document à signer en fin de projet. C'est une liste de propriétés que le système doit posséder, et ces propriétés se décident au moment de l'architecture, pas après.

Le règlement ne classe pas les technologies, il classe les usages. Le même modèle est sans obligation particulière quand il résume une note interne, et à haut risque quand il trie des candidatures.

Cette distinction a une conséquence pratique immédiate : deux systèmes techniquement identiques peuvent relever de régimes complètement différents. Ce n'est donc pas au fournisseur du modèle de répondre à la question, mais à celui qui décide de l'usage, c'est-à-dire, très souvent, l'organisation elle-même.

De toutes ces obligations, celle qui coûte le plus cher à ajouter après coup est la traçabilité.

Journaliser les entrées, les documents retrouvés, la réponse produite et l'action de l'humain qui a validé, c'est trivial quand on le prévoit dès le départ. C'est un chantier de plusieurs semaines quand le système est déjà en exploitation, parce qu'il faut reprendre le schéma de données, arbitrer la durée de conservation, traiter les données personnelles qui s'y trouvent, et parfois refaire l'interface pour capter la validation humaine qui n'était nulle part enregistrée.

Le texte est entré en vigueur le 1er août 2024. Les interdictions et l'obligation de littératie se sont appliquées au 2 février 2025, les obligations sur les modèles d'usage général et le régime de sanctions au 2 août 2025.

Le calendrier des systèmes à haut risque, lui, a bougé, et c'est un sujet en soi, que je traite dans ce que l'ingénieur doit livrer depuis l'entrée en vigueur.

Les obligations annoncées à ce moment-là se sont appliquées dans l'ordre prévu, et les organisations qui avaient anticipé la journalisation ont eu deux ans d'avance sur les autres. C'est le seul chantier dont le report se paie définitivement.

Une politique interne se rédige en une journée à n'importe quel moment. Des journaux ne se reconstituent pas : ce qui n'a pas été tracé est perdu, pour le contrôle comme pour le diagnostic.

Les pièces exigibles et leur ordre de priorité sont détaillés dans ce qui doit exister avant l'échéance.

La courte liste de pratiques simplement interdites, qu'aucune mesure de sécurité ne rend licites, a piégé des projets parfaitement ordinaires. Elle est passée largement inaperçue à côté du régime à haut risque.

Le cas typique n'a rien de sinistre : une équipe veut analyser les enregistrements du service client pour améliorer la qualité, et quelqu'un propose de détecter l'agacement dans la voix. Le projet touche alors une interdiction, et personne dans la salle ne le sait.

Le filtre à appliquer au cadrage est détaillé dans pratiques interdites : ce qu'aucun garde-fou ne rattrape. Il tient en quatre questions et ne demande aucune compétence juridique.

Deux documents, une demi-journée : l'inventaire des systèmes qui appellent un modèle, et une fiche d'une page pour chacun. Cela suffit à savoir où l'on en est.

L'inventaire fait apparaître, à chaque fois, des systèmes dont la direction ignorait l'existence : un assistant créé par une équipe métier et devenu quotidien, un script branché sur une base, une automatisation ajoutée dans un outil de gestion.

Aucun n'a été caché ; ils n'ont simplement jamais été qualifiés de projets. La méthode complète est décrite dans préparer un contrôle de conformité en deux semaines.