Toutes les publications

L'AI Act entre en vigueur : ce que l'ingénieur doit livrer

AI ActConformitéProductionDocumentation2024-08-0610 min

Le texte est entré en vigueur le 1er août 2024. Voici sa traduction en livrables d'ingénierie, ceux qui se décident à l'architecture et pas à la recette.

Une date, et un malentendu tenace

Le règlement (UE) 2024/1689 est entré en vigueur le 1er août 2024. La réaction la plus fréquente que j'ai entendue dans les semaines suivantes : « on a le temps, ça ne s'applique pas tout de suite ».

C'est exact sur le calendrier et faux sur la conséquence pratique. Les obligations s'échelonnent, mais les propriétés qu'elles exigent sont des propriétés d'architecture. On ne les ajoute pas à un système existant : on les y réinjecte, ce qui coûte plusieurs fois plus cher.

Une date, et un malentendu tenace

Fournisseur ou déployeur : la question qui commande tout

Le texte distingue celui qui met un système sur le marché de celui qui l'exploite. Les obligations ne sont pas les mêmes, et une même organisation est très souvent les deux à la fois selon le système considéré.

Utiliser un outil du commerce fait de vous un déployeur. Développer un agent en interne, même sans le vendre, vous rapproche du fournisseur dès lors que vous le mettez en service sous votre propre marque. Cette qualification se tranche système par système, et elle décide de la liste des livrables, d'où l'importance du registre, qui est le premier document à produire.

Les quatre livrables que je produis pendant la mission

  • Le registre : un système par ligne, avec sa finalité, son rôle, ses données, son niveau de risque et la justification de ce niveau. C'est le document que l'on présente en premier à un tiers.
  • La documentation technique : architecture, provenance des données, limites connues, décisions écartées et pourquoi. Écrite au fil de l'eau, elle prend une heure par semaine ; reconstituée après, elle prend trois semaines.
  • Le dispositif de journalisation : ce qui a été demandé, quels documents ont été retrouvés, ce qui a été répondu, ce que l'humain a validé ou corrigé.
  • Le dispositif de supervision : le point d'arrêt, le contexte fourni à celui qui valide, et la mesure du temps réellement disponible pour le faire.

La supervision humaine, mesurée et non déclarée

C'est le point sur lequel je vois le plus d'écart entre l'intention écrite et la réalité constatée.

Une supervision humaine effective suppose que la personne dispose de l'information et du temps. Si un opérateur doit valider deux cents propositions par jour, il valide en bloc, et le dispositif protège juridiquement sans protéger personne. Je dimensionne donc le débit du système sur la capacité de relecture réellement disponible, et je journalise le temps passé sur chaque validation. Ce chiffre est le seul qui permette de démontrer que la supervision existe.

Le réflexe qui économise le plus

Écrire la documentation technique pendant, jamais après. Une décision d'architecture s'explique en trois lignes le jour où on la prend. Six mois plus tard, il faut d'abord la retrouver, puis reconstituer les raisons, et celui qui l'a prise est souvent parti.

Ce que le calendrier a fait ensuite

Les interdictions et l'obligation de littératie se sont appliquées au 2 février 2025. Les obligations sur les modèles d'usage général, la gouvernance et le régime de sanctions au 2 août 2025.

Les systèmes à haut risque, eux, ont vu leur échéance déplacée par le règlement omnibus de juillet 2026, un report qui ne solde rien, et que je traite dans l'omnibus ne solde pas le sujet.

Ce qui doit descendre depuis le fournisseur

Une partie du dossier ne se rédige pas : elle se réclame au fournisseur du modèle, et elle se réclame au moment du contrat. C'est le point qui bloque le plus de dossiers arrivés à maturité.

Trois pièces conditionnent le vôtre : la documentation technique décrivant capacités et limites, le résumé des catégories de données d'entraînement, et la politique en matière de droits d'auteur.

Elles sont en général publiques ; encore faut-il les archiver, datées, le jour de la mise en service. Un document publié aujourd'hui peut avoir changé trois fois quand on en aura besoin. Le détail de cette chaîne figure dans ce qui doit descendre la chaîne.

L'ordre de priorité quand le temps manque

La journalisation d'abord, toujours : c'est la seule pièce dont le report a un coût irréversible. Une politique se rédige à n'importe quel moment ; des traces ne se reconstituent pas.

Un système qui n'a rien journalisé pendant dix-huit mois ne peut pas produire ces traces, quelle que soit la bonne volonté de l'équipe. Et il ne faut en aucun cas en fabriquer : une fausse pièce coûte plus cher que le manquement qu'elle prétend couvrir.

Cinq champs suffisent, question, extraits fournis, réponse, décision humaine, horodatage, et ils servent autant au diagnostic quotidien qu'au contrôle. L'ordre complet des priorités est détaillé dans ce qui doit exister avant l'échéance.

Comment tenir l'ensemble sans mobiliser un service

Une personne par système, une fiche d'une page, un rendez-vous trimestriel : la lourdeur vient de l'organisation choisie, pas de l'obligation elle-même. Le schéma centralisé n'aboutit jamais.

Confier le dossier à un service unique qui doit interroger toutes les équipes et documenter des systèmes qu'il ne connaît pas produit un chantier sans fin.

Le schéma qui fonctionne répartit : chaque équipe rédige la fiche du système qu'elle a construit, en une heure, sur un modèle commun. Un rôle central consolide et relit, sans rédiger. Le format de la fiche est décrit dans écrire la fiche d'un système d'IA.

Questions fréquentes

Fournisseur ou déployeur : pourquoi cette distinction commande-t-elle tout ?

Parce qu'elle détermine quelles obligations vous incombent. Une organisation qui intègre un modèle tiers est déployeur : elle documente son système, pas le modèle, et réclame le reste au fournisseur.

Quelle pièce traiter en priorité ?

La journalisation. C'est la seule dont le report a un coût irréversible : ce qui n'est pas tracé aujourd'hui ne sera jamais reconstituable, et fabriquer des traces après coup est hors de question.

Que faut-il obtenir du fournisseur du modèle ?

La documentation technique, le résumé des catégories de données d'entraînement et la politique de droits d'auteur, archivés, datés, le jour de la mise en service.

Faut-il un service dédié à la conformité ?

Non. Une personne par système, une fiche d'une page rédigée par l'équipe qui l'a construit, et un rendez-vous trimestriel. Le dossier centralisé confié à un service unique n'aboutit pas.