Où part réellement un budget d'IA

Sur les systèmes documentaires que j'exploite, les appels au modèle représentent la plus petite des quatre lignes du budget. C'est l'inverse de la répartition supposée au moment de la décision.

Les quatre postes sont toujours les mêmes. La préparation du corpus, l'intégration au système d'information, l'exploitation courante, et les appels au modèle. Seul le dernier fait l'objet d'une discussion en comité.

Cette dissymétrie a une conséquence directe : les efforts d'optimisation portent sur le poste le plus petit, tandis que les trois autres ne sont ni mesurés ni pilotés. Une équipe peut passer un trimestre à optimiser des jetons et ignorer un poste trois fois plus lourd.

Désigner les documents qui font autorité, retirer les versions périmées et porter les dates dans les métadonnées représente le premier poste de dépense d'un projet documentaire. Ce travail n'est pas technique et ne s'externalise pas.

Il demande des personnes qui connaissent les documents : savoir que la procédure de 2023 est abrogée, que deux services utilisent des référentiels différents, qu'un dossier partagé contient des brouillons mêlés aux versions validées.

Ce travail est systématiquement sous-estimé au cadrage, parce qu'il ne ressemble pas à un projet informatique. Il est pourtant celui qui détermine la qualité du résultat, comme développé dans le corpus est le projet.

Le symptôme d'un projet qui l'a sauté est reconnaissable : le système répond correctement en démonstration et donne des réponses contradictoires en production, parce que le corpus contient les contradictions.

Un système d'IA demande un entretien continu que les projets informatiques classiques n'exigent pas au même degré, et ce coût n'apparaît qu'au deuxième exercice. Il faut le provisionner dès le départ.

Trois charges reviennent régulièrement. Le corpus évolue et doit être réindexé, faute de quoi le système répond sur des documents périmés. Le modèle est remplacé deux à trois fois par an, ce qui impose de rejouer le jeu de tests et d'ajuster les réglages. Et les incidents demandent un diagnostic, qui suppose des journaux exploitables.

Aucune de ces charges n'est lourde prise isolément. Ensemble, elles représentent l'équivalent d'une fraction significative d'un poste, en continu.

Une organisation qui ne l'a pas provisionné obtient le même résultat à chaque fois : le système fonctionne un an, se dégrade la deuxième année, et personne ne peut dire à quel moment il a cessé d'être fiable.

Le coût par fonctionnalité et le temps d'exploitation par mois sont les deux seules mesures qui permettent d'arbitrer. Le total mensuel ne se pilote pas.

Le coût par fonctionnalité s'obtient en étiquetant chaque appel dans la couche d'abstraction. Il révèle presque toujours qu'une fonctionnalité minoritaire en usage porte la majorité de la facture, ce qui est une information actionnable.

Le temps d'exploitation se relève simplement : combien d'heures par mois quelqu'un a-t-il passé sur ce système hors développement. Cette mesure, tenue six mois, permet de savoir si le système est soutenable.

Ces deux chiffres transforment une discussion de principe, « l'IA coûte cher », en arbitrage instruit : cette fonctionnalité coûte tant, elle sert à tant de personnes, la garde-t-on. Le cadre complet figure dans le coût réel d'un système IA en production.

Un projet dont le corpus est déjà propre coûte trois fois moins qu'un projet équivalent sur un corpus désordonné, et cette différence ne se voit pas au cadrage. C'est le meilleur critère de sélection que je connaisse.

La question à poser avant tout arbitrage entre projets candidats n'est pas « lequel apporte le plus de valeur » mais « lequel s'appuie sur des documents dont quelqu'un sait dire lesquels font autorité ».

Un corpus déjà tenu, une base documentaire qualité, un référentiel réglementaire maintenu, une documentation produit versionnée, permet d'atteindre un résultat en quelques semaines. Un dossier partagé accumulé pendant dix ans demande des mois de travail préalable.

Ce critère explique une bonne part de l'écart entre les projets qui aboutissent et ceux qui s'enlisent, bien davantage que le choix de la technologie.