Où part réellement un budget d’IA

Un budget d’IA documentaire doit distinguer préparation du corpus, intégration, exploitation et appels au modèle, sans supposer que le poste le plus visible est le plus lourd. La répartition se mesure pour chaque système.

Par budget d’IA, j’entends ici le coût complet d’un système sur sa durée de vie, pas seulement la facture du fournisseur de modèle. Un système documentaire est un assistant qui répond à partir des documents de l’organisation : procédures, contrats, référentiels, documentation produit.

Cette grille de lecture aide à ne pas réduire le projet à sa facture API.

Cette dissymétrie a une conséquence directe : les efforts d’optimisation peuvent viser les jetons alors que les autres postes restent mal mesurés. Une équipe peut passer un trimestre à optimiser des jetons et ignorer un poste bien plus lourd.

La préparation du corpus doit être chiffrée parce que choisir les versions qui font autorité, vérifier les droits et retirer les documents périmés demande une responsabilité métier explicite. Des outils peuvent l’assister sans décider seuls de l’autorité documentaire.

Il demande des personnes qui connaissent les documents : savoir que la procédure de 2023 est abrogée, que deux services utilisent des référentiels différents, qu’un dossier partagé contient des brouillons mêlés aux versions validées.

Ce travail est facile à sous-estimer au cadrage, parce qu’il ne ressemble pas à un projet informatique. Il est pourtant celui qui détermine la qualité du résultat, comme développé dans le corpus est le projet.

Le symptôme d’un projet qui l’a sauté est reconnaissable : le système répond correctement en démonstration et donne des réponses contradictoires en production, parce que le corpus contient les contradictions.

Un budget d’IA doit également inclure les connexions aux applications, la maintenance, les appels aux modèles et le temps d’adoption, même quand certains coûts restent internes.

• L’intégration : brancher le système sur les applications existantes, dont beaucoup n’exposent aucune interface. Voir brancher un modèle sur un progiciel sans API.
• L’exploitation : supervision, incidents, mises à jour du corpus, migrations de modèle. Permanente, et rarement provisionnée.
• Les appels au modèle : une ligne visible à distinguer de l’hébergement, du stockage et des autres services.
• Et une ligne masquée : le temps des utilisateurs pendant la phase d’adoption, qui n’apparaît nulle part.

L’exploitation d’un système d’IA peut surprendre lorsque les mises à jour documentaires, les tests, les incidents et la surveillance n’ont pas été provisionnés dès la construction. Il faut le provisionner dès le départ.

Trois charges reviennent régulièrement. Le corpus évolue et doit être réindexé, faute de quoi le système répond sur des documents périmés. Les versions utilisées peuvent évoluer ou être retirées, ce qui impose de rejouer le jeu de tests et d’ajuster les réglages. Et les incidents demandent un diagnostic, qui suppose des journaux exploitables, comme le décrit l’observabilité des systèmes IA.

Chaque charge doit être évaluée avec sa fréquence, sa durée et son responsable. Le coût d’un incident mal diagnostiqué, lui, est détaillé dans ce que coûte un incident sur un système d’IA.

Sans moyens identifiés, les défauts peuvent s’accumuler ; leur apparition doit être datée par la mesure plutôt que déduite de l’âge du système.

Pour piloter un budget d’IA, il faut mesurer le coût par fonctionnalité et le temps d’exploitation par mois : deux mesures à rapprocher de la qualité et de l’usage réel. Le total mensuel ne se pilote pas.

Le coût par fonctionnalité s’obtient en étiquetant chaque appel dans la couche d’abstraction. Il permet de repérer une fonctionnalité dont le coût serait disproportionné par rapport à son usage, ce qui est une information actionnable.

Le temps d’exploitation se relève simplement : combien d’heures par mois quelqu’un a-t-il passé sur ce système hors développement. Cette mesure, tenue six mois, permet de savoir si le système est soutenable.

Ces deux chiffres transforment une discussion de principe, « l’IA coûte cher », en arbitrage instruit : cette fonctionnalité coûte tant, elle sert à tant de personnes, la garde-t-on. Le cadre complet figure dans le coût réel d’un système IA en production.

Le coût de construction et le coût d’exploitation doivent être présentés séparément sur une durée explicite, avec les hypothèses de volume, de maintenance et de reprise humaine.

Une dépense initiale peut être amortie sur plusieurs périodes ; une dépense récurrente suit son propre rythme. Changer l’horizon du calcul modifie la comparaison : il faut l’écrire avant de conclure.

Construire un budget d’IA complet consiste à chiffrer séparément les quatre postes sur trois ans, en commençant par l’état du corpus et en finissant seulement par les appels au modèle. L’ordre évite de dimensionner le projet sur la ligne la plus visible.

1. Évaluer l’état du corpus. Quelqu’un sait-il dire quels documents font autorité ? Combien de versions coexistent ? Le temps métier nécessaire en découle.
2. Lister les points d’intégration. Pour chaque application à brancher, vérifier si elle expose une interface ou s’il faudra la contourner.
3. Provisionner l’exploitation. Réindexations, migrations de modèle, diagnostic d’incidents : un temps mensuel estimé, porté sur toute la durée de vie.
4. Chiffrer les appels au modèle. Par fonctionnalité, sur un volume réaliste, et en mesurant les cas difficiles plutôt que la moyenne.
5. Ajouter le temps d’adoption. Les heures des utilisateurs pendant la prise en main, même si elles ne sont pas facturées.
6. Fixer un rendez-vous de révision. Le budget se recompare au réel chaque semestre.

Ce chiffrage fait partie des livrables d’un audit IA, précisément parce qu’il est rarement fait avant l’engagement.

L’état du corpus doit guider le choix des projets d’IA parce qu’un projet dont le corpus est déjà propre peut réduire le travail de préparation qu’un projet équivalent sur un corpus désordonné, et que cette différence ne se voit pas au cadrage. C’est le meilleur critère de sélection que je connaisse.

La question à poser avant tout arbitrage entre projets candidats n’est pas « lequel apporte le plus de valeur » mais « lequel s’appuie sur des documents dont quelqu’un sait dire lesquels font autorité ».

Un corpus déjà tenu réduit certains travaux, mais ses droits et son adéquation à la tâche doivent encore être vérifiés. Un dossier désordonné exige un inventaire avant d’estimer le coût.

Ce critère complète la valeur métier, les contraintes d’intégration et la capacité de reprise. Il aide aussi à décider quels cas d’usage abandonner avant d’y investir.

Les erreurs qui faussent le plus un budget d’IA sont de ne chiffrer que les appels au modèle, de confondre construction et exploitation, d’ignorer le temps des métiers et de raisonner sur un total mensuel. Toutes conduisent à arbitrer sur un chiffre incomplet.

• Budgéter la facture du fournisseur. C’est la ligne la plus visible et dont le poids relatif doit être mesuré.
• Arrêter le budget à la mise en service. L’exploitation commence ce jour-là et dure autant que le système.
• Oublier le temps des métiers. La préparation du corpus et l’adoption mobilisent des personnes qui ne sont pas dans l’équipe projet.
• Piloter un total. Sans ventilation par fonctionnalité, impossible de savoir quoi garder.
• Optimiser les jetons d’abord. Le gain doit être comparé aux économies possibles sur les autres postes.

Un système hérité sans ces mesures se reprend avec la démarche de reprendre un système d’IA construit par quelqu’un d’autre.