Parlons de votre projet
Aller au contenu
Toutes les publications

Le choix économique et le choix sobre coïncident

Par Docteur en intelligence artificielle · Conseil, conception de systèmes et formation

Green AIRoutageCoûtArchitecture28 juillet 2026Mis à jour le 13 octobre 202610 min

L’argument économique et l’argument énergétique désignent le même réglage. C’est rare, et c’est ce qui rend le routage facile à faire accepter.

Illustration de l’article « Le choix économique et le choix sobre coïncident »

Qu’est-ce que le routage vers le plus petit modèle suffisant ?

Le routage vers le plus petit modèle suffisant consiste à envoyer chaque type de tâche au modèle le moins coûteux qui atteint le niveau de qualité exigé pour cette tâche, plutôt qu’au modèle le plus capable par défaut.

Un système d’IA traite rarement une seule tâche. Un assistant documentaire, par exemple, classe la question, extrait des critères, recherche des passages, rédige une réponse et parfois la vérifie. Ces étapes n’ont pas la même difficulté, et rien n’oblige à les confier toutes au même modèle.

Le routage s’appuie sur une mesure, pas sur une intuition : pour chaque famille de tâches, on compare les modèles candidats sur un jeu de tests et on retient le plus petit qui respecte le seuil d’erreur fixé. Ce principe est apparu avec les premiers petits modèles performants, comme le montrait Mistral 7B et l’arbitrage par le routage.

Pourquoi le choix économique et le choix sobre coïncident-ils ?

Router une tâche vers un modèle moins coûteux peut aussi réduire l’énergie nécessaire, mais cette convergence doit être mesurée et ne suit aucune proportion universelle.

Je pars d’un geste commun : réserver les traitements lourds aux tâches qui les justifient. Les travaux sur les coûts d’inférence et sur l’énergie montrent l’intérêt de cet arbitrage, avec des résultats qui dépendent des tâches, des architectures et de l’infrastructure.

Le tarif d’une API n’est pas un compteur électrique. Il inclut des choix commerciaux ; l’énergie dépend notamment du matériel, de la longueur des réponses et de la manière de servir les requêtes. Deux factures différentes ne suffisent donc pas à déduire deux consommations.

Pour obtenir un budget, je chiffre d’abord le coût évitable. Je présente la sobriété comme un effet à documenter, avec ses limites, selon mesurer l’empreinte d’un système d’IA depuis sa place.

Repère de travail que j’utilise sur mes missions : Ne pas présenter le chantier comme une démarche de sobriété. Le présenter comme une réduction de facture, chiffrée, avec la baisse de consommation comme conséquence documentée. Le résultat est identique et l’arbitrage se prend en dix minutes.

Routage d’une tâche vers le plus petit modèle suffisant
Le plus petit modèle suffisant est un candidat à comparer. Coût et énergie doivent être évalués sur la même tâche.

Quelles tâches basculent vers un petit modèle, et lesquelles ne basculent pas ?

Les tâches courtes et contraintes sont de bonnes candidates à un modèle plus petit, mais seul un test adapté établit une qualité suffisante pour chaque usage. Cette frontière se vérifie, elle ne se suppose pas.

Les tâches qui basculent ont une caractéristique commune : la réponse attendue est courte et contrainte. Il n’y a pas beaucoup de façons d’extraire correctement une date.

Celles qui ne basculent pas demandent de tenir plusieurs contraintes à la fois, ou de suivre un raisonnement long. Elles existent dans tout système, et leur part varie selon l’usage : c’est la mesure qui la donne, pas une estimation.

TâcheForme de la réponseBascule probable vers un petit modèle
Extraire une date, un montant, un nomCourte, uniqueCandidate à tester
Classer une demande dans une catégorieUne étiquette parmi une listeCandidate à tester
Reformuler un texte dans un registre donnéContrainte par le texte sourceCandidate à tester
Repérer des données personnellesVérification des omissions nécessaireÀ mesurer avec attention
Résumer un document courtContrainte par la sourceÀ tester
Rédiger une réponse croisant plusieurs documentsOuverte, plusieurs sourcesÀ mesurer
Raisonner sous plusieurs contraintes simultanéesLongue, enchaînéeÀ comparer sur les cas complexes

Sur les missions que j’ai menées, mon constat est le suivant : La vérification tient en une demi-journée avec un jeu de tests : on fait tourner les deux modèles sur les mêmes cas et on compare le taux d’erreur au seuil fixé pour la tâche. La méthode est celle de Mistral 7B et l’arbitrage par le routage. Les usages qui basculent quand le coût unitaire s’effondre avaient déjà été identifiés dans les usages qui basculent quand le coût s’effondre.

Sur les missions que j’ai menées, mon constat est le suivant : Celles qui ne basculent pas demandent de tenir plusieurs contraintes à la fois, ou de suivre un raisonnement long. Elles existent dans tout système et représentent rarement plus d’un appel sur cinq.

Dans quel ordre chercher des économies vérifiables ?

Je commence par les envois inutiles et les répétitions, puis je compare les modèles, car l’ordre rentable dépend de la dépense réellement observée.

  • Réduire le contexte envoyé. Le gain porte sur tous les paliers à la fois et persiste quel que soit le modèle. Voir réduire de moitié le contexte envoyé.
  • Supprimer les requêtes redondantes, qui consomment sans produire.
  • Mettre en cache le préfixe stable, ce qui évite de recalculer la même consigne à chaque appel.
  • Router vers le petit modèle ce que le jeu de tests autorise à basculer.

Comment mettre en place le routage, étape par étape ?

Mettre en place le routage vers le plus petit modèle suffisant suit une séquence de six étapes, qui commence par la mesure de l’existant et se termine par la consignation de chaque décision.

  1. Mesurer ce que consomme chaque fonctionnalité. Sans cette ventilation, on ne sait pas où porter l’effort ; la méthode est celle de mesurer le coût par fonctionnalité.
  2. Réduire d’abord le contexte et les appels redondants. Ces gestes bénéficient à tous les modèles, y compris ceux qui ne changeront pas.
  3. Activer la mise en cache des consignes et documents répétés, dont le principe est décrit dans la mise en cache du contexte.
  4. Lister les familles de tâches et fixer pour chacune un seuil d’erreur accepté.
  5. Comparer les modèles candidats sur le jeu de tests de chaque famille, cas limites et questions hors périmètre compris.
  6. Basculer, puis consigner : palier retenu, taux d’erreur mesuré, seuil, date.

Ce qu’un système consomme avant même de répondre, chargement, consignes, récupération, est détaillé dans ce qu’un système consomme avant la première réponse.

Qu’est-ce que le routage ne doit pas dégrader ?

Descendre de palier sur une tâche mal choisie produit des erreurs que personne ne détecte, et le gain est alors payé par la confiance. Il faut aussi suivre la latence, les appels supplémentaires et les changements de comportement.

Le cas dangereux est celui où l’erreur n’est pas visible : une extraction qui se trompe d’une ligne, une classification qui range dans la catégorie voisine. Ces erreurs ne remontent pas, elles s’accumulent.

Repère de travail que j’utilise sur mes missions : La parade est le jeu de tests, avec deux exigences. Il doit contenir un tiers de cas limites, sans quoi il donne un feu vert trompeur. Et il doit inclure des questions hors périmètre, pour vérifier que le petit modèle refuse toujours quand il doit refuser, comme le développe dans le refus de répondre est une fonctionnalité. Et il doit inclure des questions hors périmètre, pour vérifier les refus attendus sur ces cas, comme le développe le refus de répondre est une fonctionnalité.

Sans ces deux précautions, le routage transforme une économie en dette.

Le modèle local pousse-t-il la logique plus loin ?

Un modèle exécuté localement peut éviter un transfert de données et un appel distant, mais il ne garantit une consommation moindre qu’après vérification de toute la chaîne.

Le poste consomme lui aussi. Son matériel, ses périodes d’inactivité et la durée du traitement influencent le bilan. Une infrastructure distante optimisée peut être plus efficace pour une charge donnée.

Il faut également vérifier la télémétrie, les connecteurs et les services associés : exécuter l’inférence sur le poste ne suffit pas à prouver qu’aucune donnée ne circule.

Je traite donc le local comme une option d’architecture à comparer, particulièrement quand la confidentialité impose de limiter les transferts. Les conditions de déploiement figurent dans petits modèles sur poste.

Comment présenter le chantier sans promettre une économie fictive ?

Présenter le chantier demande une estimation explicite du coût évitable, un seuil de qualité et une mesure environnementale distincte lorsque celle-ci est disponible.

Je montre les appels concernés, leur coût complet et les conditions de bascule. Si je ne dispose que de mesures sur une autre infrastructure, je les présente comme des repères de recherche, sans les convertir en gain certain pour ce projet.

Que faut-il consigner pour que le gain tienne dans la durée ?

Documenter le routage permet de revoir chaque changement de palier à partir des résultats mesurés, plutôt que laisser les incidents déplacer silencieusement la répartition des tâches. La consignation est ce qui empêche le retour en arrière silencieux.

Le document utile tient en un tableau : pour chaque famille de tâches, le palier retenu, le taux d’erreur mesuré, le seuil accepté et la date de la décision. Ces quatre éléments rendent la décision relisible.

Sans lui, un incident survient, quelqu’un bascule une tâche sur le grand modèle pour le résoudre, personne ne revient en arrière, et le gain disparaît sans que le tableau de bord ne le signale.

C’est une forme de dette parmi les plus discrètes, et elle relève du rendez-vous trimestriel décrit dans la dette technique d’un système d’IA.

Sur les missions que j’ai menées, mon constat est le suivant : Un routage non documenté se défait en six mois, parce que chaque incident pousse à remonter d’un palier « pour être sûr ». La consignation est ce qui empêche le retour en arrière silencieux.

Quelles erreurs fréquentes annulent le gain du routage ?

Les erreurs qui annulent le gain du routage tiennent à l’absence de mesure : basculer sur intuition, remonter de palier à chaque incident, ou ne jamais revérifier après un changement de modèle.

  • Basculer sans jeu de tests. Le petit modèle semble suffire sur trois exemples et se trompe sur les cas limites.
  • Router avant de réduire le contexte. On optimise le prix unitaire d’un envoi qui reste trop volumineux.
  • Remonter de palier à chaque incident. Sans retour en arrière daté, la répartition dérive vers le haut.
  • Mesurer le coût sans mesurer la qualité. Une facture en baisse peut cacher des erreurs invisibles en hausse.
  • Déduire l’énergie du prix. Une baisse de tarif ne documente pas à elle seule une baisse de consommation.

Ces points sont examinés dans un audit IA centré sur le coût et la consommation d’un système en production.

Comment choisir un routage économique et mesurer sa sobriété ?

Le petit modèle dégrade-t-il la qualité ?

La qualité dépend de la tâche et du modèle retenu ; un petit modèle peut suffire, mais le jeu de tests doit vérifier les erreurs et omissions importantes.

Le moins cher est-il toujours le plus sobre ?

Le moins cher n’est pas automatiquement le plus sobre, car la facturation commerciale et la consommation énergétique suivent des mécanismes différents qui demandent des mesures distinctes.

Dans quel ordre agir ?

Réduire le contexte, supprimer les requêtes redondantes, mettre en cache le préfixe stable, puis router; Réduire le contexte gagne sur tous les paliers à la fois.

Quel est le risque du routage ?

Le risque est une erreur peu visible sur une tâche mal choisie ; des cas limites et des demandes hors périmètre doivent compléter les tests ordinaires.

Comment faire accepter le chantier ?

Je présente une réduction de coût estimée sur des appels identifiés, avec un seuil de qualité et les preuves disponibles de l’effet sur la consommation.

Comment éviter que le routage se défasse ?

En consignant pour chaque famille de tâches le palier retenu, le taux d’erreur mesuré, le seuil et la date de décision. Ce tableau est relu chaque trimestre, ce qui empêche les remontées de palier silencieuses après un incident.

Sources

Votre prochain projetParlons-en.Réserver un échange de 15 minutes sur Cal.com, dans un nouvel onglet