Agents : le risque croît avec la durée sans contrôle

Un agent qui travaille plusieurs heures sans contrôle accumule les conséquences de ses erreurs au lieu de les révéler. C'est la différence de fond avec une exécution courte, et elle est plus importante que la capacité elle-même.

Sur une exécution de quelques minutes, une erreur se manifeste vite : le résultat est visiblement faux, on recommence. Sur une exécution longue, une erreur commise au dixième pas oriente les quarante suivants. Le résultat final paraît cohérent parce qu'il l'est, avec une prémisse fausse.

Cette cohérence trompeuse est le vrai danger. Elle rend l'erreur difficile à repérer par relecture, précisément parce que rien ne cloche localement.

Découper une exécution longue en étapes vérifiables vaut mieux qu'un humain qui regarde défiler, parce que personne ne surveille attentivement pendant deux heures. C'est un constat ergonomique, pas un choix de méthode.

La supervision continue échoue toujours de la même façon : au bout de vingt minutes, l'attention décroche, et la validation devient un réflexe. Elle donne l'illusion du contrôle sans le fournir.

Un point d'arrêt fonctionne différemment. Le système s'arrête, présente ce qu'il a établi, et attend une décision. La personne consacre deux minutes d'attention réelle à un état résumé, ce qui est bien plus efficace que deux heures d'attention flottante.

Le bon découpage suit les décisions structurantes, pas le temps écoulé. Le cadre est développé dans supervision humaine : la concevoir, pas la promettre.

Un agent qui n'avance plus doit s'arrêter et rendre compte, jamais tenter une autre approche indéfiniment. C'est la règle qui distingue un système exploitable d'un système coûteux.

Le comportement par défaut d'un agent bloqué est la persévérance : il essaie autrement, puis encore autrement. Chaque tentative consomme des appels et éloigne du point de départ, sans que rien ne signale l'impasse.

La borne à poser est simple : au-delà de trois tentatives infructueuses sur la même sous-tâche, l'agent s'arrête et remonte ce qu'il a compris du blocage. Cette remontée vaut souvent plus que le résultat attendu, parce qu'elle désigne exactement où le système manque d'information ou de droit.

J'applique la même logique au doute : un agent qui hésite entre deux interprétations doit demander, pas choisir. Le cadre général est posé dans ce qu'on ne délègue jamais à un modèle.

Les tâches où la durée est justifiée sont celles qui explorent un espace large avec un critère de succès vérifiable. Les autres gagnent à être découpées.

Trois familles fonctionnent bien. La recherche documentaire exhaustive, où l'agent parcourt de nombreuses sources et où le résultat se vérifie par les citations. Le traitement d'un lot d'éléments indépendants, où chaque unité est vérifiable séparément. Et la production d'un livrable dont la correction se teste automatiquement.

Ce qui rend ces trois cas viables est la vérifiabilité du résultat, pas la longueur de l'exécution. Un agent qui travaille deux heures sur une tâche dont personne ne peut vérifier le résultat produit un objet dont personne ne peut rien faire.

Le critère de sélection est donc antérieur au choix technique : sait-on dire, à la fin, si c'est juste ?

Une exécution longue suppose que quelqu'un soit disponible aux points d'arrêt, ce qui est une contrainte d'organisation avant d'être une contrainte technique. Elle est régulièrement oubliée au cadrage.

Un agent qui s'arrête à onze heures du soir pour demander une validation attend jusqu'au lendemain matin. Si l'exécution était censée produire un résultat pour la première heure, elle a échoué sans erreur technique.

Deux réglages résolvent la plupart des cas. Programmer les exécutions longues de façon que leurs points d'arrêt tombent en heures ouvrées. Et distinguer les validations bloquantes des validations différables : une action irréversible bloque, un choix d'orientation peut être pris par défaut avec possibilité de correction.

Ce travail de conception vaut mieux que l'alternative fréquente, qui consiste à supprimer les points d'arrêt pour éviter l'attente.