Quand l’intelligence artificielle passe de la parole à l’action

Source : Rapport à télécharger à la fin de l'article

La rupture est d’abord organisationnelle.

Avec l’IA conversationnelle, l’humain restait généralement au bout de la chaîne : une réponse était produite, puis évaluée avant utilisation. Un agent introduit une mécanique différente. Il peut décomposer un objectif, appeler différents outils, traiter leurs résultats et poursuivre son action selon les informations obtenues.  Le risque change donc de nature. Une réponse erronée peut être identifiée et corrigée. Une succession d’actions mal orientées peut engager des ressources, manipuler des données ou propager une erreur avant même que le superviseur humain n’intervienne. 

Le véritable objet de contrôle devient alors la trajectoire décisionnelle. Pour une organisation, savoir ce que l’agent a produit ne suffit plus. Il faut comprendre comment il y est arrivé.  Cette évolution introduit une question très familière à l’intelligence économique : celle de l’asymétrie d’information. Plus l’agent gagne en autonomie opérationnelle, plus son superviseur risque de perdre en visibilité sur ce qu’il accomplit réellement.

C’est probablement l’un des pièges les plus intéressants. Plus la technologie devient accessible, plus son contrôle devient complexe. 

Créer ou déployer un agent peut progressivement devenir une opération banale pour les directions métiers. Mais déterminer s’il agit correctement dans des situations multiples, s’il respecte les règles de l’organisation ou s’il dérive dans un environnement imprévu demande une expertise bien supérieure.  Une asymétrie apparaît ainsi entre capacité de déploiement et capacité d’évaluation.  Le problème devient managérial.

Lorsqu’une entreprise distribue largement des capacités agentiques sans disposer d’un dispositif de supervision comparable, elle crée potentiellement une forme de dette de contrôle. La technologie accélère, tandis que les capacités humaines d’audit restent limitées.  L’autonomie technique ne supprime donc pas la responsabilité humaine. Elle peut, au contraire, la rendre plus difficile à exercer.

L’évaluation elle-même doit évoluer. Mesurer uniquement la qualité de la réponse finale revient à regarder la destination sans examiner le trajet.  L’enjeu consiste désormais à observer les traces laissées par l’agent : outils mobilisés, étapes exécutées, erreurs rencontrées, choix opérés et ressources consommées.

L’IA agentique commence ainsi à être considérée comme un actif logiciel critique, dont le fonctionnement doit pouvoir être observé et évalué.  Cette mutation touche également les indicateurs de performance. La satisfaction de l’utilisateur reste pertinente, mais elle ne suffit plus. Il faut aussi s’interroger sur l’efficacité du processus. Combien d’opérations ont été nécessaires ? La trajectoire choisie était-elle pertinente ? Quel coût produit-elle ? Et surtout, quelle valeur économique l’agent apporte-t-il réellement ? 

En intelligence économique, cette approche est déterminante. Ce qui n’est pas observable devient difficilement évaluable, donc difficilement gouvernable.

Une autre tension apparaît : qui évaluera les agents lorsque leur volume d’activité dépassera les capacités humaines de supervision ? 

La réponse qui s’impose progressivement consiste à employer des modèles d’IA pour évaluer d’autres modèles. C’est le principe du « LLM-as-a-judge ». La solution est séduisante puisqu’elle permet d’industrialiser l’évaluation. Mais elle introduit simultanément un risque de circularité.  Si l’agent et son évaluateur reposent sur des technologies similaires, voire sur le même fournisseur, certaines erreurs ou certains biais peuvent échapper au dispositif de contrôle.

La dépendance n’est alors plus seulement technique : elle devient cognitive.  Pour le stratège, le sujet rejoint directement celui du vendor lock-in (dépendance vis-à-vis d'un fournisseur).. Une organisation qui dépend d’un fournisseur pour agir, mais également pour déterminer si cette action est correcte, abandonne une partie de sa capacité autonome d’évaluation.

C’est ici que l’évaluation rejoint pleinement l’intelligence économique.

La maîtrise des traces, des standards d’observabilité et des dispositifs de contrôle constitue progressivement un actif stratégique.  Le scénario prospectif proposé pour 2027-2030 dessine une trajectoire possible : développement de standards ouverts de collecte des traces, montée des plateformes centralisées de supervision, puis recours croissant à des environnements de simulation permettant de tester les agents avant leur mise en production. 

L’intérêt stratégique est considérable. Des mécanismes d’observabilité suffisamment portables peuvent réduire la dépendance à un fournisseur et préserver l’historique nécessaire à l’audit.  Demain, la question posée à une entreprise ne sera donc peut-être plus simplement : « Utilisez-vous l’intelligence artificielle ? » Elle pourrait devenir : « Êtes-vous capable de démontrer comment votre intelligence artificielle agit ? »

L’IA agentique marque ainsi un changement de perspective. Pendant plusieurs années, la compétition s’est concentrée sur les performances des modèles. Une nouvelle bataille s’ouvre désormais autour de leur gouvernance.  Observer, tester, comparer, documenter et auditer deviennent des compétences aussi importantes que savoir déployer un agent.  La leçon est nette : la souveraineté numérique ne consiste pas seulement à posséder une technologie. Elle suppose de conserver la capacité de comprendre, d’évaluer et, lorsque cela devient nécessaire, d’interrompre l’action qu’on lui a déléguée.