IA agentique
L'IA agentique désigne des systèmes qui ne se contentent pas de générer du texte ou des prédictions, mais qui planifient, décident et entreprennent des actions pour atteindre un objectif, souvent en appelant des outils, en interrogeant des systèmes ou en enchaînant plusieurs étapes avec peu d'intervention humaine entre elles.
Un agent conversationnel répond à une question. Un agent reçoit un objectif, le découpe en étapes, choisit les outils à utiliser, observe les résultats et s'ajuste. Il peut interroger une base de données, envoyer un courriel, ouvrir un ticket, exécuter du code ou appeler un autre agent. Le modèle agit comme un contrôleur qui tourne en boucle : réfléchir, agir, observer, recommencer.
Ce passage de la réponse à l'action est ce qui rend l'IA agentique à la fois utile et plus difficile à gouverner. La propriété même qui permet à un agent d'accomplir une tâche en plusieurs étapes sans supervision est celle qui lui permet de causer un préjudice sans que personne ne s'en aperçoive à temps.
Ce qui rend un système agentique
Quatre traits distinguent un agent d'un simple appel de modèle.
L'autonomie. Le système décide lui-même de l'étape suivante au lieu de suivre un script figé. Deux exécutions avec la même entrée peuvent emprunter des chemins différents.
L'utilisation d'outils. L'agent peut dépasser le texte pour agir sur le monde, en appelant des API, en lançant des requêtes, en écrivant des fichiers ou en déclenchant des flux de travail. Ses capacités sont définies par les outils auxquels il a accès.
La planification. L'agent décompose un objectif en sous-tâches et les ordonne, en révisant parfois son plan à mesure qu'il en apprend davantage.
L'enchaînement d'actions. Les étapes s'appuient les unes sur les autres, de sorte qu'une erreur précoce peut se propager. Un agent qui interprète mal un résultat peut entreprendre plusieurs actions erronées avant de s'arrêter.
Pourquoi l'IA agentique pose des défis de gouvernance distincts
La gouvernance traditionnelle des modèles suppose une requête et une réponse que vous pouvez examiner. Les agents brisent cette hypothèse.
L'autonomie rend le comportement difficile à prévoir. Parce que l'agent choisit son propre chemin, vous ne pouvez pas énumérer à l'avance chaque action qu'il pourrait entreprendre. Les tests doivent couvrir le comportement dans de nombreuses conditions, et non un ensemble figé de sorties.
L'accès aux outils élargit le rayon d'impact. Un agent disposant d'un accès en écriture aux systèmes de production, aux API de paiement ou à la messagerie peut entreprendre des actions lourdes de conséquences. Le risque n'est plus une mauvaise phrase, c'est une mauvaise transaction ou un enregistrement supprimé.
L'enchaînement d'actions brouille la causalité. Lorsqu'un problème survient après dix étapes, déterminer quelle étape l'a provoqué, et pourquoi, est plus difficile que de déboguer une seule réponse. Cela complique la réponse aux incidents.
La responsabilité devient floue. Si un agent entreprend une action qui nuit à quelqu'un, qui en est responsable : l'utilisateur qui a fixé l'objectif, l'équipe qui a doté l'agent de ses outils, ou le fournisseur du modèle ? La gouvernance doit répondre à cette question avant le déploiement, et non après.
Là où les agents créent le plus d'exposition
Les agents les plus risqués combinent une large autonomie avec des outils puissants et une supervision faible.
Un agent capable de dépenser de l'argent, de modifier des enregistrements ou d'envoyer des communications au nom d'une organisation nécessite des contrôles plus stricts qu'un agent qui se contente de lire et de résumer. Un agent qui en appelle d'autres crée des chaînes difficiles à retracer. Un agent exposé à des entrées non fiables, comme des pages web ou des fichiers téléversés, peut être détourné par injection de prompt vers un usage abusif de ses outils.
Le schéma à surveiller est la capacité sans point de contrôle : un agent capable de faire quelque chose d'irréversible sans humain dans la boucle et sans limite stricte sur ce qu'il peut atteindre.
Comment gouverner l'IA agentique
Gouverner les agents consiste à restreindre ce qu'ils peuvent faire et à rendre lisible ce qu'ils ont fait.
Cadrez strictement l'accès aux outils. Donnez à un agent l'ensemble minimal d'outils et d'autorisations dont il a besoin. Séparez la lecture de l'écriture. Placez les actions les plus lourdes de conséquences, comme les paiements ou les suppressions, derrière une approbation explicite.
Ajoutez des points de contrôle humains pour les étapes à fort impact. Laissez l'agent planifier et préparer, mais exigez qu'une personne confirme avant qu'une action irréversible ou coûteuse ne s'exécute. C'est une supervision humaine significative appliquée à l'action, et pas seulement à la sortie.
Fixez des limites strictes. Plafonnez les dépenses, limitez la cadence des actions et définissez des conditions d'arrêt pour qu'un agent défaillant ne puisse pas s'emballer sans frein.
Journalisez la trace complète. Enregistrez l'objectif, chaque décision, chaque appel d'outil, les entrées et les sorties, ainsi que les actions finales. Sans cette trace, vous ne pouvez ni auditer, ni déboguer, ni expliquer ce qui s'est passé.
Traitez les entrées externes comme non fiables. Le contenu qu'un agent récupère ou reçoit peut véhiculer des instructions injectées. Isolez-le des instructions propres à l'agent et validez les appels d'outils avant leur exécution.
Attribuez la responsabilité. Désignez une personne ou une équipe responsable de chaque agent déployé, de ses outils et de ses limites, et reliez cela à votre plan de réponse aux incidents.
L'IA agentique et la réglementation
Les agents ne se situent pas en dehors des cadres existants. Au titre du règlement européen sur l'IA (EU AI Act), un système agentique utilisé dans un contexte à haut risque hérite des obligations de ce contexte, notamment la gestion des risques, la supervision humaine, la journalisation et la robustesse. La norme ISO 42001 attend les mêmes contrôles de gestion pour couvrir le système dans son ensemble, outils compris. La nouveauté est opérationnelle : la documentation, la supervision et la surveillance doivent tenir compte des actions entreprises, et non seulement des prédictions formulées.
FAQ
En quoi un agent IA diffère-t-il d'un agent conversationnel ?
Un agent conversationnel répond à des messages. Un agent reçoit un objectif et y travaille en planifiant des étapes et en utilisant des outils, entreprenant souvent des actions réelles comme interroger des systèmes ou envoyer des requêtes. L'agent décide de son propre chemin, donc son comportement est moins prévisible et son impact potentiel plus large. Cette différence justifie la gouvernance supplémentaire.
Quel est le principal risque de gouvernance avec les agents ?
La combinaison d'autonomie et d'accès aux outils sans point de contrôle humain. Un agent capable d'entreprendre seul des actions lourdes et irréversibles peut causer un préjudice plus vite que quiconque ne peut l'examiner. Cadrer strictement les autorisations d'outils et exiger une approbation pour les étapes à fort impact règle l'essentiel du problème.
Qui est responsable lorsqu'un agent cause un préjudice ?
Cela doit être décidé avant le déploiement. En pratique, la responsabilité est partagée entre l'utilisateur qui a fixé l'objectif, l'équipe qui a configuré l'agent et ses outils, et le fournisseur du modèle, mais un responsable clair doit être désigné pour chaque agent déployé. La journalisation de la trace complète des actions est ce qui rend la responsabilité applicable.
L'injection de prompt peut-elle affecter les agents ?
Oui, et les enjeux sont plus élevés qu'avec un simple agent conversationnel. Si un agent lit un contenu non fiable porteur d'instructions cachées, un attaquant peut le pousser à un usage abusif de ses outils, par exemple envoyer des données là où il ne le devrait pas. Isoler les entrées externes et valider les appels d'outils avant leur exécution réduit ce risque.
Que dois-je journaliser pour un agent ?
L'objectif, chaque décision de planification, chaque appel d'outil avec ses entrées et ses sorties, et les actions finales entreprises. Cette trace est ce qui vous permet d'auditer le comportement, d'enquêter sur les incidents et d'expliquer pourquoi l'agent a agi ainsi. De simples journaux de sortie ne suffisent pas, car les actions importent davantage que le texte.
Les agents relèvent-ils du règlement européen sur l'IA ?
Si un agent est utilisé dans un contexte que le règlement considère comme à haut risque, il porte les obligations de ce contexte, notamment la gestion des risques, la supervision humaine, la journalisation et la robustesse. Le cadre n'exonère pas les agents. Le travail concret consiste à veiller à ce que la supervision et la documentation couvrent les actions de l'agent, et pas seulement le texte qu'il génère.
Résumé
L'IA agentique planifie, décide et agit vers un objectif en utilisant des outils et en enchaînant des étapes, souvent sans humain entre chacune d'elles. Cette autonomie et cet accès aux outils rendent les agents puissants et plus difficiles à gouverner : le comportement est moins prévisible, le rayon d'impact est plus large, la causalité est plus difficile à retracer et la responsabilité se perd facilement. Gouvernez les agents en cadrant strictement les autorisations d'outils, en ajoutant des points de contrôle humains et des limites strictes pour les actions à fort impact, en journalisant la trace complète des décisions et des actions, en traitant les entrées externes comme non fiables et en désignant un responsable clair pour chaque agent déployé.