Guide

Agents IA avec humain dans la boucle : comment fonctionnent les approbations des actions sensibles

Un guide pratique de la gouvernance des agents IA : ce qui attend une personne, qui décide et comment savoir ensuite ce que l'agent a fait.

· · Sources

Réponse courte

Humain dans la boucle signifie qu'un agent IA travaille seul, mais qu'une personne approuve, avant qu'elles ne s'exécutent, les actions difficiles à annuler. Une bonne configuration laisse les agents lire librement, exécute les écritures ordinaires une fois l'outil accordé, et transforme merges, déploiements, suppressions, paiements et envois en une demande d'approbation qui montre l'action exacte, qui décide et quand elle expire.

Que signifie « humain dans la boucle » pour les agents IA ?

Cela signifie que l'agent fait le travail, mais qu'une personne peut voir et bloquer certaines actions avant qu'elles n'aient lieu. Il ne s'agit pas de relire chaque phrase que l'agent écrit. Il s'agit de choisir les quelques points où une erreur coûterait cher et d'y placer une décision humaine.

L'idée est déjà inscrite dans MCP, le protocole que de nombreux agents utilisent pour joindre d'autres applications. La spécification dit qu'il devrait toujours y avoir un humain dans la boucle, capable de refuser les appels d'outils, et que les applications devraient demander une confirmation pour les opérations sensibles[1]. Le règlement européen sur l'IA exige la même chose pour les systèmes à haut risque : une personne doit pouvoir passer outre ou annuler le résultat, et arrêter le système avec un bouton d'arrêt ou un équivalent[2].

La gouvernance désigne l'ensemble plus large de règles qui entourent tout cela : qui peut créer un agent, ce qu'il peut atteindre, ce qui demande une approbation, combien il peut dépenser et où se trouve la trace de son travail.

Un agent IA peut-il vraiment supprimer une base de données de production ?

Oui, s'il y a accès et que rien ne se met en travers. En juillet 2025, l'agent de programmation de Replit a supprimé une base de données de production en service pendant un gel du code, malgré des instructions explicites de ne pas continuer sans approbation humaine. Il a ensuite affirmé qu'un rollback ne fonctionnerait pas, ce qui s'est révélé faux : les données sont revenues. Replit a indiqué avoir ajouté une séparation automatique entre les bases de développement et de production[3].

Ce qu'il faut en retenir : une instruction n'est pas un contrôle. Un agent peut mal comprendre une tâche, mal réagir à une requête qui revient vide, ou suivre une ligne malveillante lue sur une page web. La limite doit se trouver hors du modèle, dans le système qui exécute réellement les outils.

Le GenAI Security Project de l'OWASP a publié en décembre 2025 un top 10 des risques pour les applications agentiques[4]. Trois d'entre eux sont le détournement et l'exploitation des outils, l'abus d'identité et de privilèges, et l'exploitation de la confiance entre humain et agent[5]. Tous les trois appellent les mêmes réponses : moins d'accès, des demandes d'approbation claires et un journal.

Quelles actions d'un agent doivent attendre l'approbation d'une personne ?

Une règle qui convient à la plupart des équipes : demandez une approbation quand une action est difficile à annuler, sort de l'entreprise, déplace de l'argent ou touche beaucoup de monde à la fois. Concrètement :

  • Changer ce que voient les clients : merger sur la branche principale, déployer, revenir en arrière.
  • Supprimer : fichiers, enregistrements, comptes, tables.
  • Parler au nom de l'entreprise : envoyer un e-mail, publier, partager un fichier à l'extérieur.
  • Déplacer de l'argent : payer, virer, rembourser.

Tout le reste doit s'exécuter librement. Lire, chercher, enquêter sur une erreur, rédiger un brouillon et ouvrir une pull request sur la branche de l'agent, c'est son travail. Si chaque étape exige un clic, les gens cessent de lire ce qu'ils approuvent.

Voici comment agentes.chat, le produit que nous fabriquons, répartit cela :

Ce qui s'exécute seul et ce qui attend une personne dans agentes.chat
ActionDans agentes.chat
Lire, chercher, enquêterNe demande jamais
Écritures ordinaires dans une application connectée (créer, mettre à jour, ajouter)S'exécutent sans demander, dès que quelqu'un a accordé l'outil à l'agent
Merge, déploiement, rollback, promotionDemande toujours, quoi que déclare l'application
Supprimer, envoyer, payer, publier, transférer, rembourser ou partager dans une application connectéeDemande une approbation, ou est désactivé
Lancer un workflow GitHub ActionsDemande, car un workflow peut déployer
Envoi d'e-mails (bêta)Demande par défaut. Un admin peut autoriser l'envoi sans demander, uniquement vers des destinataires autorisés. Les envois sont plafonnés par défaut à 25 par jour et par agent pour chaque boîte
Suppression d'e-mails (bêta)Demande toujours
Base de données Postgres (bêta)Lecture seule : il n'y a aucun outil d'écriture
Push GitUniquement vers les branches propres à l'agent : jamais la branche par défaut, ni force push, ni tags

Comment gérer les autorisations d'un agent IA outil par outil ?

Chaque outil qu'un agent peut appeler relève de l'un de trois niveaux : lecture seule, écriture accordée, ou écriture soumise à approbation. Le plus difficile est de fixer le niveau de centaines d'outils sans les lire un par un.

Les serveurs MCP peuvent marquer un outil comme en lecture seule ou destructeur. C'est utile, mais la spécification avertit que les clients doivent traiter ces indications comme non fiables, sauf si elles viennent d'un serveur de confiance[1]. L'indication ne doit donc être qu'un signal parmi d'autres.

Quand un espace de travail connecte une application dans agentes.chat, chaque outil est classé ainsi :

  • Si le serveur marque un outil comme destructeur, il demande une approbation.
  • Les outils dont le nom commence par delete, remove, send, pay, publish, transfer, refund, unbind, share, merge, deploy, rollback, destroy, drop ou purge sont sensibles : ils peuvent seulement demander, ou être désactivés.
  • Pour les outils ambigus, un modèle d'évaluation propose un niveau. S'il échoue, l'outil demande.
  • Un admin confirme le résultat.

Ensuite, chaque agent reçoit uniquement ce dont il a besoin : par application (aucun accès, lecture, ou lecture et écriture) ou outil par outil. Accorder tous les outils n'inclut jamais l'exécution de code, et les outils sensibles demandent toujours. Plus de détails sur les connecteurs dans les connecteurs MCP expliqués.

Que doit montrer une demande d'approbation ?

Une demande vague comme « On peut déployer ? » obtient un oui réflexe. Une bonne demande permet à une personne de décider en quelques secondes :

  • l'action exacte et ses valeurs, pas un résumé
  • l'application et la cible : quel dépôt, quel environnement, quel destinataire
  • qui a le droit de décider
  • quand elle expire.

Dans agentes.chat, la demande est une carte dans la conversation, avec l'action et ses valeurs. Elle est liée à ces valeurs et s'exécute une seule fois, exactement comme approuvée. Tout ce qui diffère est une nouvelle demande. Elle expire après 24 heures. Les déploiements, rollbacks, suppressions et envois exigent un appui prolongé, pour que personne n'approuve par accident. Un merge se fait d'un seul clic.

Exemple · Acme (entreprise fictive)

Un rollback chez Acme

À 14 h, Atlas, l'agent d'infrastructure d'Acme, remarque que le taux d'erreurs a bondi après le dernier déploiement. Il enquête seul : il lit l'alerte, compare les deux versions et trouve le changement qui a cassé le checkout. Une carte apparaît dans #incidents : revenir à la version précédente du service de checkout, en production. La personne responsable d'Atlas maintient le bouton d'approbation, et le rollback s'exécute une seule fois, comme indiqué sur la carte.

Le déroulé complet, de l'alerte au postmortem, se trouve dans les agents IA pour la réponse aux incidents.

Qui approuve la demande d'un agent ?

Une personne qui répond de l'agent. Dans agentes.chat, chaque agent peut avoir un responsable, qui reçoit ses demandes d'approbation et ses alertes de budget. Le responsable ou un admin de l'espace de travail décide. Le responsable est facultatif : sans lui, les approbations et les alertes vont aux admins. Un agent n'approuve jamais la demande d'un autre agent. Pour choisir qui approuve, et approuver une seule fois ou toujours, voyez la documentation des approbations.

Seuls les propriétaires et les admins de l'espace de travail peuvent créer ou modifier des agents et fixer des budgets, de sorte que les personnes qui utilisent un agent au quotidien ne peuvent pas élargir seules son accès.

Un refus enseigne aussi. La raison donnée par la personne devient une leçon dans la mémoire de l'agent, et les leçons fortes se transforment en propositions de modification de ses instructions, qu'une personne accepte ou rejette.

Le budget d'un agent IA est-il un contrôle de gouvernance ?

C'en est un des plus simples. Un agent pris dans une boucle peut consommer énormément en peu de temps. Dans agentes.chat :

  • Chaque agent a un budget mensuel en dollars US, le sien ou celui par défaut de l'espace de travail.
  • Le budget est vérifié avant chaque appel au modèle, et le coût maximal de l'appel est réservé.
  • À la limite, l'agent s'arrête et le dit dans la conversation.
  • Les tokens, le coût et le modèle sont enregistrés pour chaque appel, avec l'espace de travail et l'agent.
  • Les membres voient des pourcentages. Seuls les propriétaires et les admins voient les montants.
  • Le budget couvre l'utilisation par clé d'API. L'utilisation d'un abonnement, comme un abonnement Claude, apparaît à part.

Comment savoir ensuite ce qu'un agent a fait ?

Sans trace, il n'y a pas de gouvernance, seulement de la confiance. Trois couches aident :

  • Dans la conversation : chaque étape de l'agent apparaît dans son message, et vous pouvez écrire en cours de tâche pour changer son cap, ou l'arrêter.
  • Dans le journal d'audit : les appels d'outils des agents, les décisions d'approbation, et les modifications faites par des personnes sur les membres, les agents, les connecteurs et les clés d'IA. Les admins peuvent le lire.
  • Entre coéquipiers : toute action vers l'extérieur est enregistrée avec sa cible. Si un coéquipier a agi sur la même cible au cours des 30 derniers jours, l'agent en est informé d'abord et ne poursuit qu'avec une raison. C'est activé par défaut.

Il y a une dernière protection, sur ce qui entre. Les textes extérieurs, comme les pages web, les e-mails, les fichiers et les réponses d'applications, arrivent au modèle marqués comme non fiables, afin qu'une instruction cachée dedans ne devienne pas un ordre.

Et quand les agents travaillent sans personne pour surveiller ?

Les routines s'exécutent selon un horaire ou sur un événement, sans personne dans la conversation, et les règles se durcissent donc. Dans agentes.chat, une routine ne publie que là où elle livre son résultat, ne peut pas écrire aux personnes et demande l'accord d'une personne avant chaque écriture dans une application connectée.

Les commandes sur l'ordinateur de l'agent suivent leurs propres règles. Une liste de refus stricte en rejette certaines d'emblée. Un réglage de l'espace de travail fait demander toutes les commandes. Il est désactivé par défaut. Les missions (bêta) vous laissent choisir : toujours demander, laisser un évaluateur autoriser les commandes à faible risque (le choix par défaut), ou ne jamais demander, hors liste de refus.

Trop d'approbations peuvent-elles devenir un risque ?

Oui. Quelqu'un qui approuve demande après demande cesse de les lire. Le règlement européen sur l'IA nomme cela le biais d'automatisation : la tendance à trop se fier à ce que propose un système[2]. La liste de l'OWASP couvre l'image inverse, un agent qui exploite la confiance des gens pour obtenir un oui[5].

La solution est de demander rarement et clairement. Les lectures s'exécutent librement, les écritures ordinaires sont accordées outil par outil, et les approbations ne se placent que là où une erreur coûte réellement de l'argent ou de la confiance. Une demande rare, avec l'action exacte, reçoit une vraie attention. Pourquoi cette demande se fait dans la conversation, nous l'expliquons dans pourquoi les actions sensibles deviennent des approbations dans la conversation.

Comment mettre en place un cadre de gouvernance des agents IA ?

  1. Listez les applications que vos agents atteindront et ce que chacun peut y faire.
  2. Repérez les actions difficiles à annuler : production, argent, clients, données supprimées.
  3. Démarrez chaque agent en lecture seule et accordez les écritures outil par outil.
  4. Désignez qui répond de chaque agent et qui approuve quand cette personne est absente.
  5. Donnez à chaque agent un budget mensuel et surveillez son utilisation la première semaine.
  6. Lisez le journal d'audit pendant les premières semaines et ajustez les niveaux.

agentes.chat est livré avec ces règles en place, et vous réglez le reste. Il est en bêta ouverte : créez l'espace de travail de votre équipe et voyez-les à l'œuvre.

Questions fréquentes

Qu'est-ce qu'un agent IA avec humain dans la boucle ?

Un agent qui travaille seul mais doit obtenir l'approbation d'une personne avant l'exécution de certaines actions, généralement celles qui sont difficiles à annuler, comme les déploiements, les suppressions, les paiements ou l'envoi de messages hors de l'entreprise.

Un agent IA doit-il obtenir une approbation pour lire des données ?

En général, non. Lire ne change rien, et les approbations pour cela ne font qu'épuiser les gens. Dans agentes.chat, la lecture ne demande jamais d'approbation. Le contrôle consiste à ne donner à chaque agent accès qu'à ce dont il a besoin.

Combien de temps une demande d'approbation reste-t-elle valable dans agentes.chat ?

24 heures. Passé ce délai, elle expire et l'agent doit redemander. Chaque approbation s'exécute une seule fois, avec exactement les valeurs affichées sur la carte.

Qui approuve si un agent n'a pas de responsable ?

Les admins de l'espace de travail. Le responsable est facultatif. Sans lui, les approbations et les alertes de budget vont aux admins.

Puis-je faire demander une approbation pour chaque commande sur l'ordinateur de l'agent ?

Oui. Un réglage de l'espace de travail fait demander une approbation pour chaque commande. Il est désactivé par défaut. Désactivé, une liste de refus rejette les commandes dangereuses. Les missions (bêta) suivent la règle choisie pour chacune. En dehors d'elles, les autres commandes s'exécutent sans demander.

Sources

Liens vérifiés le 29 octobre 2026. Ce que cette page dit d'agentes.chat décrit le produit à cette date et peut changer pendant la bêta.

  1. 1Model Context Protocol, Tools (Model Context Protocol specification, 2025-06-18), 18 juin 2025.modelcontextprotocol.io/specification/2025-06-18/server/tools · vérifié le 29 octobre 2026
  2. 2Future of Life Institute, EU AI Act Explorer, Article 14: Human Oversight (EU AI Act).artificialintelligenceact.eu/article/14 · vérifié le 29 octobre 2026
  3. 3Fortune, An AI-powered coding tool wiped out a software company's database, then apologized for a 'catastrophic failure on my part', 23 juillet 2025.fortune.com/2025/07/23/ai-coding-tool-replit-wiped-database-called-it-a-catastrophic-failure · vérifié le 29 octobre 2026
  4. 4OWASP GenAI Security Project, OWASP Top 10 for Agentic Applications for 2026, 9 décembre 2025.genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026 · vérifié le 29 octobre 2026
  5. 5Giskard, OWASP top 10 for agentic applications 2026: Understanding the risks of agents and tools, 18 décembre 2025.giskard.ai/knowledge/owasp-top-10-for-agentic-application-2026 · vérifié le 29 octobre 2026

Montez votre équipe aujourd'hui.

Créez l'espace de travail, invitez les personnes et les premiers agents. C'est prêt en quelques minutes, sans équipe technique.