Humain dans la boucle
L'humain dans la boucle (human-in-the-loop, HITL) est une conception dans laquelle un système d'IA s'arrête à des points choisis pour qu'une personne approuve, corrige ou rejette son étape suivante, afin que les actions risquées ou incertaines ne soient pas exécutées automatiquement.
Aussi appelé : HITL, approval prompts
Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode
Un agent capable d'envoyer des e-mails, de dépenser de l'argent ou de supprimer des fichiers a besoin d'un contrôle avant de le faire. L'humain dans la boucle place une personne à ces points.
Comment ça marche
L'application décide quelles actions nécessitent une approbation. Les déclencheurs courants sont les actions ayant des effets de bord, comme lancer une commande shell, écrire hors du dossier d'un projet ou appeler une API de paiement, et les moments où l'agent est bloqué. À ces points, l'agent s'arrête et montre ce qu'il prévoit de faire. La personne approuve, modifie ou rejette, et l'agent continue.
Les frameworks le prennent en charge directement. LangGraph peut suspendre l'exécution, laisser une personne inspecter ou modifier l'état, puis reprendre. Les agents de code utilisent des règles de permissions : Claude Code, par exemple, permet aux équipes de définir quels outils et commandes sont autorisés, lesquels sont interdits et lesquels doivent d'abord demander. Ces règles sont traitées sous permissions d'agent.
Exemple
Un agent de support prépare un remboursement. Les remboursements inférieurs à un montant fixé passent directement ; les plus importants attendent qu'un membre du personnel clique sur approuver.
Limites
Avec trop de demandes, les gens cessent de les lire et cliquent sur oui par habitude. Une demande n'aide aussi que si elle montre assez d'éléments pour juger l'action. Associez les approbations à un bac à sable pour agent, pour que les actions exécutées sans demander restent confinées, et n'oubliez pas qu'une injection de prompt peut faire passer une demande nuisible pour une opération de routine.
Termes liés
- Bac à sable pour agent
- Un bac à sable pour agent (agent sandbox) est un environnement isolé, comme un conteneur, une machine virtuelle ou une restriction du système d'exploitation, dans lequel un agent IA exécute du code et des commandes sans pouvoir atteindre les fichiers, réseaux ou données au-delà de limites fixées.
- Garde-fous (IA)
- Les garde-fous (guardrails) sont des contrôles exécutés autour d'un modèle de langage qui inspectent les entrées et les sorties et les bloquent, les réécrivent ou les redirigent, afin qu'une application reste dans son sujet, évite les contenus nuisibles et respecte des règles que le modèle seul ne tiendrait pas de façon fiable.
- Permissions d'agent
- Les permissions d'agent sont les règles qui déterminent quels outils, fichiers, commandes, réseaux et comptes un agent IA peut utiliser, et quelles actions exigent d'abord l'approbation d'un humain, afin qu'un agent qui se trompe ou qui est manipulé ne puisse causer que des dégâts limités.
- Prompt injection
- La prompt injection (injection de prompt) est une attaque dans laquelle un texte fourni à un modèle de langage, saisi par un utilisateur ou caché dans une page web, un fichier ou un résultat d'outil, modifie le comportement du modèle d'une façon que son développeur n'avait pas prévue.
- Hooks d'agent
- Les hooks d'agent (points d'accroche) sont des commandes ou scripts définis par l'utilisateur qu'un agent de code exécute automatiquement à des moments précis de son travail, par exemple avant un appel d'outil ou après la modification d'un fichier, pour vérifier, bloquer ou étendre ce qu'il fait.