Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Exfiltration de données (agents IA)

Pour les agents IA, l'exfiltration de données survient quand un attaquant pousse un agent à lire des données privées auxquelles il a accès et à les envoyer à l'extérieur, par une requête web, un e-mail, un lien d'image ou un autre canal que l'attaquant contrôle.

Aussi appelé : exfiltration, lethal trifecta

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

L'exfiltration est un vieux terme de sécurité qui désigne la sortie non autorisée de données d'un système. Les agents la facilitent, car ils peuvent lire des données privées tout en communiquant avec le monde extérieur, et ils suivent les instructions trouvées dans le texte qu'ils traitent.

La « lethal trifecta »

Simon Willison décrit le risque comme la réunion de trois caractéristiques dans un même agent : l'accès à des données privées, l'exposition à du contenu non fiable et un moyen de communiquer vers l'extérieur. Si les trois sont présentes, une injection de prompt cachée dans une page web, un document ou un ticket peut ordonner à l'agent de rassembler des secrets et de les envoyer à l'attaquant. Supprimez l'une des trois et cette voie d'attaque se ferme.

Comment les données sortent

Le canal est souvent quelque chose d'apparemment anodin : une URL dont la chaîne de requête contient les données, une image Markdown que le client de chat charge automatiquement, un commit poussé vers un dépôt public, un e-mail sortant ou un argument transmis à un outil. Willison note que les éditeurs corrigeaient généralement les cas signalés en fermant le canal précis utilisé pour faire sortir les données.

Exemple

On demande à un agent de code ayant accès à un dépôt privé de corriger un bug signalé dans un ticket public. Le texte du ticket contient des instructions cachées pour lire le fichier `.env` et inclure son contenu dans un lien. Si l'agent peut effectuer des requêtes réseau, les clés partent avec cette requête.

Défenses

Limitez ce que l'agent peut atteindre avec des permissions d'agent étroites. Faites-le tourner dans un bac à sable pour agent où l'accès réseau sortant est bloqué ou restreint à une liste autorisée. N'affichez pas d'images distantes issues de la sortie du modèle, et exigez une approbation humaine pour les actions qui envoient des données à l'extérieur. Le tool poisoning est l'un des moyens courants par lesquels arrivent les instructions injectées.

Termes liés

Prompt injection
La prompt injection (injection de prompt) est une attaque dans laquelle un texte fourni à un modèle de langage, saisi par un utilisateur ou caché dans une page web, un fichier ou un résultat d'outil, modifie le comportement du modèle d'une façon que son développeur n'avait pas prévue.
Bac à sable pour agent
Un bac à sable pour agent (agent sandbox) est un environnement isolé, comme un conteneur, une machine virtuelle ou une restriction du système d'exploitation, dans lequel un agent IA exécute du code et des commandes sans pouvoir atteindre les fichiers, réseaux ou données au-delà de limites fixées.
Permissions d'agent
Les permissions d'agent sont les règles qui déterminent quels outils, fichiers, commandes, réseaux et comptes un agent IA peut utiliser, et quelles actions exigent d'abord l'approbation d'un humain, afin qu'un agent qui se trompe ou qui est manipulé ne puisse causer que des dégâts limités.
Tool poisoning
Le tool poisoning (empoisonnement d'outils) est une attaque dans laquelle un outil malveillant, souvent un serveur MCP, cache des instructions dans la description ou les métadonnées de ses outils ; le modèle d'IA les lit comme des consignes et peut divulguer des données ou mal utiliser d'autres outils sans que l'utilisateur s'en aperçoive.
Humain dans la boucle
L'humain dans la boucle (human-in-the-loop, HITL) est une conception dans laquelle un système d'IA s'arrête à des points choisis pour qu'une personne approuve, corrige ou rejette son étape suivante, afin que les actions risquées ou incertaines ne soient pas exécutées automatiquement.

Sources