Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Prompt injection

La prompt injection (injection de prompt) est une attaque dans laquelle un texte fourni à un modèle de langage, saisi par un utilisateur ou caché dans une page web, un fichier ou un résultat d'outil, modifie le comportement du modèle d'une façon que son développeur n'avait pas prévue.

Aussi appelé : indirect prompt injection, direct prompt injection

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

Les LLM reçoivent les instructions et les données par le même canal : le texte. Un modèle ne sait pas distinguer de façon fiable le prompt système d'un développeur d'une phrase qu'un attaquant a glissée dans un e-mail qu'on lui a demandé de résumer. L'OWASP place la prompt injection en première position de son Top 10 pour les applications LLM.

Directe et indirecte

Dans une injection directe, c'est l'utilisateur qui tape l'attaque, par exemple en demandant au bot d'ignorer ses instructions précédentes. Dans une injection indirecte, l'attaque arrive dans un contenu que le modèle traite : une page web, un PDF, un commentaire de code, une invitation d'agenda ou la description d'un outil MCP. L'utilisateur peut ne jamais la voir. Greshake et al. ont montré que les applications intégrant des LLM brouillent la frontière entre données et instructions, ce qui permet à un attaquant d'atteindre le modèle sans aucun accès direct.

Pourquoi c'est important pour les agents

Un chatbot qui se contente d'écrire du texte peut être mis dans l'embarras. Un agent capable de lire des fichiers, d'appeler des API et d'envoyer des messages peut être poussé à agir. Les pires cas combinent l'injection et l'exfiltration de données : le texte glissé dit à l'agent de collecter des données privées et de les envoyer ailleurs. Le tool poisoning est une forme d'injection indirecte transmise par les métadonnées des outils.

En quoi elle diffère d'un jailbreak

Un jailbreak cherche à faire enfreindre au modèle son propre entraînement de sécurité. La prompt injection cherche à passer outre les instructions de l'application. Les techniques se recoupent, et un même texte peut faire les deux.

Défenses

Il n'existe pas de solution complète aujourd'hui. Les couches courantes sont des garde-fous en entrée et en sortie, une séparation nette du contenu non fiable, des permissions d'agent étroites, un bac à sable pour agents et une validation humaine avant les actions sensibles. Consultez la fiche de l'OWASP pour la liste complète des mesures d'atténuation.

Termes liés

Jailbreak (LLM)
Un jailbreak (débridage) est un prompt ou une technique qui amène un modèle de langage à produire une sortie que son entraînement à la sûreté est censé refuser, comme des instructions dangereuses, au moyen de jeux de rôle, d'obscurcissement, d'encodages inhabituels ou de longs textes adverses.
Exfiltration de données (agents IA)
Pour les agents IA, l'exfiltration de données survient quand un attaquant pousse un agent à lire des données privées auxquelles il a accès et à les envoyer à l'extérieur, par une requête web, un e-mail, un lien d'image ou un autre canal que l'attaquant contrôle.
Bac à sable pour agent
Un bac à sable pour agent (agent sandbox) est un environnement isolé, comme un conteneur, une machine virtuelle ou une restriction du système d'exploitation, dans lequel un agent IA exécute du code et des commandes sans pouvoir atteindre les fichiers, réseaux ou données au-delà de limites fixées.
Tool poisoning
Le tool poisoning (empoisonnement d'outils) est une attaque dans laquelle un outil malveillant, souvent un serveur MCP, cache des instructions dans la description ou les métadonnées de ses outils ; le modèle d'IA les lit comme des consignes et peut divulguer des données ou mal utiliser d'autres outils sans que l'utilisateur s'en aperçoive.
Garde-fous (IA)
Les garde-fous (guardrails) sont des contrôles exécutés autour d'un modèle de langage qui inspectent les entrées et les sorties et les bloquent, les réécrivent ou les redirigent, afin qu'une application reste dans son sujet, évite les contenus nuisibles et respecte des règles que le modèle seul ne tiendrait pas de façon fiable.

Sources