Prompt injection
La prompt injection (injection de prompt) est une attaque dans laquelle un texte fourni à un modèle de langage, saisi par un utilisateur ou caché dans une page web, un fichier ou un résultat d'outil, modifie le comportement du modèle d'une façon que son développeur n'avait pas prévue.
Aussi appelé : indirect prompt injection, direct prompt injection
Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode
Les LLM reçoivent les instructions et les données par le même canal : le texte. Un modèle ne sait pas distinguer de façon fiable le prompt système d'un développeur d'une phrase qu'un attaquant a glissée dans un e-mail qu'on lui a demandé de résumer. L'OWASP place la prompt injection en première position de son Top 10 pour les applications LLM.
Directe et indirecte
Dans une injection directe, c'est l'utilisateur qui tape l'attaque, par exemple en demandant au bot d'ignorer ses instructions précédentes. Dans une injection indirecte, l'attaque arrive dans un contenu que le modèle traite : une page web, un PDF, un commentaire de code, une invitation d'agenda ou la description d'un outil MCP. L'utilisateur peut ne jamais la voir. Greshake et al. ont montré que les applications intégrant des LLM brouillent la frontière entre données et instructions, ce qui permet à un attaquant d'atteindre le modèle sans aucun accès direct.
Pourquoi c'est important pour les agents
Un chatbot qui se contente d'écrire du texte peut être mis dans l'embarras. Un agent capable de lire des fichiers, d'appeler des API et d'envoyer des messages peut être poussé à agir. Les pires cas combinent l'injection et l'exfiltration de données : le texte glissé dit à l'agent de collecter des données privées et de les envoyer ailleurs. Le tool poisoning est une forme d'injection indirecte transmise par les métadonnées des outils.
En quoi elle diffère d'un jailbreak
Un jailbreak cherche à faire enfreindre au modèle son propre entraînement de sécurité. La prompt injection cherche à passer outre les instructions de l'application. Les techniques se recoupent, et un même texte peut faire les deux.
Défenses
Il n'existe pas de solution complète aujourd'hui. Les couches courantes sont des garde-fous en entrée et en sortie, une séparation nette du contenu non fiable, des permissions d'agent étroites, un bac à sable pour agents et une validation humaine avant les actions sensibles. Consultez la fiche de l'OWASP pour la liste complète des mesures d'atténuation.
Termes liés
- Jailbreak (LLM)
- Un jailbreak (débridage) est un prompt ou une technique qui amène un modèle de langage à produire une sortie que son entraînement à la sûreté est censé refuser, comme des instructions dangereuses, au moyen de jeux de rôle, d'obscurcissement, d'encodages inhabituels ou de longs textes adverses.
- Exfiltration de données (agents IA)
- Pour les agents IA, l'exfiltration de données survient quand un attaquant pousse un agent à lire des données privées auxquelles il a accès et à les envoyer à l'extérieur, par une requête web, un e-mail, un lien d'image ou un autre canal que l'attaquant contrôle.
- Bac à sable pour agent
- Un bac à sable pour agent (agent sandbox) est un environnement isolé, comme un conteneur, une machine virtuelle ou une restriction du système d'exploitation, dans lequel un agent IA exécute du code et des commandes sans pouvoir atteindre les fichiers, réseaux ou données au-delà de limites fixées.
- Tool poisoning
- Le tool poisoning (empoisonnement d'outils) est une attaque dans laquelle un outil malveillant, souvent un serveur MCP, cache des instructions dans la description ou les métadonnées de ses outils ; le modèle d'IA les lit comme des consignes et peut divulguer des données ou mal utiliser d'autres outils sans que l'utilisateur s'en aperçoive.
- Garde-fous (IA)
- Les garde-fous (guardrails) sont des contrôles ex écutés autour d'un modèle de langage qui inspectent les entrées et les sorties et les bloquent, les réécrivent ou les redirigent, afin qu'une application reste dans son sujet, évite les contenus nuisibles et respecte des règles que le modèle seul ne tiendrait pas de façon fiable.