Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Jailbreak (LLM)

Un jailbreak (débridage) est un prompt ou une technique qui amène un modèle de langage à produire une sortie que son entraînement à la sûreté est censé refuser, comme des instructions dangereuses, au moyen de jeux de rôle, d'obscurcissement, d'encodages inhabituels ou de longs textes adverses.

Aussi appelé : jailbreaking, LLM jailbreak

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

Le mot vient de la levée des restrictions sur les téléphones et les consoles de jeu. Avec les LLM, rien n'est installé ni modifié ; l'attaquant se contente d'écrire du texte. Les schémas courants consistent à demander au modèle de jouer un personnage sans règles, à découper une demande interdite en morceaux d'apparence inoffensive, à la rédiger dans une autre langue ou un autre encodage, ou à ajouter des chaînes générées par machine qui poussent le modèle au-delà de son refus.

Pourquoi ça marche

Wei, Haghtalab et Steinhardt ont étudié pourquoi l'entraînement à la sûreté échoue et ont proposé deux causes. Des objectifs concurrents : le modèle est entraîné à la fois à être utile et à refuser, et un prompt habile oppose ces objectifs l'un à l'autre. Une généralisation inadaptée : l'entraînement à la sûreté ne couvre pas tous les domaines où le modèle a des capacités, si bien qu'une demande formulée de façon inhabituelle passe entre les mailles.

Jailbreak ou injection de prompt

On confond souvent les deux. Un jailbreak vise les règles de sûreté propres au modèle et est généralement mené par l'utilisateur qui lui parle. L'injection de prompt vise les instructions de l'application, et elle est souvent placée par un tiers dans un contenu que lit le modèle. Une même attaque peut être les deux : une page web injectée peut contenir un jailbreak.

Ce que font les développeurs

Les fournisseurs de modèles corrigent les jailbreaks connus, mais de nouveaux apparaissent sans cesse : les applications ajoutent donc leurs propres garde-fous, comme des classificateurs d'entrée et de sortie. Les équipes cherchent les points faibles avant la mise en production par du red teaming, avec des outils comme PyRIT ou promptfoo. Un jailbreak est le symptôme d'un alignement imparfait : le comportement du modèle ne correspond pas entièrement à ce que voulaient ses créateurs.

Termes liés

Prompt injection
La prompt injection (injection de prompt) est une attaque dans laquelle un texte fourni à un modèle de langage, saisi par un utilisateur ou caché dans une page web, un fichier ou un résultat d'outil, modifie le comportement du modèle d'une façon que son développeur n'avait pas prévue.
Red teaming de l'IA
Le red teaming de l'IA (AI red teaming) consiste à attaquer délibérément un modèle ou une application d'IA avant et après sa publication, avec des testeurs humains ou des outils automatisés, pour trouver les sorties nuisibles, les jailbreaks, les injections et autres défaillances afin de les corriger.
Garde-fous (IA)
Les garde-fous (guardrails) sont des contrôles exécutés autour d'un modèle de langage qui inspectent les entrées et les sorties et les bloquent, les réécrivent ou les redirigent, afin qu'une application reste dans son sujet, évite les contenus nuisibles et respecte des règles que le modèle seul ne tiendrait pas de façon fiable.
Alignement de l'IA
L'alignement de l'IA (AI alignment) est le travail qui consiste à faire correspondre le comportement d'un système d'IA à ce que ses utilisateurs et développeurs veulent réellement, pour qu'il soit utile, honnête et évite de nuire, au lieu de simplement prédire un texte probable ou d'optimiser un score étroit.
Abliteration
L'abliteration (suppression de la direction de refus) est une technique qui empêche un modèle de langage de refuser des requêtes : elle trouve l'unique direction interne qui porte le refus et modifie les poids pour que le modèle ne puisse plus y écrire, sans réentraînement.

Sources