Jailbreak (LLM)
Um jailbreak é um prompt ou uma técnica que faz um modelo de linguagem produzir uma saída que seu treinamento de segurança deveria recusar, como instruções nocivas, por meio de role-play, ofuscação, codificações incomuns ou textos adversariais longos.
Também chamado: jailbreaking, LLM jailbreak
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
A palavra vem da remoção de restrições em celulares e consoles de videogame. Com LLMs, nada é instalado nem modificado; o atacante só escreve texto. Padrões comuns incluem pedir que o modelo interprete um personagem sem regras, dividir um pedido proibido em partes de aparência inofensiva, escrevê-lo em outro idioma ou codificação, ou acrescentar strings geradas por máquina que empurram o modelo para além da recusa.
Por que funciona
Wei, Haghtalab e Steinhardt estudaram por que o treinamento de segurança falha e propuseram duas causas. Objetivos concorrentes: o modelo é treinado tanto para ser útil quanto para recusar, e um prompt esperto coloca esses objetivos um contra o outro. Generalização desencontrada: o treinamento de segurança não cobre todos os domínios em que o modelo tem capacidades, então um pedido formulado de forma incomum escapa.
Jailbreak vs injeção de prompt
As pessoas muitas vezes confundem os dois. Um jailbreak mira as regras de segurança do próprio modelo e geralmente é feito pelo usuário que conversa com ele. A injeção de prompt mira as instruções da aplicação e muitas vezes é plantada por um terceiro em conteúdo que o modelo lê. Um mesmo ataque pode ser as duas coisas: uma página web com injeção pode conter um jailbreak.
O que quem constrói faz a respeito
Os provedores de modelos corrigem jailbreaks conhecidos, mas novos continuam aparecendo, então as aplicações acrescentam seus próprios guardrails, como classificadores de entrada e saída. As equipes procuram pontos fracos antes do lançamento por meio de red teaming, usando ferramentas como PyRIT ou promptfoo. Um jailbreak é sintoma de um alinhamento imperfeito: o comportamento do modelo não corresponde totalmente ao que seus criadores pretendiam.
Termos relacionados
- Prompt injection
- Prompt injection (injeção de prompt) é um ataque em que um texto enviado a um modelo de linguagem, digitado por um usuário ou escondido em uma página web, arquivo ou resultado de ferramenta, muda o comportamento do modelo de formas que o desenvolvedor não pretendia.
- Red teaming de IA
- Red teaming de IA (AI red teaming) é a prática de atacar deliberadamente um modelo ou uma aplicação de IA antes e depois do lançamento, com testadores humanos ou ferramentas automáticas, para encontrar saídas nocivas, jailbreaks, injeções e outras falhas e corrigi-las.
- Guardrails (IA)
- Guardrails (barreiras de proteção) são verificações em tempo de execução colocadas ao redor de um modelo de linguagem que inspecionam entradas e saídas e as bloqueiam, reescrevem ou redirecionam, para que uma aplicação se mantenha no assunto, evite conteúdo nocivo e siga regras que o modelo sozinho não cumpriria de forma confiável.
- Alinhamento de IA
- Alinhamento de IA (AI alignment) é o trabalho de fazer o comportamento de um sistema de IA corresponder ao que seus usuários e desenvolvedores realmente pretendem, para que ele seja útil, honesto e evite danos, em vez de apenas prever o texto provável ou otimizar uma métrica estreita.
- Abliteration
- A abliteration (remoção da direção de recusa) é uma técnica que impede um modelo de linguagem de recusar pedidos: ela encontra a única direção interna que carrega a recusa e edita os pesos para que o modelo não consiga mais escrever nela, sem nenhum retreinamento.