Abliteration
A abliteration (remoção da direção de recusa) é uma técnica que impede um modelo de linguagem de recusar pedidos: ela encontra a única direção interna que carrega a recusa e edita os pesos para que o modelo não consiga mais escrever nela, sem nenhum retreinamento.
Também chamado: refusal ablation, refusal direction removal, abliterated model
Por Divya Sharma · Verificado em 16 de nov. de 2026 · Como analisamos
Modelos de chat são treinados para seguir instruções e recusar as prejudiciais. Em 2024, Arditi e colegas mostraram que, em 13 modelos de chat abertos de até 72B parâmetros, essa recusa passa por uma única direção nas ativações internas do modelo. Se você apaga essa direção, o modelo para de recusar; se você a adiciona, ele recusa até pedidos inofensivos. A abliteration é a receita prática construída sobre essa descoberta.
Como funciona
Você roda o modelo com dois conjuntos de prompts, um prejudicial e outro inofensivo, e registra as ativações no último token. A diferença entre as duas médias dá uma direção de recusa candidata para cada camada, e você fica com a que funciona melhor. Depois você ortogonaliza as matrizes que escrevem no residual stream em relação a essa direção, de modo que os pesos do modelo não consigam mais produzi-la. O resultado é um checkpoint comum, que pode ser compartilhado como qualquer outro modelo de pesos abertos.
Abliteration vs fine-tuning
O fine-tuning muda o comportamento treinando com exemplos por meio de atualizações de gradiente. A abliteration precisa apenas dos dois conjuntos de prompts e de nenhum treinamento: é uma edição pontual de pesos existentes que remove um comportamento em vez de ensinar um novo. É um método de caixa branca, então só funciona em modelos cujos pesos você tem.
Custos para a qualidade
O artigo relata pouco efeito sobre outras capacidades, mas os resultados variam conforme o modelo. No guia de Labonne, aplicar abliteration ao modelo de 8B Daredevil-8B reduziu suas pontuações em benchmarks. Uma rodada leve de treinamento de preferências DPO depois recuperou a maior parte da queda, embora ele tenha alertado que mais fine-tuning supervisionado provavelmente quebraria o modelo.
Riscos
A abliteration remove recusas para todos os pedidos, não só para os que um usuário acha cautelosos demais. Arditi e colegas a descrevem como um jailbreak de caixa branca e dizem que ela mostra como o fine-tuning de segurança é frágil. Um modelo com abliteration não tem recusa embutida, então qualquer limite sobre o que ele produz precisa vir de fora do modelo, por meio de guardrails e testes como red teaming. Isso também significa que o treinamento de segurança de um modelo publicado pode ser desfeito por qualquer pessoa que tenha os pesos.
Termos relacionados
- Jailbreak (LLM)
- Um jailbreak é um prompt ou uma técnica que faz um modelo de linguagem produzir uma saída que seu treinamento de segurança deveria recusar, como instruções nocivas, por meio de role-play, ofuscação, codificações incomuns ou textos adversariais longos.
- Pesos do modelo
- Os pesos do modelo (model weights) são os números aprendidos dentro de uma rede neural, definidos durante o treinamento, que decidem como ela transforma a entrada em saída. Um checkpoint é um arquivo salvo, ou conjunto de arquivos, contendo esses pesos.
- Modelo open-weight
- Um modelo open-weight (modelo de pesos abertos) é um modelo cujos pesos treinados são publicados para qualquer pessoa baixar e rodar, muitas vezes sem o código de treinamento ou os dados completos, então ele não é necessariamente open source.
- Alinhamento de IA
- Alinhamento de IA (AI alignment) é o trabalho de fazer o comportamento de um sistema de IA corresponder ao que seus usuários e desenvolvedores realmente pretendem, para que ele seja útil, honesto e evite danos, em vez de apenas prever o texto provável ou otimizar uma métrica estreita.
- Red teaming de IA
- Red teaming de IA (AI red teaming) é a prática de atacar deliberadamente um modelo ou uma aplicação de IA antes e depois do lançamento, com testadores humanos ou ferramentas automáticas, para encontrar saídas nocivas, jailbreaks, injeções e outras falhas e corrigi-las.
- Guardrails (IA)
- Guardrails (barreiras de proteção) são verificações em tempo de execução colocadas ao redor de um modelo de linguagem que inspecionam entradas e saídas e as bloqueiam, reescrevem ou redirecionam, para que uma aplicação se mantenha no assunto, evite conteúdo nocivo e siga regras que o modelo sozinho não cumpriria de forma confiável.