Abliteration
La abliteration (eliminación de la dirección de rechazo) es una técnica que impide que un modelo de lenguaje rechace peticiones: encuentra la única dirección interna que transporta el rechazo y edita los pesos para que el modelo ya no pueda escribir en ella, sin reentrenarlo.
También llamado: refusal ablation, refusal direction removal, abliterated model
Por Divya Sharma · Comprobado el 16 nov 2026 · Cómo hacemos las reseñas
Los modelos de chat se entrenan para seguir instrucciones y para rechazar las dañinas. En 2024, Arditi y sus colegas mostraron que, en 13 modelos de chat abiertos de hasta 72B parámetros, este rechazo pasa por una sola dirección en las activaciones internas del modelo. Si borras esa dirección, el modelo deja de rechazar; si la añades, rechaza incluso peticiones inofensivas. La abliteration es la receta práctica construida sobre ese hallazgo.
Cómo funciona
Ejecutas el modelo con dos conjuntos de prompts, uno dañino y otro inofensivo, y registras las activaciones en el último token. La diferencia entre las dos medias da una dirección de rechazo candidata para cada capa, y te quedas con la que mejor funciona. Después ortogonalizas las matrices que escriben en el residual stream respecto a esa dirección, de modo que los pesos del modelo ya no pueden producirla. El resultado es un checkpoint normal que se puede compartir como cualquier otro modelo de pesos abiertos.
Abliteration frente a fine-tuning
El fine-tuning cambia el comportamiento entrenando con ejemplos mediante actualizaciones de gradiente. La abliteration solo necesita los dos conjuntos de prompts y nada de entrenamiento: es una edición puntual de pesos existentes que elimina un comportamiento en lugar de enseñar uno nuevo. Es un método de caja blanca, así que solo funciona con modelos cuyos pesos tienes.
Costes en calidad
El artículo informa de poco efecto sobre otras capacidades, pero los resultados varían según el modelo. En la guía de Labonne, aplicar abliteration al modelo de 8B Daredevil-8B bajó sus puntuaciones en benchmarks. Una ronda ligera de entrenamiento de preferencias DPO posterior recuperó la mayor parte de la caída, aunque él advirtió que más fine-tuning supervisado probablemente rompería el modelo.
Riesgos
La abliteration elimina los rechazos para todas las peticiones, no solo para las que un usuario considera demasiado prudentes. Arditi y sus colegas la describen como un jailbreak de caja blanca y dicen que muestra lo frágil que es el fine-tuning de seguridad. Un modelo con abliteration no tiene rechazo incorporado, así que cualquier límite sobre lo que produce debe venir de fuera del modelo, mediante guardrails y pruebas como el red teaming. También significa que el entrenamiento de seguridad de un modelo publicado puede deshacerlo cualquiera que tenga los pesos.
Términos relacionados
- Jailbreak (LLM)
- Un jailbreak es un prompt o una técnica que consigue que un modelo de lenguaje produzca una salida que su entrenamiento de seguridad debería rechazar, como instrucciones dañinas, mediante juegos de rol, ofuscación, codificaciones extrañas o textos adversarios largos.
- Pesos del modelo
- Los pesos del modelo (model weights) son los números aprendidos dentro de una red neuronal, fijados durante el entrenamiento, que deciden cómo convierte la entrada en salida. Un checkpoint es un archivo o conjunto de archivos guardado que contiene esos pesos.
- Modelo de pesos abiertos
- Un modelo de pesos abiertos (open-weight model) es un modelo cuyos pesos entrenados se publican para que cualquiera los descargue y ejecute, a menudo sin el código de entrenamiento ni los datos de entrenamiento completos, por lo que no es necesariamente de código abierto.
- Alineamiento de la IA
- El alineamiento de la IA (AI alignment) es el trabajo de conseguir que el comportamiento de un sistema de IA coincida con lo que de verdad pretenden sus usuarios y desarrolladores, de modo que sea útil, honesto y evite daños, en lugar de limitarse a predecir texto probable u optimizar una puntuación estrecha.
- Red teaming de IA
- El red teaming de IA (AI red teaming) es la práctica de atacar a propósito un modelo o una aplicación de IA antes y después de su lanzamiento, con probadores humanos o herramientas automáticas, para encontrar salidas dañinas, jailbreaks, inyecciones y otros fallos y poder corregirlos.
- Guardrails (IA)
- Los guardrails (barreras de protección) son comprobaciones en tiempo de ejecución colocadas alrededor de un modelo de lenguaje que inspeccionan entradas y salidas y las bloquean, reescriben o redirigen, para que una aplicación no se salga del tema, evite contenido dañino y cumpla reglas que el modelo por sí solo no mantendría de forma fiable.