Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Jailbreak (LLM)

Un jailbreak es un prompt o una técnica que consigue que un modelo de lenguaje produzca una salida que su entrenamiento de seguridad debería rechazar, como instrucciones dañinas, mediante juegos de rol, ofuscación, codificaciones extrañas o textos adversarios largos.

También llamado: jailbreaking, LLM jailbreak

Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas

La palabra viene de quitar restricciones a teléfonos y videoconsolas. Con los LLM no se instala ni se modifica nada; el atacante solo escribe texto. Entre los patrones habituales están pedir al modelo que interprete a un personaje sin reglas, dividir una petición prohibida en partes de apariencia inofensiva, escribirla en otro idioma o codificación, o añadir cadenas generadas por máquina que empujan al modelo más allá de su negativa.

Por qué funciona

Wei, Haghtalab y Steinhardt estudiaron por qué falla el entrenamiento de seguridad y propusieron dos causas. Objetivos en competencia: el modelo se entrena tanto para ser útil como para negarse, y un prompt ingenioso enfrenta esos objetivos entre sí. Generalización desajustada: el entrenamiento de seguridad no cubre todos los ámbitos en los que el modelo tiene capacidades, así que una petición formulada de manera inusual se cuela.

Jailbreak frente a inyección de prompt

La gente suele confundir los dos. Un jailbreak ataca las propias reglas de seguridad del modelo y normalmente lo lleva a cabo el usuario que habla con él. La inyección de prompt ataca las instrucciones de la aplicación, y a menudo la planta un tercero en el contenido que lee el modelo. Un mismo ataque puede ser ambas cosas: una página web inyectada puede contener un jailbreak.

Qué hacen quienes construyen

Los proveedores de modelos corrigen los jailbreaks conocidos, pero siguen apareciendo otros nuevos, así que las aplicaciones añaden sus propios guardrails, como clasificadores de entrada y de salida. Los equipos buscan puntos débiles antes del lanzamiento mediante red teaming, con herramientas como PyRIT o promptfoo. Un jailbreak es un síntoma de un alineamiento imperfecto: el comportamiento del modelo no coincide del todo con lo que pretendían sus creadores.

Términos relacionados

Prompt injection
La prompt injection (inyección de prompts) es un ataque en el que un texto que recibe un modelo de lenguaje, escrito por un usuario u oculto en una página web, un archivo o el resultado de una herramienta, cambia el comportamiento del modelo de formas que su desarrollador no pretendía.
Red teaming de IA
El red teaming de IA (AI red teaming) es la práctica de atacar a propósito un modelo o una aplicación de IA antes y después de su lanzamiento, con probadores humanos o herramientas automáticas, para encontrar salidas dañinas, jailbreaks, inyecciones y otros fallos y poder corregirlos.
Guardrails (IA)
Los guardrails (barreras de protección) son comprobaciones en tiempo de ejecución colocadas alrededor de un modelo de lenguaje que inspeccionan entradas y salidas y las bloquean, reescriben o redirigen, para que una aplicación no se salga del tema, evite contenido dañino y cumpla reglas que el modelo por sí solo no mantendría de forma fiable.
Alineamiento de la IA
El alineamiento de la IA (AI alignment) es el trabajo de conseguir que el comportamiento de un sistema de IA coincida con lo que de verdad pretenden sus usuarios y desarrolladores, de modo que sea útil, honesto y evite daños, en lugar de limitarse a predecir texto probable u optimizar una puntuación estrecha.
Abliteration
La abliteration (eliminación de la dirección de rechazo) es una técnica que impide que un modelo de lenguaje rechace peticiones: encuentra la única dirección interna que transporta el rechazo y edita los pesos para que el modelo ya no pueda escribir en ella, sin reentrenarlo.

Fuentes