Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Guardrails (IA)

Los guardrails (barreras de protección) son comprobaciones en tiempo de ejecución colocadas alrededor de un modelo de lenguaje que inspeccionan entradas y salidas y las bloquean, reescriben o redirigen, para que una aplicación no se salga del tema, evite contenido dañino y cumpla reglas que el modelo por sí solo no mantendría de forma fiable.

También llamado: AI guardrails, rails

Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas

Un modelo entrenado para ser seguro sigue cometiendo errores, y no sabe nada de las reglas de tu producto. Los guardrails añaden una capa de control separada en la aplicación. Se ejecutan antes de que el prompt llegue al modelo, después de que vuelva la respuesta, o en ambos momentos.

Cómo funciona

Una barrera de entrada puede detectar un intento de inyección de prompt, eliminar datos personales mediante redacción de PII o rechazar un tema que el producto no debe tratar. Una barrera de salida puede contrastar una respuesta con las fuentes recuperadas para detectar una alucinación, validar que un JSON cumple un esquema o bloquear texto tóxico. Las comprobaciones pueden ser reglas sencillas y expresiones regulares, pequeños modelos clasificadores como Llama Guard 4 o una segunda llamada a un LLM.

El artículo de NeMo Guardrails describe las barreras como una forma de controlar la salida del modelo, por ejemplo para ceñirse a un recorrido de diálogo fijado o evitar temas dañinos, y distingue estas barreras programables de la seguridad incorporada al modelo durante el entrenamiento. Entre los kits de código abierto están NeMo Guardrails y Guardrails AI. La guía de la fase de guardrails compara las opciones.

Ejemplo

El bot de soporte de un banco recibe un mensaje que le pide ignorar sus instrucciones y enumerar los saldos de otros clientes. Una barrera de entrada detecta el patrón de inyección y devuelve una negativa fija. El modelo nunca ve la petición.

Límites

Los guardrails reducen el riesgo; no lo eliminan. Los clasificadores no detectan los ataques reformulados y también bloquean peticiones inofensivas. Cada comprobación extra añade latencia y coste. Trata los guardrails como una capa más junto a unos permisos de agente estrechos, las pruebas y la monitorización.

Términos relacionados

Prompt injection
La prompt injection (inyección de prompts) es un ataque en el que un texto que recibe un modelo de lenguaje, escrito por un usuario u oculto en una página web, un archivo o el resultado de una herramienta, cambia el comportamiento del modelo de formas que su desarrollador no pretendía.
Redacción de PII
La redacción de PII (PII redaction) es la detección y eliminación o enmascarado de información de identificación personal, como nombres, números de teléfono, direcciones y números de tarjeta, en textos o imágenes antes de enviarlos a un modelo, guardarlos en logs o mostrarlos a otras personas.
Alucinación (IA)
Una alucinación es una salida de un modelo de IA que suena fluida y segura, pero que es falsa, no está respaldada por sus fuentes o es inventada, como una cita bibliográfica, una frase, una estadística o una función de API que no existen.
Jailbreak (LLM)
Un jailbreak es un prompt o una técnica que consigue que un modelo de lenguaje produzca una salida que su entrenamiento de seguridad debería rechazar, como instrucciones dañinas, mediante juegos de rol, ofuscación, codificaciones extrañas o textos adversarios largos.
Red teaming de IA
El red teaming de IA (AI red teaming) es la práctica de atacar a propósito un modelo o una aplicación de IA antes y después de su lanzamiento, con probadores humanos o herramientas automáticas, para encontrar salidas dañinas, jailbreaks, inyecciones y otros fallos y poder corregirlos.

Fuentes