Guardrails (IA)
Los guardrails (barreras de protección) son comprobaciones en tiempo de ejecución colocadas alrededor de un modelo de lenguaje que inspeccionan entradas y salidas y las bloquean, reescriben o redirigen, para que una aplicación no se salga del tema, evite contenido dañino y cumpla reglas que el modelo por sí solo no mantendría de forma fiable.
También llamado: AI guardrails, rails
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
Un modelo entrenado para ser seguro sigue cometiendo errores, y no sabe nada de las reglas de tu producto. Los guardrails añaden una capa de control separada en la aplicación. Se ejecutan antes de que el prompt llegue al modelo, después de que vuelva la respuesta, o en ambos momentos.
Cómo funciona
Una barrera de entrada puede detectar un intento de inyección de prompt, eliminar datos personales mediante redacción de PII o rechazar un tema que el producto no debe tratar. Una barrera de salida puede contrastar una respuesta con las fuentes recuperadas para detectar una alucinación, validar que un JSON cumple un esquema o bloquear texto tóxico. Las comprobaciones pueden ser reglas sencillas y expresiones regulares, pequeños modelos clasificadores como Llama Guard 4 o una segunda llamada a un LLM.
El artículo de NeMo Guardrails describe las barreras como una forma de controlar la salida del modelo, por ejemplo para ceñirse a un recorrido de diálogo fijado o evitar temas dañinos, y distingue estas barreras programables de la seguridad incorporada al modelo durante el entrenamiento. Entre los kits de código abierto están NeMo Guardrails y Guardrails AI. La guía de la fase de guardrails compara las opciones.
Ejemplo
El bot de soporte de un banco recibe un mensaje que le pide ignorar sus instrucciones y enumerar los saldos de otros clientes. Una barrera de entrada detecta el patrón de inyección y devuelve una negativa fija. El modelo nunca ve la petición.
Límites
Los guardrails reducen el riesgo; no lo eliminan. Los clasificadores no detectan los ataques reformulados y también bloquean peticiones inofensivas. Cada comprobación extra añade latencia y coste. Trata los guardrails como una capa más junto a unos permisos de agente estrechos, las pruebas y la monitorización.
Términos relacionados
- Prompt injection
- La prompt injection (inyección de prompts) es un ataque en el que un texto que recibe un modelo de lenguaje, escrito por un usuario u oculto en una página web, un archivo o el resultado de una herramienta, cambia el comportamiento del modelo de formas que su desarrollador no pretendía.
- Redacción de PII
- La redacción de PII (PII redaction) es la detección y eliminación o enmascarado de información de identificación personal, como nombres, números de teléfono, direcciones y números de tarjeta, en textos o imágenes antes de enviarlos a un modelo, guardarlos en logs o mostrarlos a otras personas.
- Alucinación (IA)
- Una alucinación es una salida de un modelo de IA que suena fluida y segura, pero que es falsa, no está respaldada por sus fuentes o es inventada, como una cita bibliográfica, una frase, una estadística o una función de API que no existen.
- Jailbreak (LLM)
- Un jailbreak es un prompt o una técnica que consigue que un modelo de lenguaje produzca una salida que su entrenamiento de seguridad debería rechazar, como instrucciones dañinas, mediante juegos de rol, ofuscación, codificaciones extrañas o textos adversarios largos.
- Red teaming de IA
- El red teaming de IA (AI red teaming) es la práctica de atacar a propósito un modelo o una aplicación de IA antes y después de su lanzamiento, con probadores humanos o herramientas automáticas, para encontrar salidas dañinas, jailbreaks, inyecciones y otros fallos y poder corregirlos.