Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Prompt injection

La prompt injection (inyección de prompts) es un ataque en el que un texto que recibe un modelo de lenguaje, escrito por un usuario u oculto en una página web, un archivo o el resultado de una herramienta, cambia el comportamiento del modelo de formas que su desarrollador no pretendía.

También llamado: indirect prompt injection, direct prompt injection

Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas

Los LLM leen instrucciones y datos por el mismo canal: texto. Un modelo no puede distinguir de forma fiable el system prompt de un desarrollador de una frase que un atacante colocó en un correo que se le pidió resumir. OWASP sitúa la prompt injection en primer lugar en su Top 10 para aplicaciones con LLM.

Directa e indirecta

En una inyección directa, el usuario escribe el ataque, por ejemplo pidiendo al bot que ignore sus instrucciones anteriores. En una inyección indirecta, el ataque llega dentro del contenido que procesa el modelo: una página web, un PDF, un comentario en el código, una invitación de calendario o la descripción de una herramienta MCP. Puede que el usuario nunca lo vea. Greshake et al. demostraron que las aplicaciones con LLM integrados difuminan la línea entre datos e instrucciones, lo que permite a un atacante llegar al modelo sin acceso directo.

Por qué importa en los agentes

Un chatbot que solo escribe texto puede hacer el ridículo. Un agente que puede leer archivos, llamar a API y enviar mensajes puede ser dirigido para actuar. Los peores casos encadenan la inyección con la exfiltración de datos: el texto colocado indica al agente que reúna datos privados y los envíe a algún sitio. El tool poisoning es una forma de inyección indirecta que llega a través de los metadatos de las herramientas.

En qué se diferencia de un jailbreak

Un jailbreak intenta que el modelo se salte su propio entrenamiento de seguridad. La prompt injection intenta anular las instrucciones de la aplicación. Las técnicas se solapan, y el mismo texto puede hacer ambas cosas.

Defensas

Hoy no existe una solución completa. Las capas habituales son guardrails de entrada y salida, mantener el contenido no fiable claramente separado, permisos de agente estrechos, un sandbox de agente y aprobación humana antes de acciones sensibles. Consulta la entrada de OWASP para ver la lista completa de mitigaciones.

Términos relacionados

Jailbreak (LLM)
Un jailbreak es un prompt o una técnica que consigue que un modelo de lenguaje produzca una salida que su entrenamiento de seguridad debería rechazar, como instrucciones dañinas, mediante juegos de rol, ofuscación, codificaciones extrañas o textos adversarios largos.
Exfiltración de datos (agentes de IA)
La exfiltración de datos, en el caso de los agentes de IA, ocurre cuando un atacante engaña a un agente para que lea datos privados a los que tiene acceso y los envíe fuera, mediante una petición web, un correo, un enlace de imagen u otro canal que controla el atacante.
Sandbox de agente
Un sandbox de agente (entorno aislado) es un entorno separado, como un contenedor, una máquina virtual o una restricción del sistema operativo, en el que un agente de IA ejecuta código y comandos sin poder llegar a archivos, redes o datos fuera de unos límites fijados.
Tool poisoning
El tool poisoning (envenenamiento de herramientas) es un ataque en el que una herramienta maliciosa, a menudo un servidor MCP, esconde instrucciones en la descripción o los metadatos de sus herramientas; el modelo de IA las lee como indicaciones y puede filtrar datos o usar mal otras herramientas sin que el usuario se dé cuenta.
Guardrails (IA)
Los guardrails (barreras de protección) son comprobaciones en tiempo de ejecución colocadas alrededor de un modelo de lenguaje que inspeccionan entradas y salidas y las bloquean, reescriben o redirigen, para que una aplicación no se salga del tema, evite contenido dañino y cumpla reglas que el modelo por sí solo no mantendría de forma fiable.

Fuentes