Ataque a la cadena de suministro de IA
Un ataque a la cadena de suministro de IA compromete una aplicación de IA a través de algo de lo que depende, como un modelo descargado, un adaptador LoRA, un conjunto de datos, un paquete de Python, un servidor MCP o una skill de agente, en lugar de atacar la aplicación directamente.
También llamado: malicious package, poisoned skill, model supply-chain attack, poisoned model
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
Las aplicaciones de IA modernas se montan con piezas hechas por otros: pesos del modelo de un hub, adaptadores de fine-tuning, datos de entrenamiento, bibliotecas de inferencia, servidores MCP y skills de agente instaladas desde un registro. Cada una se ejecuta con el acceso de tu aplicación. Si un atacante controla cualquiera de ellas, controla parte de tu sistema.
OWASP sitúa la cadena de suministro como el tercer riesgo de su Top 10 para aplicaciones LLM, y señala que en el aprendizaje automático los riesgos van más allá del código y las dependencias e incluyen modelos preentrenados y datos de terceros.
Formas habituales
Un paquete de Python vulnerable o malicioso que entra en un entorno de desarrollo de modelos. Un modelo manipulado o falso subido con un nombre conocido. Un adaptador LoRA alterado para incluir una puerta trasera antes de fusionarse con un modelo. Un conjunto de datos público envenenado que planta un disparador oculto durante el fine-tuning. En el caso de los agentes, una skill o un servidor MCP que hace lo que promete pero también lleva instrucciones ocultas; el envenenamiento de herramientas es la versión MCP.
El formato de archivo de los pesos descargados también importa; consulta safetensors para ver un formato diseñado para guardar pesos de forma segura.
Defensas
OWASP recomienda examinar a los proveedores, usar solo modelos de fuentes verificables con firma y hashes de archivo, mantener una lista de materiales de software, analizar y parchear los componentes, y hacer red teaming de los modelos de terceros para tu propio caso de uso. En la práctica: fija las versiones, revisa a qué puede acceder una skill o un servidor antes de instalarlo y ejecuta el código no fiable en un sandbox. Escáneres como Snyk Agent Scan revisan los componentes de los agentes en busca de riesgos conocidos.
Términos relacionados
- Tool poisoning
- El tool poisoning (envenenamiento de herramientas) es un ataque en el que una herramienta maliciosa, a menudo un servidor MCP, esconde instrucciones en la descripción o los metadatos de sus herramientas; el modelo de IA las lee como indicaciones y puede filtrar datos o usar mal otras herramientas sin que el usuario se dé cuenta.
- Skills de agente
- Las skills de agente (habilidades) son carpetas de instrucciones, scripts y archivos de referencia, cada una descrita por un archivo SKILL.md, que un agente de IA puede descubrir y cargar solo cuando una tarea las necesita.
- Servidor MCP
- Un servidor MCP (MCP server) es un programa que ofrece herramientas, recursos de datos o plantillas de prompts a aplicaciones de IA mediante el Model Context Protocol, de modo que cualquier cliente compatible con MCP puede usarlos sin código de integración a medida.
- Safetensors
- Safetensors es un formato de archivo de Hugging Face para guardar pesos de modelos. A diferencia de los archivos pickle de Python, cargarlo no puede ejecutar código oculto, y permite una carga rápida de tensores individuales mediante mapeo en memoria.
- Pesos del modelo
- Los pesos del modelo (model weights) son los números aprendidos dentro de una red neuronal, fijados durante el entrenamiento, que deciden cómo convierte la entrada en salida. Un checkpoint es un archivo o conjunto de archivos guardado que contiene esos pesos.