¿Qué es safeagents?
safeagents es un pequeño proxy que se sitúa entre un agente de programación y la API de su modelo. Cada llamada a herramientas que devuelve el modelo se revisa antes de que la vea Claude Code, OpenCode, Pi, Hermes o cualquier harness con una URL base configurable; las llamadas que bloquea se sustituyen por un aviso de texto, así que no se ejecuta nada. Funciona con OpenAI Chat Completions y Anthropic Messages, con o sin streaming.
Las comprobaciones van en tres fases: reglas sobre la propia petición, como herramientas no declaradas o hosts que no aparecen en la conversación; detectores de atif-scan de Hugging Face para patrones como leer /proc/1/environ o tokens de cuentas de servicio de Kubernetes; y un modelo juez opcional para las llamadas sospechosas. Tiene licencia Apache-2.0 y se instala como herramienta de uv.
¿Merece la pena safeagents?
La mayoría de herramientas de seguridad para agentes viven dentro de un harness concreto. safeagents trabaja en el límite de la API: apuntas la URL base del agente a un proxy local, y cada llamada a herramientas que devuelve el modelo se revisa antes de que el harness la ejecute. Eso lo hace independiente del agente: cubre Claude Code, OpenCode, Pi, Hermes y 13 agentes con guías de configuración, tanto con la API de OpenAI como con la de Anthropic.
Las comprobaciones están bien ordenadas. Primero, reglas baratas: bloquear herramientas que la petición nunca declaró y llamadas cuyos argumentos contienen un host que no aparece en la conversación, sin contar los turnos anteriores del propio modelo. Después, detectores de atif-scan para patrones conocidos de fuga y exfiltración, como leer /proc/1/environ, curl --noproxy, tokens de cuentas de servicio de Kubernetes o unshare. Solo las llamadas sospechosas llegan a un modelo juez opcional, que ve lo que escribió el usuario y los hallazgos pero nunca el razonamiento del agente, para que este no pueda defender su caso. El juez puede añadir bloqueos pero nunca levantarlos.
La sobrecarga es pequeña: el streaming no añade latencia porque una llamada a herramientas solo se retiene hasta que sus argumentos están completos, y atif-scan cuesta unos 10 a 20 ms por llamada en un Mac con chip M. Los límites son inherentes. Detecta lo que reconocen sus reglas y detectores, así que un ataque nuevo en shell normal puede pasar, y no hace nada sobre lo que hace luego un comando permitido. Es una capa útil delante de un entorno aislado, no un sustituto. Un modo --log-only te deja ver qué bloquearía antes de aplicarlo.
Dónde se gana su sitio
Un desarrollador que usa Claude Code con amplios permisos de shell
Detectar comandos de exfiltración o de fuga del contenedor antes de que se ejecuten
Arranca safeagents delante de api.anthropic.com en modo de solo registro durante una semana, revisa el registro y luego aplícalo; apunta ANTHROPIC_BASE_URL al proxy local.
Un equipo de plataforma que evalúa agentes en tareas de prueba
Impedir que los agentes busquen las respuestas publicadas
Escribe un plugin con RegexDetector de atif-scan para bloquear la lectura de archivos de respuestas, como muestra el ejemplo del README.
Antes de decidirte
- Puesta en marcha
- Ejecuta el script de instalación (macOS, Linux, WSL o PowerShell), luego safeagents start <URL de la API> --log-only y apunta la URL base de tu agente a http://127.0.0.1:8787.
- Integraciones
- APIs de OpenAI Chat Completions y Anthropic Messages; Claude Code, OpenCode, Pi, Hermes y 13 agentes con guías; detectores de atif-scan; plugins del Hugging Face Hub.
- Datos y privacidad
- Se ejecuta en local y registra en ~/.safeagents/run; las peticiones pasan a la API de modelo que elijas.
- Coste a escala
- Gratis; un modelo juez opcional lo cobra quien lo sirva.
- Límites
- El umbral de bloqueo por defecto es gravedad alta; solo comprueba lo que conocen sus reglas y detectores.
Lo bueno
- Funciona con cualquier agente que acepte una URL base personalizada
- Comprobaciones por capas, con un juez que solo puede añadir bloqueos
- Sin latencia en streaming; unos 10 a 20 ms por llamada
- Modo de solo registro antes de aplicar
- Plugins para comprobaciones propias
Lo malo
- Basado en patrones; los ataques nuevos pueden pasar
- No aísla los comandos que permite
- El modelo juez añade coste y configuración
Ideal para
Desarrolladores y equipos que ejecutan agentes de programación con permisos reales y quieren una comprobación barata e independiente del agente sobre las llamadas a herramientas antes de que se ejecuten.
safeagents: preguntas frecuentes
- ¿Merece la pena safeagents?
- safeagents añade una protección que funciona con cualquier agente de programación situándose en la línea de la API, y sus decisiones de diseño son acertadas, aunque es un filtro de patrones conocidos, no un entorno aislado. Le damos un 4.1 sobre 5.
- ¿Cuánto cuesta safeagents?
- Gratis y de código abierto (Apache 2.0); un modelo juez opcional tiene su propio coste.
- ¿Qué inconvenientes tiene safeagents?
- Basado en patrones; los ataques nuevos pueden pasar; no aísla los comandos que permite; el modelo juez añade coste y configuración.
- ¿Para quién es safeagents?
- Desarrolladores y equipos que ejecutan agentes de programación con permisos reales y quieren una comprobación barata e independiente del agente sobre las llamadas a herramientas antes de que se ejecuten.
- ¿Cuánto cuesta safeagents para un equipo o en producción?
- Gratis; un modelo juez opcional lo cobra quien lo sirva.
- ¿Es safeagents seguro para los datos de la empresa?
- Se ejecuta en local y registra en ~/.safeagents/run; las peticiones pasan a la API de modelo que elijas.
Respuestas comprobadas el 15 nov 2026.