Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

safeagents

O proxy local do Hugging Face que inspeciona cada chamada de ferramenta de um agente de programação e bloqueia as perigosas antes de o harness executá-las.

Análise de ReviewRamble editors · Atualizado

Ver no GitHub Código aberto

Compartilhe esta página:XLinkedInFacebookRedditWhatsAppE-mail

Nossa nota

4.1/5

O safeagents acrescenta uma proteção que funciona com qualquer agente de programação ao ficar na linha da API, e as escolhas de projeto são acertadas, embora seja um filtro de padrões conhecidos, não uma sandbox.

O que é safeagents?

O safeagents é um pequeno proxy entre um agente de programação e a API do modelo dele. Cada chamada de ferramenta que o modelo devolve é conferida antes que o Claude Code, o OpenCode, o Pi, o Hermes ou qualquer harness com URL base configurável a veja; as chamadas bloqueadas são trocadas por um aviso em texto, então nada é executado. Funciona com OpenAI Chat Completions e Anthropic Messages, com ou sem streaming.

As verificações acontecem em três etapas: regras sobre a própria requisição, como ferramentas não declaradas ou hosts que não aparecem na conversa; detectores do atif-scan do Hugging Face para padrões como ler /proc/1/environ ou tokens de conta de serviço do Kubernetes; e um modelo juiz opcional para chamadas suspeitas. Tem licença Apache-2.0 e é instalado como ferramenta do uv.

safeagents vale a pena?

A maioria das ferramentas de segurança para agentes vive dentro de um harness específico. O safeagents trabalha na fronteira da API: você aponta a URL base do agente para um proxy local, e cada chamada de ferramenta que o modelo devolve é inspecionada antes de o harness executá-la. Isso o torna neutro em relação ao agente, cobrindo Claude Code, OpenCode, Pi, Hermes e 13 agentes com guias de configuração, nas APIs da OpenAI e da Anthropic.

As verificações estão bem ordenadas. Primeiro, regras baratas: bloquear ferramentas que a requisição nunca declarou e chamadas cujos argumentos contêm um host que não aparece na conversa, sem contar os turnos anteriores do próprio modelo. Depois, detectores do atif-scan para padrões conhecidos de fuga e exfiltração, como ler /proc/1/environ, curl --noproxy, tokens de conta de serviço do Kubernetes ou unshare. Só as chamadas suspeitas chegam a um modelo juiz opcional, que vê o que o usuário escreveu e as constatações, mas nunca o raciocínio do agente, para que ele não consiga defender a própria causa. O juiz pode acrescentar bloqueios, mas nunca retirá-los.

A sobrecarga é pequena: o streaming não acrescenta latência porque uma chamada de ferramenta só fica retida até os argumentos estarem completos, e o atif-scan custa cerca de 10 a 20 ms por chamada num Mac com chip M. Os limites são inerentes. Ele pega o que as regras e os detectores reconhecem, então um ataque novo em shell comum pode passar, e ele não faz nada sobre o que um comando permitido faz depois. É uma camada útil na frente de uma sandbox, não um substituto. Um modo --log-only mostra o que ele bloquearia antes de você ativá-lo.

Onde ele se destaca

  • Um desenvolvedor que usa o Claude Code com amplas permissões de shell

    Pegar comandos de exfiltração ou de fuga do contêiner antes que rodem

    Inicie o safeagents na frente de api.anthropic.com no modo só de registro por uma semana, revise o registro e depois ative; aponte ANTHROPIC_BASE_URL para o proxy local.

  • Uma equipe de plataforma avaliando agentes em tarefas de benchmark

    Impedir que os agentes busquem as respostas publicadas

    Escreva um plugin com o RegexDetector do atif-scan para bloquear a leitura de arquivos de respostas, como mostra o exemplo do README.

Antes de decidir

Configuração
Rode o script de instalação (macOS, Linux, WSL ou PowerShell), depois safeagents start <URL da API> --log-only, e aponte a URL base do seu agente para http://127.0.0.1:8787.
Integrações
APIs OpenAI Chat Completions e Anthropic Messages; Claude Code, OpenCode, Pi, Hermes e 13 agentes com guias; detectores do atif-scan; plugins do Hugging Face Hub.
Dados e privacidade
Roda localmente e registra em ~/.safeagents/run; as requisições seguem para a API de modelo escolhida.
Custo em escala
Grátis; um modelo juiz opcional é cobrado por quem o servir.
Limites
O limite de bloqueio padrão é gravidade alta; só verifica o que as regras e os detectores conhecem.

O que é bom

  • Funciona com qualquer agente que aceite uma URL base personalizada
  • Verificações em camadas, com um juiz que só pode acrescentar bloqueios
  • Sem latência no streaming; cerca de 10 a 20 ms por chamada
  • Modo só de registro antes de ativar
  • Plugins para verificações próprias

O que não é

  • Baseado em padrões; ataques novos podem passar
  • Não isola os comandos que permite
  • O modelo juiz traz custo e configuração

Ideal para

Desenvolvedores e equipes que rodam agentes de programação com permissões reais e querem uma checagem barata e neutra quanto ao agente nas chamadas de ferramenta antes da execução.

safeagents: perguntas frequentes

safeagents vale a pena?
O safeagents acrescenta uma proteção que funciona com qualquer agente de programação ao ficar na linha da API, e as escolhas de projeto são acertadas, embora seja um filtro de padrões conhecidos, não uma sandbox. Damos nota 4.1 de 5.
Quanto custa safeagents?
Grátis e de código aberto (Apache 2.0); um modelo juiz opcional tem custo próprio.
Quais são as desvantagens de safeagents?
Baseado em padrões; ataques novos podem passar; não isola os comandos que permite; o modelo juiz traz custo e configuração.
Para quem safeagents é indicado?
Desenvolvedores e equipes que rodam agentes de programação com permissões reais e querem uma checagem barata e neutra quanto ao agente nas chamadas de ferramenta antes da execução.
Quanto custa safeagents para uma equipe ou em produção?
Grátis; um modelo juiz opcional é cobrado por quem o servir.
safeagents é seguro para dados da empresa?
Roda localmente e registra em ~/.safeagents/run; as requisições seguem para a API de modelo escolhida.

Respostas verificadas em 15 de nov. de 2026.

Você faz o safeagents? Mostre esta nota no seu sitesafeagents com nota 4.1 de 5 no ReviewRamble