Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Exfiltração de dados (agentes de IA)

Exfiltração de dados, no caso de agentes de IA, é quando um atacante engana um agente para que ele leia dados privados a que tem acesso e os envie para fora, por uma requisição web, um e-mail, um link de imagem ou outro canal que o atacante controla.

Também chamado: exfiltration, lethal trifecta

Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos

Exfiltração é um termo antigo de segurança para a retirada de dados de um sistema sem permissão. Os agentes a tornam mais fácil, porque conseguem ler dados privados e também falar com o mundo externo, e seguem instruções encontradas no texto que processam.

A tríade letal

Simon Willison descreve o risco como três características em um só agente: acesso a dados privados, exposição a conteúdo não confiável e uma forma de se comunicar com o exterior. Se as três estiverem presentes, uma injeção de prompt escondida em uma página web, um documento ou uma issue pode mandar o agente reunir segredos e enviá-los ao atacante. Remova qualquer uma das três e esse caminho de ataque se fecha.

Como os dados saem

O canal muitas vezes é algo que parece inofensivo: uma URL com os dados embutidos na query string, uma imagem em Markdown que o cliente de chat carrega automaticamente, um commit enviado para um repositório público, um e-mail de saída ou um argumento passado a uma ferramenta. Willison observa que os fornecedores geralmente corrigiram os casos relatados fechando o canal específico usado para enviar os dados.

Exemplo

Um agente de programação com acesso a um repositório privado recebe o pedido de corrigir um bug a partir de uma issue pública. O texto da issue contém instruções ocultas para ler o arquivo `.env` e incluir seu conteúdo em um link. Se o agente puder fazer requisições de rede, as chaves saem junto com essa requisição.

Defesas

Limite o que o agente pode alcançar com permissões de agente estreitas. Rode-o em um sandbox de agente com o acesso de saída à rede bloqueado ou restrito a uma lista de permissão. Não renderize imagens remotas vindas da saída do modelo e exija aprovação humana para ações que enviam dados para fora. O tool poisoning é uma forma comum de as instruções injetadas chegarem.

Termos relacionados

Prompt injection
Prompt injection (injeção de prompt) é um ataque em que um texto enviado a um modelo de linguagem, digitado por um usuário ou escondido em uma página web, arquivo ou resultado de ferramenta, muda o comportamento do modelo de formas que o desenvolvedor não pretendia.
Sandbox de agente
Um sandbox de agente é um ambiente isolado, como um contêiner, uma máquina virtual ou uma restrição do sistema operacional, em que um agente de IA executa código e comandos sem conseguir alcançar arquivos, redes ou dados fora de limites definidos.
Permissões de agente
Permissões de agente são as regras que decidem quais ferramentas, arquivos, comandos, redes e contas um agente de IA pode usar, e quais ações precisam antes da aprovação de uma pessoa, para que um agente que erra ou é manipulado cause danos limitados.
Tool poisoning
Tool poisoning (envenenamento de ferramentas) é um ataque em que uma ferramenta maliciosa, muitas vezes um servidor MCP, esconde instruções na descrição ou nos metadados da ferramenta; o modelo de IA as lê como orientação e pode vazar dados ou usar mal outras ferramentas sem que o usuário perceba.
Human-in-the-loop
Human-in-the-loop (HITL, humano no circuito) é um design em que um sistema de IA pausa em pontos escolhidos para que uma pessoa aprove, corrija ou rejeite o próximo passo, para que ações arriscadas ou incertas não sejam tomadas automaticamente.

Fontes