Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Prompt injection

Prompt injection (injeção de prompt) é um ataque em que um texto enviado a um modelo de linguagem, digitado por um usuário ou escondido em uma página web, arquivo ou resultado de ferramenta, muda o comportamento do modelo de formas que o desenvolvedor não pretendia.

Também chamado: indirect prompt injection, direct prompt injection

Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos

LLMs leem instruções e dados pelo mesmo canal: texto. Um modelo não consegue distinguir com confiabilidade o system prompt de um desenvolvedor de uma frase que um atacante plantou em um e-mail que ele foi solicitado a resumir. A OWASP coloca o prompt injection em primeiro lugar no seu Top 10 para aplicações de LLM.

Direto e indireto

Em uma injeção direta, o usuário digita o ataque, por exemplo pedindo ao bot que ignore suas instruções anteriores. Em uma injeção indireta, o ataque chega dentro de um conteúdo que o modelo processa: uma página web, um PDF, um comentário de código, um convite de calendário ou a descrição de uma ferramenta MCP. O usuário pode nunca vê-lo. Greshake et al. mostraram que aplicações integradas a LLMs apagam a fronteira entre dados e instruções, o que permite a um atacante chegar ao modelo sem nenhum acesso direto.

Por que importa para agentes

Um chatbot que só escreve texto pode passar vergonha. Um agente que pode ler arquivos, chamar APIs e enviar mensagens pode ser levado a agir. Os piores casos encadeiam a injeção com exfiltração de dados: o texto plantado manda o agente coletar dados privados e enviá-los para algum lugar. O tool poisoning é uma forma de injeção indireta entregue pelos metadados de ferramentas.

Como difere de um jailbreak

Um jailbreak tenta fazer o modelo quebrar seu próprio treinamento de segurança. O prompt injection tenta sobrepor as instruções da aplicação. As técnicas se sobrepõem, e o mesmo texto pode fazer as duas coisas.

Defesas

Não existe uma solução completa hoje. As camadas comuns são guardrails de entrada e saída, manter o conteúdo não confiável claramente separado, permissões de agente restritas, um agent sandbox e aprovação humana antes de ações sensíveis. Veja a entrada da OWASP para a lista completa de mitigações.

Termos relacionados

Jailbreak (LLM)
Um jailbreak é um prompt ou uma técnica que faz um modelo de linguagem produzir uma saída que seu treinamento de segurança deveria recusar, como instruções nocivas, por meio de role-play, ofuscação, codificações incomuns ou textos adversariais longos.
Exfiltração de dados (agentes de IA)
Exfiltração de dados, no caso de agentes de IA, é quando um atacante engana um agente para que ele leia dados privados a que tem acesso e os envie para fora, por uma requisição web, um e-mail, um link de imagem ou outro canal que o atacante controla.
Sandbox de agente
Um sandbox de agente é um ambiente isolado, como um contêiner, uma máquina virtual ou uma restrição do sistema operacional, em que um agente de IA executa código e comandos sem conseguir alcançar arquivos, redes ou dados fora de limites definidos.
Tool poisoning
Tool poisoning (envenenamento de ferramentas) é um ataque em que uma ferramenta maliciosa, muitas vezes um servidor MCP, esconde instruções na descrição ou nos metadados da ferramenta; o modelo de IA as lê como orientação e pode vazar dados ou usar mal outras ferramentas sem que o usuário perceba.
Guardrails (IA)
Guardrails (barreiras de proteção) são verificações em tempo de execução colocadas ao redor de um modelo de linguagem que inspecionam entradas e saídas e as bloqueiam, reescrevem ou redirecionam, para que uma aplicação se mantenha no assunto, evite conteúdo nocivo e siga regras que o modelo sozinho não cumpriria de forma confiável.

Fontes