Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Ataque à cadeia de suprimentos de IA

Um ataque à cadeia de suprimentos de IA (supply-chain attack) compromete uma aplicação de IA por meio de algo de que ela depende, como um modelo baixado, um adaptador LoRA, um conjunto de dados, um pacote Python, um servidor MCP ou uma agent skill, em vez de atacar a aplicação diretamente.

Também chamado: malicious package, poisoned skill, model supply-chain attack, poisoned model

Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos

Os apps de IA modernos são montados a partir de peças feitas por outros: pesos de modelo de um hub, adaptadores de fine-tuning, dados de treinamento, bibliotecas de inferência, servidores MCP e agent skills instaladas a partir de um registro. Cada uma roda com o acesso do seu app. Se um atacante controla qualquer uma delas, ele controla parte do seu sistema.

A OWASP coloca a cadeia de suprimentos como o terceiro risco do seu Top 10 para aplicações de LLM, observando que, em machine learning, os riscos vão além do código e das dependências e chegam a modelos pré-treinados e dados de terceiros.

Formas comuns

Um pacote Python vulnerável ou malicioso puxado para um ambiente de desenvolvimento de modelos. Um modelo adulterado ou falso publicado com um nome conhecido. Um adaptador LoRA alterado para incluir um backdoor antes de ser mesclado a um modelo. Um conjunto de dados público envenenado que planta um gatilho oculto durante o fine-tuning. Para agentes, uma skill ou um servidor MCP que faz o que promete, mas também carrega instruções ocultas; o tool poisoning é a versão MCP.

O formato de arquivo dos pesos baixados também importa; veja safetensors para um formato feito para armazenar pesos com segurança.

Defesas

A OWASP recomenda avaliar os fornecedores, usar modelos apenas de fontes verificáveis com assinatura e hashes de arquivo, manter uma lista de materiais de software (SBOM), escanear e corrigir componentes, e fazer red teaming de modelos de terceiros para o seu próprio caso de uso. Na prática: fixe as versões, revise o que uma skill ou um servidor pode acessar antes de instalá-lo e rode código não confiável em um sandbox. Scanners como o Snyk Agent Scan verificam componentes de agentes em busca de riscos conhecidos.

Termos relacionados

Tool poisoning
Tool poisoning (envenenamento de ferramentas) é um ataque em que uma ferramenta maliciosa, muitas vezes um servidor MCP, esconde instruções na descrição ou nos metadados da ferramenta; o modelo de IA as lê como orientação e pode vazar dados ou usar mal outras ferramentas sem que o usuário perceba.
Agent skills
Agent skills (habilidades de agente) são pastas de instruções, scripts e arquivos de referência, cada uma descrita por um arquivo SKILL.md, que um agente de IA pode descobrir e carregar apenas quando uma tarefa precisa delas.
Servidor MCP
Um servidor MCP (MCP server) é um programa que expõe ferramentas, resources de dados ou modelos de prompt a aplicações de IA por meio do Model Context Protocol, para que qualquer cliente compatível com MCP possa usá-los sem código de integração personalizado.
Safetensors
Safetensors é um formato de arquivo do Hugging Face para armazenar pesos de modelos. Ao contrário dos arquivos pickle do Python, carregá-lo não pode executar código oculto, e ele permite carregar tensores individuais de forma rápida, com mapeamento em memória.
Pesos do modelo
Os pesos do modelo (model weights) são os números aprendidos dentro de uma rede neural, definidos durante o treinamento, que decidem como ela transforma a entrada em saída. Um checkpoint é um arquivo salvo, ou conjunto de arquivos, contendo esses pesos.

Fontes