Guardrails (IA)
Guardrails (barreiras de proteção) são verificações em tempo de execução colocadas ao redor de um modelo de linguagem que inspecionam entradas e saídas e as bloqueiam, reescrevem ou redirecionam, para que uma aplicação se mantenha no assunto, evite conteúdo nocivo e siga regras que o modelo sozinho não cumpriria de forma confiável.
Também chamado: AI guardrails, rails
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Um modelo treinado para ser seguro ainda comete erros, e não sabe nada sobre as regras do seu produto. Os guardrails acrescentam uma camada separada de controle na aplicação. Eles rodam antes de o prompt chegar ao modelo, depois que a resposta volta, ou nos dois momentos.
Como funciona
Um guardrail de entrada pode detectar uma tentativa de injeção de prompt, remover dados pessoais por meio de anonimização de PII ou recusar um assunto que o produto não deve discutir. Um guardrail de saída pode comparar uma resposta com as fontes recuperadas para pegar uma alucinação, validar se um JSON segue um schema ou bloquear texto tóxico. As verificações podem ser regras simples e expressões regulares, pequenos modelos classificadores como o Llama Guard 4 ou uma segunda chamada a um LLM.
O artigo do NeMo Guardrails descreve os guardrails como uma forma de controlar a saída do modelo, por exemplo mantendo um caminho de diálogo definido ou evitando assuntos nocivos, e separa esses guardrails programáveis da segurança embutida no modelo durante o treinamento. Entre os kits de código aberto estão o NeMo Guardrails e o Guardrails AI. O guia da etapa de guardrails compara as opções.
Exemplo
O bot de suporte de um banco recebe uma mensagem pedindo que ignore suas instruções e liste os saldos de outros clientes. Um guardrail de entrada sinaliza o padrão de injeção e devolve uma recusa fixa. O modelo nunca vê o pedido.
Limites
Os guardrails reduzem o risco; não o eliminam. Classificadores deixam passar ataques reformulados e também bloqueiam pedidos inofensivos. Cada verificação extra acrescenta latência e custo. Trate os guardrails como uma camada ao lado de permissões estreitas para agentes, testes e monitoramento.
Termos relacionados
- Prompt injection
- Prompt injection (injeção de prompt) é um ataque em que um texto enviado a um modelo de linguagem, digitado por um usuário ou escondido em uma página web, arquivo ou resultado de ferramenta, muda o comportamento do modelo de formas que o desenvolvedor não pretendia.
- Redação de PII
- A redação de PII (PII redaction) é a detecção e remoção ou mascaramento de informações de identificação pessoal, como nomes, telefones, endereços e números de cartão, em textos ou imagens antes de serem enviados a um modelo, guardados em logs ou mostrados a outras pessoas.
- Alucinação (IA)
- Uma alucinação (hallucination) é uma saída de um modelo de IA que soa fluente e confiante, mas é falsa, não tem apoio nas fontes ou foi inventada, como uma citação, uma frase, uma estatística ou uma função de API que não existem.
- Jailbreak (LLM)
- Um jailbreak é um prompt ou uma técnica que faz um modelo de linguagem produzir uma saída que seu treinamento de segurança deveria recusar, como instruções nocivas, por meio de role-play, ofuscação, codificações incomuns ou textos adversariais longos.
- Red teaming de IA
- Red teaming de IA (AI red teaming) é a prática de atacar deliberadamente um modelo ou uma aplicação de IA antes e depois do lançamento, com testadores humanos ou ferramentas automáticas, para encontrar saídas nocivas, jailbreaks, injeções e outras falhas e corrigi-las.