O que é Granite Guardian 4.1 8B?
Granite Guardian 4.1 8B é o modelo de detecção de riscos da IBM Research, lançado em abril de 2026 como ajuste fino do Granite 4.1 8B. Você entrega uma conversa, um critério em linguagem simples e um esquema de pontuação, e ele devolve sim ou não entre tags score. No modo think ele escreve o raciocínio antes; no modo no-think responde direto.
Ele traz critérios embutidos em três grupos: dano (dano geral, viés social, jailbreak, violência, palavrões, conteúdo sexual e comportamento antiético), checagens de recuperação (relevância do contexto, fundamentação e relevância da resposta) e checagens de agentes (alucinação em chamadas de função). O Bring Your Own Criteria permite escrever regras novas, como exigências de formato ou tamanho, que segundo a IBM precisam ser testadas.
Os pesos são Apache 2.0, sem acesso restrito. Ele roda em Transformers, vLLM, SGLang e Docker Model Runner, e 11 quantizações da comunidade funcionam com llama.cpp, Ollama e LM Studio. Foi treinado e testado só em inglês. Versões anteriores, incluindo a 3.3 8B e os classificadores de ódio, abuso e palavrões de 38M e 125M, continuam no Hugging Face.
Quanto custa Granite Guardian 4.1 8B?
| Plano | Preço | O que inclui |
|---|---|---|
| Weights | Free | Apache 2.0, sem acesso restrito |
| Self-hosted | Free | 8B em BF16 na sua própria GPU |
Pesos abertos gratuitos sob Apache 2.0, sem acesso restrito no Hugging Face; só auto-hospedado, sem provedor de inferência hospedada listado.
Granite Guardian 4.1 8B vale a pena?
O argumento do Granite Guardian é amplitude com uma licença limpa. A maioria dos modelos de proteção para no conteúdo nocivo; este também verifica se uma resposta se apoia no texto recuperado e se a chamada de função de um agente bate com as ferramentas que ele tinha, tudo sob Apache 2.0 sem acesso restrito.
Os números da IBM para a 4.1 mostram onde o trabalho foi feito. A detecção em chamadas de função no FC Reward Bench subiu de 0.74 na versão 3.3 para 0.79 no modo no-think. Os critérios próprios foram o que mais melhorou: a acurácia balanceada em tarefas multirrestrição do IFEval passou de 0.569 só com prompt para 0.844. A fundamentação no LLM-AggreFact ficou em 0.76 no modo think, igual à 3.3. A segurança em si quase não mudou: a IBM relata F1 de 0.79 no no-think, mais ou menos como nas versões anteriores, e um baixo 0.44 na medida de recusas do xstest.
A IBM é franca sobre o custo. O model card o posiciona para avaliação de modelos, monitoramento e checagens pontuais com necessidade moderada de latência, e indica às equipes com orçamento de latência apertado o modelo de 38M para ódio, abuso e palavrões. O modo think acrescenta raciocínio gerado a cada checagem, e a IBM avisa que esse raciocínio pode conter texto inseguro e não refletir como a pontuação foi obtida.
O treino só em inglês é o maior limite prático. Para moderação multilíngue, o Qwen3Guard cobre 119 idiomas e dialetos, e para triagem rápida de injeção um classificador como o Prompt Guard 2 sai bem mais barato por chamada.
Onde ele se destaca
Uma equipe de RAG numa editora jurídica que responde perguntas sobre resumos de processos
Sinalizar respostas que não se apoiam nos trechos recuperados
Envie a pergunta, o contexto recuperado e a resposta com o critério de fundamentação no modo no-think, e mande os sins para revisão humana. Rodar numa amostra do tráfego segura o custo de GPU.
Um desenvolvedor de agentes cujo assistente agenda reuniões por chamadas de função
Pegar chamadas com argumentos inventados ou para a função errada
Passe o esquema da ferramenta e a chamada proposta com o critério de alucinação em chamadas de função antes da execução; a IBM relata 0.79 no FC Reward Bench para essa checagem no modo no-think.
Uma líder de confiança e segurança num app de comunidade em inglês
Aplicar uma regra da casa que as categorias padrão de dano não cobrem
Escreva a regra como prompt de Bring Your Own Criteria, teste numa amostra rotulada como a IBM recomenda e aplique às publicações denunciadas em vez de a cada mensagem.
Antes de decidir
- Configuração
- pip install transformers torch vllm e depois vllm serve ibm-granite/granite-guardian-4.1-8b; o prompt de julgamento vai na última mensagem do usuário com uma instrução think ou no-think, os critérios e o esquema de pontuação.
- Integrações
- Transformers, vLLM, SGLang e Docker Model Runner; builds GGUF da comunidade para llama.cpp, Ollama e LM Studio; notebooks do Colab e do Kaggle.
- Dados e privacidade
- Auto-hospedado, então prompts e documentos ficam no seu hardware. Apache 2.0 permite uso comercial sem acesso restrito.
- Custo em escala
- Sem tarifa de API; uma GPU servindo um modelo de 8B. O modo think custa tokens gerados a mais por checagem, então no-think serve para volume e think para auditorias.
- Limites
- Só inglês; devolve sim ou não, não um rótulo multiclasse calibrado; tamanho de contexto não informado no model card; a IBM recomenda usar só o modelo de prompt dela.
O que é bom
- Checagens de dano, fundamentação em RAG e chamadas de função num só modelo
- Acurácia em critérios próprios de 0.569 para 0.844 no IFEval multirrestrição
- Apache 2.0 e sem acesso restrito
- Modos think e no-think trocam latência por explicação
O que não é
- Só inglês
- Com 8B é lento para filtrar cada mensagem em linha
- F1 de segurança praticamente igual ao das versões anteriores
- O raciocínio pode ser infiel ou conter texto inseguro
Ideal para
Equipes que trabalham em inglês e querem um único juiz aberto para segurança, fundamentação da recuperação e chamadas de ferramenta de agentes, aplicado a tráfego amostrado ou de alto risco.
Alternativas ao Granite Guardian 4.1 8B
Granite Guardian 4.1 8B: perguntas frequentes
- Granite Guardian 4.1 8B vale a pena?
- Um juiz aberto para apps em inglês que cobre dano, fundamentação e chamadas de ferramenta num só modelo, embora com 8B sirva para checagens pontuais e não como filtro em linha de cada mensagem. Damos nota 4.0 de 5.
- Quanto custa Granite Guardian 4.1 8B?
- Pesos abertos gratuitos sob Apache 2.0, sem acesso restrito no Hugging Face; só auto-hospedado, sem provedor de inferência hospedada listado.
- Quais são as desvantagens de Granite Guardian 4.1 8B?
- Só inglês; com 8B é lento para filtrar cada mensagem em linha; f1 de segurança praticamente igual ao das versões anteriores; o raciocínio pode ser infiel ou conter texto inseguro.
- Para quem Granite Guardian 4.1 8B é indicado?
- Equipes que trabalham em inglês e querem um único juiz aberto para segurança, fundamentação da recuperação e chamadas de ferramenta de agentes, aplicado a tráfego amostrado ou de alto risco.
- Quanto custa Granite Guardian 4.1 8B para uma equipe ou em produção?
- Sem tarifa de API; uma GPU servindo um modelo de 8B. O modo think custa tokens gerados a mais por checagem, então no-think serve para volume e think para auditorias.
- Granite Guardian 4.1 8B é seguro para dados da empresa?
- Auto-hospedado, então prompts e documentos ficam no seu hardware. Apache 2.0 permite uso comercial sem acesso restrito.
- Quais são as melhores alternativas ao Granite Guardian 4.1 8B?
- As alternativas mais próximas que analisamos são Qwen3Guard, gpt-oss-safeguard e Shieldstral 1.0 3B.
Respostas verificadas em 6 de nov. de 2026.
Você faz o Granite Guardian 4.1 8B? Mostre esta nota no seu site
