Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

ONNX

O ONNX (Open Neural Network Exchange) é um formato de arquivo aberto para modelos de machine learning. Ele descreve um modelo como um grafo de operadores padrão, para que possa ser treinado em um framework e rodado em outro.

Também chamado: Open Neural Network Exchange, .onnx

Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos

Os modelos costumam ser treinados em um framework como o PyTorch, mas o lugar onde você quer rodá-los pode ser um celular, um navegador, um servidor sem Python ou um chip com runtime próprio. O ONNX é um formato comum entre os dois. Você exporta o modelo uma vez para um arquivo .onnx, e qualquer runtime que suporte ONNX consegue carregá-lo.

Como funciona

Um arquivo ONNX guarda um grafo de computação: nós para operações como multiplicação de matrizes ou softmax, as conexões entre eles e os pesos do modelo. Os operadores vêm de um conjunto padrão versionado chamado opset, então o runtime sabe exatamente o que cada nó significa. O ONNX Runtime é o engine mais usado, e ele pode entregar partes do grafo a GPUs, NPUs e outros aceleradores.

Onde ele se encaixa

O ONNX é comum para modelos menores que precisam rodar rápido em muitos aparelhos: modelos de embedding, rerankers, modelos de visão e de fala, e modelos em navegadores. Ele é menos comum para servir os maiores LLMs, em que engines dedicados como o vLLM ou executores baseados em GGUF geralmente carregam os pesos diretamente.

Como difere do Safetensors

O Safetensors guarda só os pesos; você ainda precisa do código que define o modelo. O ONNX guarda os pesos e o grafo de operações, então o arquivo descreve o modelo inteiro. Isso o torna portátil, mas significa que a exportação pode falhar em camadas incomuns, e modelos que mudam de forma em tempo de execução podem ser difíceis de exportar.

Limites

Nem todo runtime suporta todos os operadores ou versões de opset, e modelos ONNX quantizados podem se comportar de forma diferente em hardwares diferentes. Teste o modelo exportado contra o original antes de colocá-lo em produção.

Termos relacionados

Pesos do modelo
Os pesos do modelo (model weights) são os números aprendidos dentro de uma rede neural, definidos durante o treinamento, que decidem como ela transforma a entrada em saída. Um checkpoint é um arquivo salvo, ou conjunto de arquivos, contendo esses pesos.
Safetensors
Safetensors é um formato de arquivo do Hugging Face para armazenar pesos de modelos. Ao contrário dos arquivos pickle do Python, carregá-lo não pode executar código oculto, e ele permite carregar tensores individuais de forma rápida, com mapeamento em memória.
GGUF
GGUF é um formato de arquivo binário para guardar os pesos, o tokenizer e os metadados de um modelo em um único arquivo, feito para carregamento rápido e inferência local com ferramentas baseadas em GGML, como o llama.cpp, muitas vezes em forma quantizada.
Inferência
Inferência (inference) é rodar um modelo treinado para produzir uma saída a partir de uma nova entrada, como um LLM gerando uma resposta a um prompt. É a etapa pela qual os usuários pagam toda vez que chamam um modelo, em oposição ao treinamento.
NPU
Uma NPU (neural processing unit, unidade de processamento neural) é um chip, ou um bloco dentro de um chip maior, feito para rodar os cálculos de redes neurais com rapidez e pouco consumo de energia. Celulares e notebooks usam NPUs para rodar pequenos modelos de IA no próprio aparelho.
Quantização
A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.

Fontes