ONNX
O ONNX (Open Neural Network Exchange) é um formato de arquivo aberto para modelos de machine learning. Ele descreve um modelo como um grafo de operadores padrão, para que possa ser treinado em um framework e rodado em outro.
Também chamado: Open Neural Network Exchange, .onnx
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Os modelos costumam ser treinados em um framework como o PyTorch, mas o lugar onde você quer rodá-los pode ser um celular, um navegador, um servidor sem Python ou um chip com runtime próprio. O ONNX é um formato comum entre os dois. Você exporta o modelo uma vez para um arquivo .onnx, e qualquer runtime que suporte ONNX consegue carregá-lo.
Como funciona
Um arquivo ONNX guarda um grafo de computação: nós para operações como multiplicação de matrizes ou softmax, as conexões entre eles e os pesos do modelo. Os operadores vêm de um conjunto padrão versionado chamado opset, então o runtime sabe exatamente o que cada nó significa. O ONNX Runtime é o engine mais usado, e ele pode entregar partes do grafo a GPUs, NPUs e outros aceleradores.
Onde ele se encaixa
O ONNX é comum para modelos menores que precisam rodar rápido em muitos aparelhos: modelos de embedding, rerankers, modelos de visão e de fala, e modelos em navegadores. Ele é menos comum para servir os maiores LLMs, em que engines dedicados como o vLLM ou executores baseados em GGUF geralmente carregam os pesos diretamente.
Como difere do Safetensors
O Safetensors guarda só os pesos; você ainda precisa do código que define o modelo. O ONNX guarda os pesos e o grafo de operações, então o arquivo descreve o modelo inteiro. Isso o torna portátil, mas significa que a exportação pode falhar em camadas incomuns, e modelos que mudam de forma em tempo de execução podem ser difíceis de exportar.
Limites
Nem todo runtime suporta todos os operadores ou versões de opset, e modelos ONNX quantizados podem se comportar de forma diferente em hardwares diferentes. Teste o modelo exportado contra o original antes de colocá-lo em produção.
Termos relacionados
- Pesos do modelo
- Os pesos do modelo (model weights) são os números aprendidos dentro de uma rede neural, definidos durante o treinamento, que decidem como ela transforma a entrada em saída. Um checkpoint é um arquivo salvo, ou conjunto de arquivos, contendo esses pesos.
- Safetensors
- Safetensors é um formato de arquivo do Hugging Face para armazenar pesos de modelos. Ao contrário dos arquivos pickle do Python, carregá-lo não pode executar código oculto, e ele permite carregar tensores individuais de forma rápida, com mapeamento em memória.
- GGUF
- GGUF é um formato de arquivo binário para guardar os pesos, o tokenizer e os metadados de um modelo em um único arquivo, feito para carregamento rápido e inferência local com ferramentas baseadas em GGML, como o llama.cpp, muitas vezes em forma quantizada.
- Inferência
- Inferência (inference) é rodar um modelo treinado para produzir uma saída a partir de uma nova entrada, como um LLM gerando uma resposta a um prompt. É a etapa pela qual os usuários pagam toda vez que chamam um modelo, em oposição ao treinamento.
- NPU
- Uma NPU (neural processing unit, unidade de processamento neural) é um chip, ou um bloco dentro de um chip maior, feito para rodar os cálculos de redes neurais com rapidez e pouco consumo de energia. Celulares e notebooks usam NPUs para rodar pequenos modelos de IA no próprio aparelho.
- Quantização
- A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.