Precisão numérica (FP16, BF16, FP8)
A precisão numérica é o formato de número usado para armazenar os pesos de um modelo e fazer seus cálculos, como FP32, FP16, BF16, FP8 ou INT4. Menos bits por número significam menos memória e inferência mais rápida, com algum risco para a acurácia.
Também chamado: FP8, BF16, FP16, FP4, INT8, INT4, FP32, bfloat16
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Cada peso de um modelo é um número, e o formato desse número decide quanta memória o modelo ocupa. Um formato de 16 bits usa dois bytes por peso, um de 8 bits usa um byte, um de 4 bits usa meio byte. Por isso a precisão é a primeira coisa a verificar quando você calcula se um modelo cabe na sua VRAM; a calculadora de GPU faz essa conta para você.
Os formatos comuns
FP32 é a precisão simples completa, usada principalmente no treinamento. FP16 corta o tamanho pela metade, mas tem um intervalo estreito, então valores muito grandes ou muito pequenos podem estourar. BF16 (bfloat16, criado no Google) mantém os mesmos 8 bits de expoente do FP32 e descarta bits de mantissa, então tem o intervalo do FP32 com menos detalhe. Isso o torna o padrão usual para treinar e servir modelos modernos.
FP8 desce para um byte. O padrão FP8 define duas variantes: E4M3, com mais precisão, e E5M2, com mais intervalo. GPUs recentes de data center rodam FP8 nativamente. Formatos FP4 vão além no hardware mais novo.
INT8 e INT4 são formatos inteiros. Os pesos são mapeados em um pequeno conjunto de números inteiros mais um fator de escala. É isso que quantização costuma significar na prática, e é o que arquivos como os GGUF armazenam para uso local.
Prós e contras
Precisão menor economiza memória e muitas vezes aumenta os tokens por segundo, mas cada degrau abaixo perde alguma informação. O efeito depende do modelo e do método: 8 bits costuma ficar perto do original, enquanto 4 bits ou menos podem prejudicar tarefas de raciocínio ou de contexto longo. O suporte do hardware também importa; um formato que sua GPU não calcula nativamente pode ser convertido na hora e dar pouco ganho de velocidade.
Termos relacionados
- Quantização
- A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.
- VRAM
- VRAM é a memória de uma placa de vídeo. No trabalho com IA, ela guarda os pesos do modelo, o KV cache e os dados de trabalho, e saber se um modelo cabe na VRAM geralmente decide qual GPU você precisa para rodá-lo.
- GGUF
- GGUF é um formato de arquivo binário para guardar os pesos, o tokenizer e os metadados de um modelo em um único arquivo, feito para carregamento rápido e inferência local com ferramentas baseadas em GGML, como o llama.cpp, muitas vezes em forma quantizada.
- Pesos do modelo
- Os pesos do modelo (model weights) são os números aprendidos dentro de uma rede neural, definidos durante o treinamento, que decidem como ela transforma a entrada em saída. Um checkpoint é um arquivo salvo, ou conjunto de arquivos, contendo esses pesos.
- GPU
- Uma GPU (graphics processing unit, unidade de processamento gráfico) é um processador com muitos núcleos pequenos, feito para executar muitos cálculos em paralelo. Sua velocidade em operações com matrizes faz dela o hardware padrão para treinar e rodar modelos de IA.