Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

VRAM

VRAM é a memória de uma placa de vídeo. No trabalho com IA, ela guarda os pesos do modelo, o KV cache e os dados de trabalho, e saber se um modelo cabe na VRAM geralmente decide qual GPU você precisa para rodá-lo.

Também chamado: GPU memory

Por Divya Sharma · Verificado em 16 de nov. de 2026 · Como analisamos

Uma GPU só consegue calcular rápido sobre dados na sua própria memória. Se um modelo não cabe, ele não carrega ou transborda para a memória do sistema, mais lenta, por meio de CPU offloading, o que derruba a velocidade. Por isso "de quanta VRAM eu preciso?" costuma ser a primeira pergunta quando você roda um modelo por conta própria.

O que usa VRAM ao rodar um modelo

Os pesos vêm primeiro: o número de parâmetros vezes os bytes por parâmetro. Uma precisão menor ou a quantização reduz isso, por exemplo de pesos de 16 bits para 4 bits. Em seguida vem o KV cache, que cresce com o tamanho do contexto e o número de requisições simultâneas. Um serving engine também precisa de algum espaço de trabalho e de overhead.

Treinar exige mais

O treinamento adiciona gradientes, estado do otimizador e ativações salvas por cima dos pesos. O guia do Hugging Face observa que só o Adam adiciona 8 bytes por parâmetro, e que o tamanho do lote ou da sequência pode esgotar a memória da GPU mesmo quando o modelo em si cabe. É por isso que existem métodos como LoRA e QLoRA.

Como estimar

Nossa calculadora de GPU estima a VRAM para um dado modelo, precisão e tamanho de contexto. Deixe folga em vez de planejar encher a placa. Macs e alguns chips mais novos usam memória unificada, em que a CPU e a GPU compartilham um único conjunto, o que permite carregar modelos maiores que a maioria das placas de vídeo de consumo, com velocidade menor. Se nada local for grande o bastante, alugue uma placa em uma AI GPU cloud.

Termos relacionados

Quantização
A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.
Parâmetros do modelo
Os parâmetros do modelo (model parameters) são os números que uma rede neural aprende no treinamento, principalmente pesos. A contagem de parâmetros, escrita como 7B para sete bilhões, é a forma usual de indicar o tamanho de um modelo.
KV cache
Um KV cache (cache de chaves e valores) guarda as keys e os values de atenção que um transformer já calculou para os tokens anteriores, para que cada novo token só precise do trabalho referente a ele. Ele acelera a geração, mas ocupa memória da GPU que cresce com o tamanho do contexto.
GPU
Uma GPU (graphics processing unit, unidade de processamento gráfico) é um processador com muitos núcleos pequenos, feito para executar muitos cálculos em paralelo. Sua velocidade em operações com matrizes faz dela o hardware padrão para treinar e rodar modelos de IA.
Memória unificada
A memória unificada (unified memory) é um design em que a CPU e a GPU compartilham um único conjunto de memória em vez de cada uma ter o seu. Em Macs com Apple Silicon e chips parecidos, ela permite que um modelo de IA local use a maior parte da RAM do sistema como memória de GPU.
LLM local
Um LLM local é um modelo de linguagem que roda no seu próprio computador, celular ou servidor em vez da API em nuvem de um provedor, então prompts e dados ficam no seu hardware e ele funciona sem conexão com a internet.

Fontes