VRAM
VRAM é a memória de uma placa de vídeo. No trabalho com IA, ela guarda os pesos do modelo, o KV cache e os dados de trabalho, e saber se um modelo cabe na VRAM geralmente decide qual GPU você precisa para rodá-lo.
Também chamado: GPU memory
Por Divya Sharma · Verificado em 16 de nov. de 2026 · Como analisamos
Uma GPU só consegue calcular rápido sobre dados na sua própria memória. Se um modelo não cabe, ele não carrega ou transborda para a memória do sistema, mais lenta, por meio de CPU offloading, o que derruba a velocidade. Por isso "de quanta VRAM eu preciso?" costuma ser a primeira pergunta quando você roda um modelo por conta própria.
O que usa VRAM ao rodar um modelo
Os pesos vêm primeiro: o número de parâmetros vezes os bytes por parâmetro. Uma precisão menor ou a quantização reduz isso, por exemplo de pesos de 16 bits para 4 bits. Em seguida vem o KV cache, que cresce com o tamanho do contexto e o número de requisições simultâneas. Um serving engine também precisa de algum espaço de trabalho e de overhead.
Treinar exige mais
O treinamento adiciona gradientes, estado do otimizador e ativações salvas por cima dos pesos. O guia do Hugging Face observa que só o Adam adiciona 8 bytes por parâmetro, e que o tamanho do lote ou da sequência pode esgotar a memória da GPU mesmo quando o modelo em si cabe. É por isso que existem métodos como LoRA e QLoRA.
Como estimar
Nossa calculadora de GPU estima a VRAM para um dado modelo, precisão e tamanho de contexto. Deixe folga em vez de planejar encher a placa. Macs e alguns chips mais novos usam memória unificada, em que a CPU e a GPU compartilham um único conjunto, o que permite carregar modelos maiores que a maioria das placas de vídeo de consumo, com velocidade menor. Se nada local for grande o bastante, alugue uma placa em uma AI GPU cloud.
Termos relacionados
- Quantização
- A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.
- Parâmetros do modelo
- Os parâmetros do modelo (model parameters) são os números que uma rede neural aprende no treinamento, principalmente pesos. A contagem de parâmetros, escrita como 7B para sete bilhões, é a forma usual de indicar o tamanho de um modelo.
- KV cache
- Um KV cache (cache de chaves e valores) guarda as keys e os values de atenção que um transformer já calculou para os tokens anteriores, para que cada novo token só precise do trabalho referente a ele. Ele acelera a geração, mas ocupa memória da GPU que cresce com o tamanho do contexto.
- GPU
- Uma GPU (graphics processing unit, unidade de processamento gráfico) é um processador com muitos núcleos pequenos, feito para executar muitos cálculos em paralelo. Sua velocidade em operações com matrizes faz dela o hardware padrão para treinar e rodar modelos de IA.
- Memória unificada
- A memória unificada (unified memory) é um design em que a CPU e a GPU compartilham um único conjunto de memória em vez de cada uma ter o seu. Em Macs com Apple Silicon e chips parecidos, ela permite que um modelo de IA local use a maior parte da RAM do sistema como memória de GPU.
- LLM local
- Um LLM local é um modelo de linguagem que roda no seu próprio computador, celular ou servidor em vez da API em nuvem de um provedor, então prompts e dados ficam no seu hardware e ele funciona sem conexão com a internet.