Grande modelo de linguagem
Um grande modelo de linguagem (large language model, LLM) é uma rede neural com bilhões de parâmetros, treinada com grandes quantidades de texto para prever o próximo token, o que permite a ele escrever, responder a perguntas, resumir e seguir instruções.
Também chamado: LLM, LLMs
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Um LLM é o motor por trás de assistentes de chat, agentes de programação e da maioria dos recursos de texto em produtos de IA. Você envia texto e ele devolve texto, um token por vez.
Como funciona
Quase todo LLM atual usa a arquitetura transformer. Durante o pré-treinamento, ele lê um corpus de texto muito grande e aprende a prever o próximo token a partir de tudo o que veio antes. Esse objetivo simples produz um modelo capaz de traduzir, responder a perguntas e escrever código. Treinamentos adicionais, como fine-tuning e RLHF, transformam o modelo bruto em um assistente que segue instruções.
O que "grande" significa
Não há um limite fixo. O GPT-3, descrito em 2020, tinha 175 bilhões de parâmetros, e o rótulo ficou associado a modelos dessa escala ou maiores. Modelos com alguns bilhões de parâmetros geralmente são chamados de modelos de linguagem pequenos.
Limites
Um LLM só sabe o que estava nos seus dados de treinamento até o seu knowledge cutoff, e pode afirmar coisas falsas com fluência. Ele também só vê o que cabe na sua janela de contexto. Quem constrói geralmente acrescenta recuperação, ferramentas ou verificações ao redor do modelo, em vez de confiar na saída bruta. Compare os modelos atuais no diretório de modelos.
Termos relacionados
- Token (LLM)
- Um token (LLM) é a unidade básica de texto que um modelo de linguagem lê e escreve, muitas vezes uma palavra, parte de uma palavra, um sinal de pontuação ou um byte. Preços, velocidade e limites de contexto são todos contados em tokens.
- Transformer (arquitetura)
- O transformer é uma arquitetura de rede neural, apresentada em 2017, que processa sequências usando atenção em vez de recorrência. Ele é a base de quase todos os grandes modelos de linguagem atuais e de muitos modelos de imagem e áudio.
- Modelo de linguagem pequeno
- Um modelo de linguagem pequeno (small language model, SLM) é um modelo de linguagem com relativamente poucos parâmetros, geralmente alguns bilhões ou menos, feito para rodar em um notebook, celular ou uma única GPU a um custo menor que um modelo grande.
- Pré-treinamento
- O pré-treinamento (pretraining) é a primeira e maior etapa do treinamento de um modelo, em que ele aprende padrões gerais a partir de um dataset enorme sem rótulos, geralmente prevendo o próximo token, antes de qualquer ajuste para uma tarefa específica.
- Janela de contexto
- Uma janela de contexto (context window) é a quantidade máxima de texto, contada em tokens, que um modelo de linguagem consegue considerar de uma vez, incluindo o prompt de sistema, a conversa, os documentos, os resultados de ferramentas e a resposta que ele escreve.
- Alucinação (IA)
- Uma alucinação (hallucination) é uma saída de um modelo de IA que soa fluente e confiante, mas é falsa, não tem apoio nas fontes ou foi inventada, como uma citação, uma frase, uma estatística ou uma função de API que não existem.