Modelo de linguagem pequeno
Um modelo de linguagem pequeno (small language model, SLM) é um modelo de linguagem com relativamente poucos parâmetros, geralmente alguns bilhões ou menos, feito para rodar em um notebook, celular ou uma única GPU a um custo menor que um modelo grande.
Também chamado: SLM
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Modelos de linguagem pequenos trocam parte da amplitude de conhecimento por velocidade, baixo custo e a capacidade de rodar em hardware local. Eles combinam com tarefas como classificação, extração, roteamento, autocompletar e assistentes no aparelho, em que um modelo de linguagem grande seria lento ou caro.
Como ficam bons
Modelos pequenos dependem de dados de treinamento cuidadosos. O relatório do Phi-3, da Microsoft, descreve o phi-3-mini, um modelo de 3,8 bilhões de parâmetros treinado com 3,3 trilhões de tokens, que os autores dizem ser pequeno o bastante para rodar em um celular. Outros são feitos por knowledge distillation, em que um pequeno modelo aluno aprende com um professor maior.
Como rodar um
Com quantização, um modelo pequeno cabe em poucos gigabytes de memória, então ferramentas como Ollama ou llama.cpp podem rodá-lo em um notebook. A calculadora de GPU mostra quanta memória um determinado tamanho precisa.
Limites
Não existe um limite de tamanho consensual entre pequeno e grande. Modelos pequenos guardam menos conhecimento do mundo, lidam pior com raciocínio longo de várias etapas e são mais sensíveis à redação do prompt. Um padrão comum é enviar pedidos fáceis a um modelo pequeno e os difíceis a um modelo maior.
Termos relacionados
- Grande modelo de linguagem
- Um grande modelo de linguagem (large language model, LLM) é uma rede neural com bilhões de parâmetros, treinada com grandes quantidades de texto para prever o próximo token, o que permite a ele escrever, responder a perguntas, resumir e seguir instruções.
- Destilação de conhecimento
- A destilação de conhecimento (knowledge distillation) é um método de treinamento em que um modelo aluno menor aprende a imitar as saídas de um modelo professor maior, produzindo um modelo destilado que mantém boa parte da habilidade do professor a um custo menor.
- LLM local
- Um LLM local é um modelo de linguagem que roda no seu próprio computador, celular ou servidor em vez da API em nuvem de um provedor, então prompts e dados ficam no seu hardware e ele funciona sem conexão com a internet.
- Quantização
- A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.
- Parâmetros do modelo
- Os parâmetros do modelo (model parameters) são os números que uma rede neural aprende no treinamento, principalmente pesos. A contagem de parâmetros, escrita como 7B para sete bilhões, é a forma usual de indicar o tamanho de um modelo.