Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Modelo de linguagem pequeno

Um modelo de linguagem pequeno (small language model, SLM) é um modelo de linguagem com relativamente poucos parâmetros, geralmente alguns bilhões ou menos, feito para rodar em um notebook, celular ou uma única GPU a um custo menor que um modelo grande.

Também chamado: SLM

Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos

Modelos de linguagem pequenos trocam parte da amplitude de conhecimento por velocidade, baixo custo e a capacidade de rodar em hardware local. Eles combinam com tarefas como classificação, extração, roteamento, autocompletar e assistentes no aparelho, em que um modelo de linguagem grande seria lento ou caro.

Como ficam bons

Modelos pequenos dependem de dados de treinamento cuidadosos. O relatório do Phi-3, da Microsoft, descreve o phi-3-mini, um modelo de 3,8 bilhões de parâmetros treinado com 3,3 trilhões de tokens, que os autores dizem ser pequeno o bastante para rodar em um celular. Outros são feitos por knowledge distillation, em que um pequeno modelo aluno aprende com um professor maior.

Como rodar um

Com quantização, um modelo pequeno cabe em poucos gigabytes de memória, então ferramentas como Ollama ou llama.cpp podem rodá-lo em um notebook. A calculadora de GPU mostra quanta memória um determinado tamanho precisa.

Limites

Não existe um limite de tamanho consensual entre pequeno e grande. Modelos pequenos guardam menos conhecimento do mundo, lidam pior com raciocínio longo de várias etapas e são mais sensíveis à redação do prompt. Um padrão comum é enviar pedidos fáceis a um modelo pequeno e os difíceis a um modelo maior.

Termos relacionados

Grande modelo de linguagem
Um grande modelo de linguagem (large language model, LLM) é uma rede neural com bilhões de parâmetros, treinada com grandes quantidades de texto para prever o próximo token, o que permite a ele escrever, responder a perguntas, resumir e seguir instruções.
Destilação de conhecimento
A destilação de conhecimento (knowledge distillation) é um método de treinamento em que um modelo aluno menor aprende a imitar as saídas de um modelo professor maior, produzindo um modelo destilado que mantém boa parte da habilidade do professor a um custo menor.
LLM local
Um LLM local é um modelo de linguagem que roda no seu próprio computador, celular ou servidor em vez da API em nuvem de um provedor, então prompts e dados ficam no seu hardware e ele funciona sem conexão com a internet.
Quantização
A quantização (quantization) é uma técnica que armazena os pesos de um modelo, e às vezes as ativações, com menos bits, como 8 ou 4 em vez de 16, para que o modelo precise de menos memória e muitas vezes rode mais rápido, com algum custo em acurácia.
Parâmetros do modelo
Os parâmetros do modelo (model parameters) são os números que uma rede neural aprende no treinamento, principalmente pesos. A contagem de parâmetros, escrita como 7B para sete bilhões, é a forma usual de indicar o tamanho de um modelo.

Fontes