Modelo base
Um modelo base (base model) é um modelo de linguagem recém-saído do pré-treinamento, antes do ajuste por instruções ou do treinamento com feedback humano. Ele continua qualquer texto que receba, em vez de seguir instruções ou manter uma conversa.
Também chamado: pretrained checkpoint, pretrained model, -Base
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Pergunte a um modelo base "Qual é a capital da França?" e ele pode responder, ou pode escrever mais três perguntas de quiz, porque uma lista de perguntas é uma continuação provável. Ele aprendeu a língua e muitos fatos durante o pré-treinamento, mas não foi ensinado a agir como assistente.
Onde você os vê
Lançamentos de modelos abertos muitas vezes trazem duas versões: um checkpoint base e um modelo instruct. Alguns nomes deixam isso claro, como o ERNIE 5.5 Flash Base. APIs hospedadas quase sempre servem apenas a versão ajustada.
Por que você usaria um
Modelos base são o ponto de partida habitual para o seu próprio fine-tuning, porque não absorveram o estilo, as recusas ou o formato de chat de outra equipe. Pesquisadores os usam para estudar o que o pré-treinamento sozinho produz. Eles também são bons em tarefas de pura continuação, como completar código ou gerar texto em um estilo dado.
Você ainda consegue extrair trabalho útil de um modelo base formulando o prompt como um texto que ele continuaria naturalmente, com alguns exemplos antes. O artigo do GPT-3 fez exatamente isso: testou um modelo sem fine-tuning, passando tarefas e exemplos apenas como texto. Isso é few-shot prompting.
Como ele difere de um modelo de fundação
Um modelo de fundação é qualquer modelo amplo feito para ser adaptado a muitas tarefas. Um modelo base é um checkpoint específico: o não ajustado. Um modelo instruct construído sobre ele continua sendo um modelo de fundação, mas não é mais um modelo base.
Termos relacionados
- Modelo instruct
- Um modelo instruct (modelo ajustado por instruções) é um modelo de linguagem base que passou por treinamento adicional com instruções associadas a boas respostas, e muitas vezes com feedback humano, para que siga pedidos em vez de apenas continuar texto.
- Pré-treinamento
- O pré-treinamento (pretraining) é a primeira e maior etapa do treinamento de um modelo, em que ele aprende padrões gerais a partir de um dataset enorme sem rótulos, geralmente prevendo o próximo token, antes de qualquer ajuste para uma tarefa específica.
- Modelo de fundação
- Um modelo de fundação (foundation model) é um modelo grande treinado com dados amplos em escala, que pode ser adaptado a muitas tarefas diferentes, por prompting ou fine-tuning, em vez de ser construído para uma única tarefa.
- Fine-tuning
- Fine-tuning (ajuste fino) é o treinamento adicional de um modelo pré-treinado em um conjunto de dados menor e específico para uma tarefa, para que o modelo adote uma habilidade, um formato, um tom ou um domínio particular sem ser treinado do zero.
- Few-shot prompting
- Few-shot prompting (prompting com poucos exemplos) é dar a um modelo de linguagem um punhado de exemplos resolvidos de uma tarefa dentro do prompt, para que ele copie o padrão em uma nova entrada sem nenhum retreinamento.