Fine-tuning
Fine-tuning (ajuste fino) é o treinamento adicional de um modelo pré-treinado em um conjunto de dados menor e específico para uma tarefa, para que o modelo adote uma habilidade, um formato, um tom ou um domínio particular sem ser treinado do zero.
Também chamado: finetuning
Por Divya Sharma · Verificado em 16 de nov. de 2026 · Como analisamos
Um modelo pré-treinado aprendeu linguagem geral a partir de um corpus muito grande. O fine-tuning pega esses pesos e continua a treiná-los com exemplos que você escolhe: tickets de suporte respondidos do jeito que a sua equipe responde, código no seu estilo interno ou notas médicas em um formato fixo. O loop de treinamento é o mesmo do pré-treinamento; a diferença é que você parte de um modelo que já funciona, e não de pesos aleatórios, então ele precisa de muito menos dados e computação.
Tipos de fine-tuning
O fine-tuning supervisionado treina com pares de entrada e saída desejada. O ajuste por preferência, como RLHF ou DPO, treina com qual de duas respostas as pessoas preferiram. O fine-tuning completo atualiza todos os pesos; métodos eficientes em parâmetros, como a LoRA, treinam um pequeno complemento e deixam o modelo base congelado, o que reduz a memória e permite manter muitos adaptadores para um mesmo modelo base.
Quando usar
O fine-tuning é bom para ensinar comportamento: um formato de saída consistente, uma tarefa estreita de classificação, uma voz da casa ou fazer um modelo pequeno executar uma tarefa tão bem quanto um maior. É uma forma ruim de acrescentar fatos que mudam com frequência, porque o conhecimento fica congelado no momento do treinamento e é difícil de inspecionar. Para isso, a geração aumentada por recuperação costuma ser o melhor primeiro passo, e muitas equipes tentam um prompting cuidadoso antes de qualquer um dos dois.
Limites
Você precisa de exemplos limpos e representativos, de um conjunto de avaliação separado do treinamento e de um plano para retreinar quando o modelo base for atualizado. Um modelo também pode esquecer habilidades gerais se for treinado com força demais em um conjunto estreito. O guia da etapa de fine-tuning lista ferramentas como Unsloth e Axolotl.
Termos relacionados
- LoRA
- LoRA (low-rank adaptation, adaptação de baixo posto) é um método de fine-tuning que congela os pesos originais de um modelo e treina pequenas matrizes de baixo posto adicionadas às suas camadas, então muito menos parâmetros mudam e é preciso bem menos memória de GPU.
- Supervised fine-tuning
- O supervised fine-tuning (SFT, fine-tuning supervisionado) continua o treinamento de um modelo pré-treinado com exemplos de prompts pareados com as respostas que você quer. É o primeiro passo usual para transformar um modelo base em um que segue instruções.
- RLHF
- O RLHF (reinforcement learning from human feedback, aprendizado por reforço a partir de feedback humano) faz o fine-tuning de um modelo de linguagem usando rankings humanos das suas respostas: um reward model aprende essas preferências, e o aprendizado por reforço empurra o modelo para respostas com nota alta.
- Direct preference optimization
- Direct preference optimization (DPO, otimização direta de preferências) é uma forma de alinhar um modelo de linguagem às preferências humanas treinando-o diretamente com pares de respostas preferidas e rejeitadas, usando uma função de perda simples, do tipo classificação, em vez de um modelo de recompensa e aprendizado por reforço.
- Pré-treinamento
- O pré-treinamento (pretraining) é a primeira e maior etapa do treinamento de um modelo, em que ele aprende padrões gerais a partir de um dataset enorme sem rótulos, geralmente prevendo o próximo token, antes de qualquer ajuste para uma tarefa específica.
- Parameter-efficient fine-tuning
- O parameter-efficient fine-tuning (PEFT, fine-tuning eficiente em parâmetros) adapta um modelo pré-treinado treinando apenas um pequeno número de parâmetros novos ou selecionados e deixando o resto congelado. Ele reduz a memória, o processamento e o armazenamento que o fine-tuning completo exige.