Etapa 15 de 22
Fine-tuning
Adaptar um modelo aberto aos seus dados, ao seu tom ou à sua tarefa. O fine-tuning corrige estilo e habilidades específicas a baixo custo. É uma forma ruim de acrescentar fatos; isso é trabalho da recuperação.
Por Andrew Miller · Verificado em 19 de out. de 2026 · Como avaliamos
Como escolher
- Uma GPU e orçamento pequeno: ferramentas de LoRA feitas para eficiência.
- Treinamento repetível com várias GPUs: frameworks orientados por configuração.
- Estilos de imagem e personagens: treinadores de LoRA para modelos de difusão.
O que observar
As perguntas que separam as opções, em ordem de importância.
01
LoRA ou QLoRA primeiro, fine-tuning completo só com motivo
O LoRA treina pequenos pesos adaptadores sobre um modelo congelado; o QLoRA faz o mesmo com um modelo carregado em 4 bits, então cabe em muito menos memória. O fine-tuning completo atualiza todos os pesos e só vale a pena quando o comportamento do modelo precisa mudar muito. Tente o LoRA primeiro: é mais barato, permite iterar mais rápido e o adaptador pode ser trocado na hora de servir. Serviços gerenciados como o Together AI usam LoRA por padrão pelo mesmo motivo.
02
Memória de GPU, calculada antes de alugar
A memória decide qual GPU, e quantas, você precisa. As estimativas publicadas pelo LlamaFactory para um modelo de 7B são uma boa regra prática: cerca de 120 GB para fine-tuning completo em precisão mista, 60 GB em bf16 puro, 16 GB para LoRA e 6 GB para QLoRA em 4 bits. Escale aproximadamente com o número de parâmetros e deixe folga para sequências longas. Alegações de velocidade e VRAM dos fornecedores, como o 2x mais rápido com 70% menos memória do Unsloth, devem ser tratadas como limites superiores que variam conforme o modelo.
03
Os métodos de treinamento de que você realmente vai precisar
O SFT (fine-tuning supervisionado com respostas de exemplo) cobre a maior parte do trabalho de estilo e formato. Métodos de preferência como DPO, KTO e ORPO ensinam ao modelo qual de duas respostas é melhor. Métodos de RL como o GRPO recompensam respostas corretas em tarefas verificáveis, como matemática ou código. Verifique se a ferramenta suporta o método de que você precisa agora e o que você provavelmente vai precisar depois: o LlamaFactory, por exemplo, manda quem quer GRPO para um projeto separado, enquanto TRL, Axolotl e Unsloth o suportam diretamente.
04
Uma GPU ou várias
Eficiência em uma GPU e escala com várias GPUs são problemas diferentes. O Unsloth foi construído para espremer uma execução em uma única placa. O Axolotl trata FSDP2, DeepSpeed, vários nós e paralelismo de sequência como recursos de primeira classe, o que importa quando um modelo ou um contexto não cabe mais em uma GPU. O TRL herda DDP, DeepSpeed e FSDP do Accelerate. Se você espera passar de uma GPU, escolha uma ferramenta cujo caminho distribuído seja documentado, e não um improviso.
05
Configuração, código ou interface
Ferramentas guiadas por YAML (Axolotl, LlamaFactory) tornam as execuções reproduzíveis e fáceis de compartilhar; muitos model cards publicam a configuração exata do Axolotl. Bibliotecas (TRL, Transformers) dão controle total do loop de treinamento para pesquisa ou pipelines incomuns, ao custo de mais código. Interfaces (o LlamaBoard do LlamaFactory, o Unsloth Studio, o AI Toolkit) facilitam os experimentos. Escolha pensando em quem vai rodar o job de novo daqui a seis meses.
06
Cobertura de modelos e rapidez com que novos modelos chegam
Uma ferramenta só é útil se suporta o modelo base que você quer, incluindo o seu template de chat e qualquer parte de visão. O Transformers costuma receber as novas arquiteturas primeiro e as ferramentas de treinamento vêm depois; o LlamaFactory lista mais de 100 modelos de linguagem e de visão e linguagem. Confira no changelog com que rapidez os últimos grandes modelos abertos passaram a ser suportados, não só a lista atual.
07
Caminho de exportação para a sua stack de serving
O treinamento é metade do trabalho. Verifique se o resultado pode ser mesclado e exportado no formato que o seu motor de inferência carrega: Safetensors para vLLM e SGLang, GGUF para llama.cpp e Ollama. O Unsloth exporta GGUF diretamente; serviços gerenciados como o Together AI permitem baixar os pesos ou servi-los em um endpoint dedicado. Uma execução que você não consegue servir a baixo custo é desperdício.
08
Licença da ferramenta e do modelo base
A maioria dos frameworks aqui é Apache 2.0 ou MIT, mas a interface opcional Studio do Unsloth é AGPL-3.0, o que importa se você a incorporar a um produto. A restrição maior costuma ser o modelo base: a sua licença se estende ao seu fine-tune, incluindo quaisquer restrições de uso ou regras de nomenclatura.
Como as opções se diferenciam
As opções se dividem em quatro famílias. Bibliotecas de treinamento (TRL, Transformers) são código Python que você mesmo monta; recebem os novos métodos primeiro e dão controle total, mas o ajuste de memória e a configuração distribuída ficam com você. Frameworks de receitas (Axolotl, LlamaFactory) envolvem essas bibliotecas em configurações YAML ou em uma interface web, então uma execução é um arquivo e um comando; o Axolotl pende para a escala com várias GPUs, o LlamaFactory para a variedade de modelos e uma interface sem código. Ferramentas focadas em eficiência (Unsloth) reescrevem kernels de GPU para caber modelos maiores em uma única placa.
Dois casos à parte completam o quadro. O AI Toolkit treina LoRAs para modelos de difusão de imagem e vídeo, um trabalho diferente de ajustar um modelo de linguagem. APIs de fine-tuning gerenciado, como a do Together AI, eliminam as GPUs por completo: você envia os dados, paga por token de treinamento e recebe um endpoint ou pesos para download, ao custo de menos métodos (o GRPO, por exemplo, fica fora do serviço gerenciado) e de menos controle.
8 ferramentas comparadas
Ordenadas pela nossa nota. Abra qualquer avaliação para ver as fontes, os preços e o veredito completo.
| Ferramenta | Nota | Nosso veredito | Ideal para | Preço |
|---|---|---|---|---|
| Hugging Face Transformersrepositório | 4.8/5 | Quase toda ferramenta de modelos abertos lê o código dos modelos do Transformers, o que o torna essencial de conhecer e raramente o que você usa para servir. | Desenvolvedores Python e pesquisadores que trabalham com modelos abertos em qualquer nível. | Gratuito e de código aberto sob a licença Apache 2.0. A Hugging Face vende à parte planos do Hub e inferência hospedada. |
| Unslothrepositório | 4.6/5 | O Unsloth transforma uma única placa de 24 GB em uma máquina de fine-tuning crível, e deixa de ser a escolha óbvia a partir do segundo servidor. | Pessoas e equipes pequenas que fazem fine-tuning de modelos abertos com hardware de GPU limitado. | Gratuito. Biblioteca principal sob Apache 2.0; interface Studio sob AGPL-3.0. Existem planos pagos Pro e Enterprise para treinamento em várias GPUs e vários nós; os preços não são publicados. |
| TRLrepositório | 4.5/5 | TRL é o código de pós-treinamento que as ferramentas de fine-tuning mais amigáveis encapsulam; vá direto a ele quando o que você precisa mudar é o próprio loop de treinamento. | Engenheiros e pesquisadores de ML que constroem pipelines de pós-treinamento sob medida. | Gratuito e de código aberto sob a licença Apache 2.0. |
| Together AIferramenta | 4.5/5 | A Together roda modelos abertos em todas as etapas com uma única conta, de uma recarga de $15 na API a um cluster de H100 reservado, e seu hardware dedicado custa menos do que cobram os provedores especializados. | Equipes que trabalham com modelos abertos e querem passar de chamadas de API para fine-tuning e GPUs próprias com um só provedor. | Pré-pago, primeira compra mínima de $15, sem teste gratuito. Por 1M de tokens, p. ex. gpt-oss-120B $0.15 de entrada / $0.60 de saída, Kimi K3 $3 / $15; lote com até 50% de desconto. Endpoints dedicados: H100 $5.49/hora, B200 $8.99/hora. Clusters de GPU: H100 $3.99/hora sob demanda, $1.99 interruptível. Fine-tuning a partir de $0.34 por 1M de tokens. |
| Axolotlrepositório | 4.3/5 | O Axolotl é para onde vai o fine-tuning quando uma GPU deixa de bastar: um arquivo YAML, todas as estratégias de paralelismo e uma curva de aprendizado à altura. | Profissionais que rodam fine-tunings repetíveis, sobretudo com várias GPUs. | Gratuito e de código aberto sob a licença Apache 2.0. |
| LlamaFactoryrepositório | 4.3/5 | O LlamaFactory transforma o ajuste fino em um formulário web para mais de 100 modelos abertos, o que serve melhor a experimentos do que a um pipeline de produção com versões fixas. | Pessoas que querem fazer ajuste fino em muitos modelos abertos diferentes por uma interface gráfica. | Gratuito e de código aberto sob a licença Apache 2.0. |
| Roboflowferramenta | 4.3/5 | O Roboflow leva uma equipe de fábrica ou armazém de uma pasta de fotos a um modelo de detecção funcionando mais rápido que qualquer outra opção, desde que alguém desative o direito padrão dele de usar as suas imagens. | Equipes de operações, manufatura e produto que precisam de um modelo próprio de detecção de objetos ou inspeção sem montar um pipeline de ML. | Grátis (10 créditos/mês); Core de US$ 39/mês (20 créditos) até US$ 1.399/mês (500 créditos), de US$ 3,90 a US$ 2,86 por crédito; Enterprise sob consulta. Inferência auto-hospedada grátis em todos os planos. |
| AI Toolkitrepositório | 4.2/5 | O AI Toolkit é onde o suporte a um novo modelo aberto de imagem ou vídeo costuma chegar primeiro, e ele espera que você traga a GPU e a paciência. | Criadores que treinam LoRAs para modelos abertos de imagem e vídeo. | Gratuito e de código aberto sob MIT. O Ostris Cloud aluga GPUs pré-configuradas por segundo, de $0.71/hora (A40 48 GB) a $2.99/hora (RTX PRO 6000 96 GB). |
Lado a lado
As especificações que importam nesta etapa. Verificadas em 19 de out. de 2026; confirme no site do fornecedor antes de decidir.
| Ferramenta | Interface | Métodos | LoRA / QLoRA / completo | Várias GPUs | Hardware | Licença |
|---|---|---|---|---|---|---|
| Hugging Face Transformers | Biblioteca Python (Trainer) | Treinamento supervisionado | Completo; LoRA via PEFT | DDP, DeepSpeed, FSDP | Dispositivos com PyTorch | Apache 2.0 |
| Unsloth | Biblioteca Python, interface Studio, desktop | SFT, DPO, GRPO, GSPO, pretraining | LoRA, QLoRA, completo, FP8 | Suportado (configuração na documentação) | GPUs NVIDIA, AMD, Intel | Núcleo Apache 2.0; Studio AGPL-3.0 |
| TRL | Biblioteca Python + CLI | SFT, DPO, KTO, GRPO, reward | LoRA/QLoRA via PEFT, completo | DDP, DeepSpeed, FSDP (Accelerate) | GPUs com PyTorch, AWS Trainium | Apache 2.0 |
| Together AI | API gerenciada | SFT, DPO (GRPO via produto separado) | LoRA (padrão), completo | Gerenciado | GPUs da Together | Pago, por token de treinamento |
| Axolotl | Configuração YAML + CLI | SFT, DPO, KTO, ORPO, GRPO, reward | LoRA, QLoRA, completo, QAT | FSDP2, DeepSpeed, vários nós | NVIDIA (Ampere+), AMD | Apache 2.0 |
| LlamaFactory | Interface web + CLI com YAML | SFT, RM, PPO, DPO, KTO, ORPO, SimPO | LoRA, QLoRA de 2 a 8 bits, freeze, completo | DeepSpeed, FSDP, Megatron | NVIDIA, AMD, Ascend NPU | Apache 2.0 |
| AI Toolkit | Configuração YAML + interface web | Treinamento de LoRA para difusão | LoRA (modelos de imagem e vídeo) | Não publicado | Normalmente GPU de ponta | MIT |
Onde esta etapa se encaixa
- Pipeline de geração de imagens: começaríamos com AI Toolkit.
- O seu próprio modelo com fine-tuning: começaríamos com Unsloth, Axolotl.