O que é LlamaFactory?
LlamaFactory é um framework de ajuste fino que suporta mais de 100 modelos de linguagem e de visão e linguagem. Você pode configurar e iniciar o treinamento por uma interface web (LlamaBoard, construída sobre Gradio) ou pela linha de comando com arquivos YAML.
Ele suporta LoRA, QLoRA de 2 a 8 bits, ajuste fino com congelamento e completo, e métodos de preferência como DPO, KTO, ORPO e PPO, e roda em GPUs NVIDIA, NPUs Huawei Ascend e, em commits recentes, aceleradores Intel XPU e Biren. Foi publicado como artigo na ACL 2024.
A última versão com tag, v0.9.5, saiu em 30 de maio de 2026 e ainda é a versão no PyPI; o branch principal está ativo, com commits tão recentes quanto 21 de outubro de 2026.
LlamaFactory vale a pena?
O LlamaFactory é a forma mais acessível de fazer ajuste fino em uma grande variedade de modelos abertos sem escrever código de treinamento. O LlamaBoard permite escolher um modelo, um dataset e um método, acompanhar a curva de perda e conversar com o resultado, e as mesmas execuções existem como arquivos YAML para o llamafactory-cli. Com cerca de 75.700 estrelas no GitHub, ele está perto do Unsloth em popularidade.
Sua tabela de VRAM estimada é a página de planejamento mais útil do README. LoRA em um modelo de 7B precisa de cerca de 16 GB e QLoRA em 4 bits de cerca de 6 GB, enquanto QLoRA em 4 bits em um modelo de 70B precisa de cerca de 48 GB e o ajuste fino completo em 16 bits de 7B começa em 60 GB. FSDP com QLoRA encaixa um modelo de 70B em duas GPUs de 24 GB, e o blog do projeto descreve ajuste fino com KTransformers de modelos de 1.000 bilhões de parâmetros em duas RTX 4090 mais memória da CPU. O suporte a NPUs Ascend, com imagens Docker prontas, é um motivo real para escolhê-lo em vez de ferramentas só para CUDA.
A questão das versões é mais fraca. A v0.9.5, de maio, ainda é a tag mais recente e a versão mais recente no PyPI, então quem quer suporte a modelos recentes instala a partir do main, e alguns modelos também exigem o transformers do branch principal. O changelog do README em inglês para em outubro de 2025, então documentação e código podem divergir.
O lado de servir modelos exige cuidado. Quatro alertas de segurança foram publicados no GitHub, três classificados como altos, incluindo execução remota de código em junho de 2025 e SSRF com leitura de arquivos locais na API de chat em outubro de 2025. A interface web e a API no estilo OpenAI devem ficar em uma máquina confiável, não na internet aberta. Em relação aos vizinhos, o Unsloth persegue velocidade e memória em uma única GPU e o Axolotl é a escolha habitual para execuções reproduzíveis em vários nós; a aposta do LlamaFactory é a amplitude atrás de uma única interface, e é também por isso que seu painel de opções sobrecarrega quem usa pela primeira vez.
Onde ele se destaca
Um engenheiro de ML com uma RTX 4090 de 24 GB
Fazer ajuste fino de um modelo de 7B a 14B com transcrições internas de suporte
Usar LoRA (cerca de 16 GB para 7B) ou QLoRA em 4 bits (cerca de 12 GB para 14B) pelo LlamaBoard ou por um arquivo YAML, e depois servir o adaptador pela API embutida no estilo OpenAI com vLLM. Sem taxa de licença; o custo é o tempo da sua própria GPU.
Um laboratório universitário que roda em hardware Huawei Ascend 910B
Fazer ajuste fino de modelos Qwen ou GLM sem CUDA
Baixar as imagens Docker para Ascend (builds Ubuntu ou openEuler) e seguir o guia de instalação para NPU. Poucas ferramentas de ajuste fino documentam o suporte a NPU tão a fundo, o que poupa o laboratório de portar código de treinamento.
Uma gerente de produto em um banco testando se o ajuste fino supera o prompting
Comparar vários modelos abertos rapidamente sem uma equipe de ML escrevendo código
O LlamaBoard permite que um analista troque modelos e métodos a partir de um formulário, com DPO e KTO para ajuste por preferência. Os pesos dos modelos mantêm suas próprias licenças, como os termos do Llama ou do Gemma, que o jurídico precisa aprovar antes da produção.
Antes de decidir
- Configuração
- Clone e rode pip install -e . (Python 3.11 ou posterior, PyTorch 2.x, CUDA 11.6 ou posterior), ou docker run --gpus=all hiyouga/llamafactory:latest; depois, llamafactory-cli webui abre o LlamaBoard na porta 7860.
- Integrações
- Modelos e datasets do Hugging Face e do ModelScope; DeepSpeed, FSDP e Megatron-core; kernels FlashAttention-2, Unsloth e Liger; logs com TensorBoard, Weights & Biases, MLflow e SwanLab; inferência com vLLM ou SGLang por trás de uma API no estilo OpenAI.
- Dados e privacidade
- Roda localmente; os dados só saem se você ativar um logger de nuvem como Weights & Biases ou SwanLab ou baixar datasets restritos do Hugging Face. O código é Apache-2.0, mas os pesos de cada modelo têm licença própria. Quatro alertas de segurança até agora, incluindo RCE.
- Custo em escala
- Software gratuito, então a conta é o hardware. Pelas estimativas do README, QLoRA em 4 bits em um modelo de 70B precisa de cerca de 48 GB (uma GPU de 80 GB) e LoRA em 16 bits de cerca de 160 GB (pelo menos duas), enquanto o treinamento completo em bf16 puro de 70B precisa de cerca de 600 GB.
- Limites
- As versões com tag ficam meses atrás do main; modelos novos muitas vezes exigem o transformers do main; 1.202 issues e pull requests abertos; a amplitude de opções facilita configurações erradas.
O que é bom
- Interface web em Gradio e CLI em YAML para as mesmas execuções
- Mais de 100 modelos de texto e de visão e linguagem
- Estimativas de VRAM publicadas por método e tamanho de modelo
- Suporte a NVIDIA, NPU Ascend e Intel XPU
O que não é
- Última versão com tag em maio de 2026
- Alertas passados de RCE e SSRF no código de servir modelos
- A documentação em inglês fica atrás do código
- Muitas opções para navegar
Ideal para
Pessoas que querem fazer ajuste fino em muitos modelos abertos diferentes por uma interface gráfica.
Alternativas ao LlamaFactory
LlamaFactory: perguntas frequentes
- LlamaFactory vale a pena?
- O LlamaFactory transforma o ajuste fino em um formulário web para mais de 100 modelos abertos, o que serve melhor a experimentos do que a um pipeline de produção com versões fixas. Damos nota 4.3 de 5.
- Quanto custa LlamaFactory?
- Gratuito e de código aberto sob a licença Apache 2.0.
- Quais são as desvantagens de LlamaFactory?
- Última versão com tag em maio de 2026; alertas passados de RCE e SSRF no código de servir modelos; a documentação em inglês fica atrás do código; muitas opções para navegar.
- Para quem LlamaFactory é indicado?
- Pessoas que querem fazer ajuste fino em muitos modelos abertos diferentes por uma interface gráfica.
- Quanto custa LlamaFactory para uma equipe ou em produção?
- Software gratuito, então a conta é o hardware. Pelas estimativas do README, QLoRA em 4 bits em um modelo de 70B precisa de cerca de 48 GB (uma GPU de 80 GB) e LoRA em 16 bits de cerca de 160 GB (pelo menos duas), enquanto o treinamento completo em bf16 puro de 70B precisa de cerca de 600 GB.
- LlamaFactory é seguro para dados da empresa?
- Roda localmente; os dados só saem se você ativar um logger de nuvem como Weights & Biases ou SwanLab ou baixar datasets restritos do Hugging Face. O código é Apache-2.0, mas os pesos de cada modelo têm licença própria. Quatro alertas de segurança até agora, incluindo RCE.
- Quais são as melhores alternativas ao LlamaFactory?
- As alternativas mais próximas que analisamos são Unsloth, Axolotl e TRL.
Respostas verificadas em 23 de out. de 2026.