¿Qué es LlamaFactory?
LlamaFactory es un framework de fine-tuning compatible con más de 100 modelos de lenguaje y de visión y lenguaje. Puedes configurar y lanzar el entrenamiento desde una interfaz web (LlamaBoard, construida con Gradio) o desde la línea de comandos con archivos YAML.
Admite LoRA, QLoRA de 2 a 8 bits, fine-tuning con capas congeladas y completo, y métodos de preferencias como DPO, KTO, ORPO y PPO, y funciona en GPU de NVIDIA, NPU Huawei Ascend y, en commits recientes, aceleradores Intel XPU y Biren. Se publicó como artículo en ACL 2024.
La última versión etiquetada, la v0.9.5, salió el 30 de mayo de 2026 y sigue siendo la de PyPI; la rama principal está activa, con commits tan recientes como el 21 de octubre de 2026.
¿Merece la pena LlamaFactory?
LlamaFactory es la forma más accesible de hacer fine-tuning de una amplia gama de modelos abiertos sin escribir código de entrenamiento. LlamaBoard te deja elegir modelo, dataset y método, seguir la curva de pérdida y chatear con el resultado, y las mismas ejecuciones existen como archivos YAML para llamafactory-cli. Con unas 75.700 estrellas en GitHub, está cerca de Unsloth en popularidad.
Su tabla de VRAM estimada es la página de planificación más útil del README. LoRA sobre un modelo de 7B necesita unos 16 GB y QLoRA de 4 bits unos 6 GB, mientras que QLoRA de 4 bits sobre un modelo de 70B necesita unos 48 GB y el fine-tuning completo de 16 bits de un 7B empieza en 60 GB. FSDP con QLoRA hace caber un modelo de 70B en dos GPU de 24 GB, y el blog del proyecto describe el fine-tuning con KTransformers de modelos de 1.000.000 millones de parámetros en dos RTX 4090 más memoria de CPU. El soporte de NPU Ascend, con imágenes de Docker listas, es un motivo real para elegirlo frente a herramientas solo para CUDA.
La parte de versiones es más floja. La v0.9.5 de mayo sigue siendo la última etiqueta y la última versión en PyPI, así que quien quiera soporte para modelos recientes instala desde main, y algunos modelos necesitan también transformers desde su rama principal. El changelog del README en inglés se detiene en octubre de 2025, así que documentación y código pueden no coincidir.
La parte de servir modelos requiere cuidado. Se han publicado cuatro avisos de seguridad en GitHub, tres de gravedad alta, entre ellos ejecución remota de código en junio de 2025 y SSRF con lectura de archivos locales en la API de chat en octubre de 2025. La interfaz web y la API al estilo de OpenAI deben estar en una máquina de confianza, no en internet abierto. Frente a sus vecinos, Unsloth persigue velocidad y memoria en una sola GPU y Axolotl es la opción habitual para ejecuciones reproducibles en varios nodos; la apuesta de LlamaFactory es la amplitud tras una sola interfaz, que es también la razón de que su panel de opciones abrume a quien lo usa por primera vez.
Dónde se gana su sitio
Un ingeniero de ML con una RTX 4090 de 24 GB
Hacer fine-tuning de un modelo de 7B a 14B con transcripciones internas de soporte
Usar LoRA (unos 16 GB para 7B) o QLoRA de 4 bits (unos 12 GB para 14B) desde LlamaBoard o un archivo YAML, y servir después el adaptador con la API al estilo de OpenAI incluida, sobre vLLM. Sin coste de licencia; el coste es tu propio tiempo de GPU.
Un laboratorio universitario que trabaja con hardware Huawei Ascend 910B
Hacer fine-tuning de modelos Qwen o GLM sin CUDA
Descargar las imágenes de Docker para Ascend (versiones para Ubuntu u openEuler) y seguir la guía de instalación para NPU. Pocas herramientas de fine-tuning documentan el soporte de NPU con tanto detalle, lo que ahorra al laboratorio portar el código de entrenamiento.
Una responsable de producto en un banco que prueba si el fine-tuning supera al prompting
Comparar varios modelos abiertos rápidamente sin que un equipo de ML escriba código
LlamaBoard permite a un analista cambiar de modelo y de método desde un formulario, con DPO y KTO para ajuste por preferencias. Los pesos de los modelos mantienen sus propias licencias, como las condiciones de Llama o de Gemma, que el departamento legal debe aprobar antes de producción.
Antes de decidirte
- Puesta en marcha
- Clonar y pip install -e . (Python 3.11 o posterior, PyTorch 2.x, CUDA 11.6 o posterior), o docker run --gpus=all hiyouga/llamafactory:latest; después llamafactory-cli webui abre LlamaBoard en el puerto 7860.
- Integraciones
- Modelos y datasets de Hugging Face y ModelScope; DeepSpeed, FSDP y Megatron-core; kernels FlashAttention-2, Unsloth y Liger; registros en TensorBoard, Weights & Biases, MLflow y SwanLab; inferencia con vLLM o SGLang tras una API al estilo de OpenAI.
- Datos y privacidad
- Funciona en local; los datos solo salen si activas un registro en la nube como Weights & Biases o SwanLab o descargas datasets restringidos de Hugging Face. El código es Apache-2.0, pero los pesos de cada modelo llevan su propia licencia. Cuatro avisos de seguridad hasta la fecha, incluido un RCE.
- Coste a escala
- Software gratuito, así que la factura es el hardware. Según las estimaciones del README, QLoRA de 4 bits sobre un modelo de 70B necesita unos 48 GB (una GPU de 80 GB) y LoRA de 16 bits unos 160 GB (al menos dos), mientras que el entrenamiento completo en bf16 puro de un 70B necesita alrededor de 600 GB.
- Límites
- Las versiones etiquetadas van meses por detrás de main; los modelos nuevos suelen necesitar transformers desde main; 1.202 incidencias y pull requests abiertas; la cantidad de opciones facilita configurarlo mal.
Lo bueno
- Interfaz web en Gradio y CLI con YAML para las mismas ejecuciones
- Más de 100 modelos de texto y de visión y lenguaje
- Estimaciones de VRAM publicadas por método y tamaño de modelo
- Soporte para NVIDIA, NPU Ascend e Intel XPU
Lo malo
- Última versión etiquetada en mayo de 2026
- Avisos anteriores de RCE y SSRF en el código de servicio
- La documentación en inglés va por detrás del código
- Muchas opciones entre las que orientarse
Ideal para
Quienes quieren hacer fine-tuning de muchos modelos abiertos distintos a través de una interfaz gráfica.
Alternativas a LlamaFactory
LlamaFactory: preguntas frecuentes
- ¿Merece la pena LlamaFactory?
- LlamaFactory convierte el fine-tuning en un formulario web para más de 100 modelos abiertos, algo que encaja mejor con experimentos que con un pipeline de producción con versiones fijadas. Le damos un 4.3 sobre 5.
- ¿Cuánto cuesta LlamaFactory?
- Gratuito y de código abierto bajo licencia Apache 2.0.
- ¿Qué inconvenientes tiene LlamaFactory?
- Última versión etiquetada en mayo de 2026; avisos anteriores de RCE y SSRF en el código de servicio; la documentación en inglés va por detrás del código; muchas opciones entre las que orientarse.
- ¿Para quién es LlamaFactory?
- Quienes quieren hacer fine-tuning de muchos modelos abiertos distintos a través de una interfaz gráfica.
- ¿Cuánto cuesta LlamaFactory para un equipo o en producción?
- Software gratuito, así que la factura es el hardware. Según las estimaciones del README, QLoRA de 4 bits sobre un modelo de 70B necesita unos 48 GB (una GPU de 80 GB) y LoRA de 16 bits unos 160 GB (al menos dos), mientras que el entrenamiento completo en bf16 puro de un 70B necesita alrededor de 600 GB.
- ¿Es LlamaFactory seguro para los datos de la empresa?
- Funciona en local; los datos solo salen si activas un registro en la nube como Weights & Biases o SwanLab o descargas datasets restringidos de Hugging Face. El código es Apache-2.0, pero los pesos de cada modelo llevan su propia licencia. Cuatro avisos de seguridad hasta la fecha, incluido un RCE.
- ¿Cuáles son las mejores alternativas a LlamaFactory?
- Las alternativas más cercanas que hemos analizado son Unsloth, Axolotl y TRL.
Respuestas comprobadas el 23 oct 2026.