Skip to content

Axolotl

Herramienta de ajuste fino de LLM abiertos guiada por configuración, de una sola GPU a clústeres de varios nodos.

Reseña de Sheela · Actualizado

Ver en GitHub Código abierto

Nuestra nota

4.3/5

Axolotl es adonde va el ajuste fino cuando una GPU deja de bastar: un fichero YAML, todas las estrategias de paralelismo y una curva de aprendizaje a la altura.

¿Qué es Axolotl?

Axolotl es un framework de código abierto de post-entrenamiento de LLM que se controla con un único fichero YAML: fijas el modelo base, el formato del dataset y el método, y ejecutas `axolotl train`. La misma configuración cubre el preprocesado, el entrenamiento, la evaluación, la cuantización y la inferencia, y `axolotl export` produce ahora ficheros GGUF para llama.cpp y Ollama.

Cubre el ajuste fino completo, LoRA y QLoRA, el entrenamiento con cuantización hasta NVFP4 y MXFP4, el ajuste por preferencias (DPO, IPO, KTO, ORPO), el aprendizaje por refuerzo (GRPO, GDPO) y los modelos de recompensa, para modelos de texto, de visión y lenguaje y de audio. Para escalar usa DeepSpeed, FSDP2 y paralelismo combinable de tensores, de contexto y de expertos entre nodos.

Necesita una GPU de Nvidia (Ampere o posterior para bf16 y Flash Attention) o una GPU de AMD, Python 3.12 y PyTorch 2.13 o posterior. La versión 0.21.0 se publicó el 16 de octubre de 2026 con Apache 2.0.

¿Merece la pena Axolotl?

El argumento de Axolotl es la reproducibilidad a gran escala. Una ejecución es un fichero YAML que otra persona puede volver a lanzar, y el mismo formato va desde una LoRA en una sola tarjeta hasta un entrenamiento de varios nodos que combina FSDP2 con paralelismo de tensores, de contexto y de expertos. Con unas 12.600 estrellas en GitHub es mucho más pequeño que Unsloth (unas 78.500) o LlamaFactory (unas 75.700), pero sus configuraciones aparecen en fichas de modelos publicadas porque son fáciles de compartir.

La rapidez con que admite modelos nuevos es su otro punto fuerte. Solo en septiembre y octubre de 2026, el README enumera MiniCPM5, Qwen3.6 y Beam de Reflection, carga de QLoRA con FSDP2 por etapas en CPU para modelos más grandes que la memoria de una GPU, exportación a GGUF y un modo de paralelismo de expertos que entrena modelos mixture-of-experts por NVLink o PCIe sin DeepEP. El GRPO asíncrono, añadido en abril, está documentado como hasta un 58% más rápido por paso.

La telemetría está activada por defecto, lo que importa en clústeres compartidos. Axolotl envía a PostHog datos del sistema y del hardware, métricas de ejecución, nombres de modelos y configuraciones de una lista permitida y trazas de error saneadas, y pausa el arranque 10 segundos para avisarlo salvo que pongas AXOLOTL_DO_NOT_TRACK=1. La documentación dice que no se recogen datos personales ni rutas de ficheros.

El coste es la experiencia necesaria. Una referencia de configuración larga, versiones fijadas de Python y PyTorch y el vocabulario del entrenamiento distribuido se dan por sabidos, y no hay una interfaz web como la que ofrece LlamaFactory; la imagen Docker elimina la mayoría de los problemas de entorno. Para una primera LoRA en una sola tarjeta, Unsloth y LlamaFactory son comienzos más suaves. A partir de ahí, el abanico de paralelismo de Axolotl es la razón para aceptar la curva.

Dónde se gana su sitio

  • Un ingeniero de ML en una startup de tecnología jurídica que alquila un nodo de 8 GPU

    Ajustar un modelo abierto grande con datos de contratos mediante ejecuciones reproducibles

    Escribir un YAML con QLoRA y FSDP2, usar la carga por etapas en CPU para que cada GPU no tenga que guardar una copia cuantizada completa, y hacer commit del fichero junto a la versión del dataset. Axolotl es gratuito con Apache 2.0; la factura son las horas de GPU, y la configuración convierte en rutina volver a entrenar tras actualizar los datos.

  • Una investigadora que añade comportamiento de razonamiento a un modelo pequeño

    Ejecutar GRPO con una función de recompensa propia en la GPU de una estación de trabajo

    Partir de los ejemplos incluidos (axolotl fetch examples), cambiar el método a GRPO y apuntarlo a la función de recompensa; el GRPO asíncrono está documentado como hasta un 58% más rápido por paso. Necesita una tarjeta Nvidia Ampere o posterior para bf16 y Flash Attention.

  • Un equipo de producto en una empresa de 30 personas que lanza un asistente que funciona en el dispositivo

    Convertir un modelo ajustado en algo que funcione en Ollama

    Entrenar una LoRA, fusionarla y usar axolotl export para escribir un GGUF cuantizado para llama.cpp u Ollama, en lugar de una cadena de conversión aparte. Poner AXOLOTL_DO_NOT_TRACK=1 si las configuraciones o la elección de modelos son comercialmente sensibles.

Antes de decidirte

Puesta en marcha
Instalación basada en uv (la versión de PyTorch que corresponda y luego `uv pip install --no-build-isolation axolotl[deepspeed]`) o la imagen Docker axolotlai/axolotl, que según el README da menos errores. `axolotl fetch examples` y `axolotl train examples/llama-3/lora-1b.yml` dan una primera ejecución; un notebook de Colab cubre el caso de no tener hardware.
Integraciones
Modelos y datasets de Hugging Face; datos en S3, Azure, GCP y OCI; DeepSpeed y FSDP2; exportación a GGUF para llama.cpp y Ollama; plugins de lanzamiento en la nube, entre ellos Nebius Serverless Jobs, y plantillas en RunPod, Vast.ai y Modal; documentación para agentes incluida mediante `axolotl agent-docs`.
Datos y privacidad
Se ejecuta en tu hardware. La telemetría de PostHog, desactivable, envía datos del sistema, del hardware, métricas de ejecución, nombres de modelos de una lista permitida, configuraciones y errores saneados; AXOLOTL_DO_NOT_TRACK=1 la desactiva. Apache 2.0 permite el uso comercial, aunque siguen aplicándose las licencias de los modelos base. El repositorio no tiene avisos de seguridad publicados.
Coste a escala
El software es gratuito; el coste son las GPU. Axolotl no publica una tabla de VRAM por modelo, así que hay que dimensionar los trabajos con una ejecución de prueba; el trabajo de varios nodos se factura a la tarifa por hora de GPU de tu nube. Hay soporte dedicado mediante acuerdo con los mantenedores, a precios no publicados.
Límites
Sin interfaz gráfica; requisitos de Python 3.12 y PyTorch 2.13+; unas 250 incidencias abiertas; el entrenamiento multimodal se lanzó en beta.

Lo bueno

  • Un fichero YAML reproducible por ejecución
  • FSDP2, DeepSpeed y paralelismo N-D entre nodos
  • SFT, DPO, GRPO, QAT y modelos de recompensa
  • Soporte rápido de modelos nuevos; exportación a GGUF

Lo malo

  • Sin interfaz gráfica
  • Telemetría activada por defecto
  • Da por sabido el entrenamiento distribuido
  • Solo GPU de Nvidia o AMD

Ideal para

Profesionales que ejecutan ajustes finos repetibles, sobre todo en varias GPU.

Alternativas a Axolotl

Axolotl: preguntas frecuentes

¿Merece la pena Axolotl?
Axolotl es adonde va el ajuste fino cuando una GPU deja de bastar: un fichero YAML, todas las estrategias de paralelismo y una curva de aprendizaje a la altura. Le damos un 4.3 sobre 5.
¿Cuánto cuesta Axolotl?
Gratuito y de código abierto con la licencia Apache 2.0.
¿Qué inconvenientes tiene Axolotl?
Sin interfaz gráfica; telemetría activada por defecto; da por sabido el entrenamiento distribuido; solo GPU de Nvidia o AMD.
¿Para quién es Axolotl?
Profesionales que ejecutan ajustes finos repetibles, sobre todo en varias GPU.
¿Cuánto cuesta Axolotl para un equipo o en producción?
El software es gratuito; el coste son las GPU. Axolotl no publica una tabla de VRAM por modelo, así que hay que dimensionar los trabajos con una ejecución de prueba; el trabajo de varios nodos se factura a la tarifa por hora de GPU de tu nube. Hay soporte dedicado mediante acuerdo con los mantenedores, a precios no publicados.
¿Es Axolotl seguro para los datos de la empresa?
Se ejecuta en tu hardware. La telemetría de PostHog, desactivable, envía datos del sistema, del hardware, métricas de ejecución, nombres de modelos de una lista permitida, configuraciones y errores saneados; AXOLOTL_DO_NOT_TRACK=1 la desactiva. Apache 2.0 permite el uso comercial, aunque siguen aplicándose las licencias de los modelos base. El repositorio no tiene avisos de seguridad publicados.
¿Cuáles son las mejores alternativas a Axolotl?
Las alternativas más cercanas que hemos analizado son Unsloth, TRL y LlamaFactory.

Respuestas comprobadas el 26 oct 2026.