Fine-tuning eficiente en parámetros
El fine-tuning eficiente en parámetros (PEFT, parameter-efficient fine-tuning) adapta un modelo preentrenado entrenando solo un pequeño número de parámetros nuevos o seleccionados y dejando el resto congelado. Reduce la memoria, el cómputo y el almacenamiento que exige el fine-tuning completo.
También llamado: PEFT
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
El fine-tuning completo actualiza todos los pesos de un modelo. Para un modelo con miles de millones de parámetros eso exige varias GPU grandes, y cada copia ajustada es tan grande como la original. Los métodos PEFT lo evitan congelando el modelo base y entrenando un pequeño complemento.
Cómo funciona
El método más conocido es LoRA, que añade pequeñas matrices de bajo rango junto a las matrices de pesos existentes y entrena solo esas. Otras familias añaden a la entrada breves "soft prompts" entrenables (prompt tuning, prefix tuning), insertan pequeñas capas adaptadoras entre las existentes o entrenan solo un subconjunto de los pesos existentes. QLoRA combina LoRA con un modelo base cuantizado para que el entrenamiento quepa en una sola GPU de consumo para muchos tamaños de modelo.
El resultado suele ser un archivo de unos pocos megabytes a unos cientos de megabytes que cargas sobre el modelo base. Un modelo base puede servir muchos adaptadores, uno por cliente o tarea.
Por qué importa
PEFT es la razón de que ajustar modelos abiertos sea práctico con hardware modesto. Bibliotecas como Hugging Face PEFT, Unsloth y LLaMA-Factory incluyen estos métodos. En una tarea concreta, la calidad suele acercarse a la del fine-tuning completo.
Límites
PEFT cambia bien el comportamiento y el estilo, pero es una forma débil de añadir grandes cantidades de conocimiento nuevo; para eso suele ser mejor la generación aumentada por recuperación. Un adaptador está ligado al modelo base exacto con el que se entrenó y no funcionará con otro distinto.
Términos relacionados
- LoRA
- LoRA (low-rank adaptation, adaptación de bajo rango) es un método de fine-tuning que congela los pesos originales de un modelo y entrena pequeñas matrices de bajo rango añadidas a sus capas, de modo que cambian muchos menos parámetros y se necesita mucha menos memoria de GPU.
- Fine-tuning
- El fine-tuning (ajuste fino) es un entrenamiento adicional de un modelo preentrenado con un conjunto de datos más pequeño y específico de una tarea, para que el modelo adopte una habilidad, un formato, un tono o un dominio concretos sin entrenarlo desde cero.
- Fine-tuning supervisado
- El fine-tuning supervisado (SFT, supervised fine-tuning) sigue entrenando un modelo preentrenado con ejemplos de prompts emparejados con las respuestas que quieres. Es el primer paso habitual para convertir un modelo base en uno que sigue instrucciones.
- Cuantización
- La cuantización (quantization) es una técnica que guarda los pesos de un modelo, y a veces las activaciones, con menos bits, como 8 o 4 en lugar de 16, para que el modelo necesite menos memoria y a menudo funcione más rápido, a costa de cierta precisión.
- Pesos del modelo
- Los pesos del modelo (model weights) son los números aprendidos dentro de una red neuronal, fijados durante el entrenamiento, que deciden cómo convierte la entrada en salida. Un checkpoint es un archivo o conjunto de archivos guardado que contiene esos pesos.