Modelo base
Un modelo base (base model) es un modelo de lenguaje recién salido del preentrenamiento, antes del ajuste por instrucciones o del entrenamiento con feedback humano. Continúa el texto que se le da en lugar de seguir instrucciones o mantener una conversación.
También llamado: pretrained checkpoint, pretrained model, -Base
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
Pregunta a un modelo base "¿Cuál es la capital de Francia?" y puede que responda, o puede que escriba tres preguntas de concurso más, porque una lista de preguntas es una continuación probable. Ha aprendido el lenguaje y muchos datos durante el preentrenamiento, pero no se le ha enseñado a actuar como asistente.
Dónde los ves
Los lanzamientos de modelos abiertos suelen incluir dos versiones: un checkpoint base y un modelo instruct. Algunos nombres lo dicen, como ERNIE 5.5 Flash Base. Las API alojadas casi siempre sirven solo la versión ajustada.
Por qué usarías uno
Los modelos base son el punto de partida habitual para tu propio fine-tuning, porque no han adquirido el estilo, las negativas ni el formato de chat de otro equipo. Los investigadores los usan para estudiar lo que produce el preentrenamiento por sí solo. También funcionan bien en tareas de pura continuación, como completar código o generar texto con un estilo dado.
Puedes sacar trabajo útil de un modelo base planteando el prompt como un texto que continuaría de forma natural, con unos cuantos ejemplos delante. El artículo de GPT-3 hizo exactamente eso: probó un modelo sin fine-tuning, dándole tareas y ejemplos solo como texto. Esto es el few-shot prompting.
En qué se diferencia de un modelo fundacional
Un modelo fundacional es cualquier modelo amplio pensado para adaptarse a muchas tareas. Un modelo base es un checkpoint concreto: el que no está ajustado. Un modelo instruct construido sobre él sigue siendo un modelo fundacional, pero ya no es un modelo base.
Términos relacionados
- Modelo instruct
- Un modelo instruct (modelo ajustado a instrucciones) es un modelo de lenguaje base que se ha seguido entrenando con instrucciones emparejadas con buenas respuestas, y a menudo con feedback humano, para que siga peticiones en lugar de limitarse a continuar texto.
- Preentrenamiento
- El preentrenamiento (pretraining) es la primera y mayor etapa del entrenamiento de un modelo, en la que aprende patrones generales de un conjunto de datos muy grande y sin etiquetar, normalmente prediciendo el siguiente token, antes de cualquier ajuste para una tarea concreta.
- Modelo fundacional
- Un modelo fundacional (foundation model) es un modelo grande entrenado con datos amplios a gran escala que se puede adaptar a muchas tareas posteriores distintas, mediante prompts o fine-tuning, en lugar de construirse para una sola tarea.
- Fine-tuning
- El fine-tuning (ajuste fino) es un entrenamiento adicional de un modelo preentrenado con un conjunto de datos más pequeño y específico de una tarea, para que el modelo adopte una habilidad, un formato, un tono o un dominio concretos sin entrenarlo desde cero.
- Few-shot prompting
- El few-shot prompting (prompting con pocos ejemplos) consiste en dar a un modelo de lenguaje unos pocos ejemplos resueltos de una tarea dentro del prompt, para que pueda copiar el patrón con una entrada nueva sin ningún reentrenamiento.