Modelo de lenguaje pequeño
Un modelo de lenguaje pequeño (SLM, small language model) es un modelo de lenguaje con relativamente pocos parámetros, normalmente unos pocos miles de millones o menos, creado para funcionar en un portátil, un teléfono o una sola GPU a menor coste que un modelo grande.
También llamado: SLM
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
Los modelos de lenguaje pequeños sacrifican parte de la amplitud de conocimiento a cambio de velocidad, bajo coste y la posibilidad de funcionar en hardware local. Encajan con tareas como clasificación, extracción, enrutamiento, autocompletado y asistentes en el dispositivo, donde un modelo de lenguaje grande sería lento o caro.
Cómo llegan a ser buenos
Los modelos pequeños se apoyan en datos de entrenamiento cuidados. El informe Phi-3 de Microsoft describe phi-3-mini, un modelo de 3.800 millones de parámetros entrenado con 3,3 billones de tokens, que según los autores es lo bastante pequeño para funcionar en un teléfono. Otros se crean mediante knowledge distillation, en la que un pequeño modelo alumno aprende de un modelo maestro más grande.
Cómo ejecutar uno
Con cuantización, un modelo pequeño cabe en unos pocos gigabytes de memoria, así que herramientas como Ollama o llama.cpp pueden ejecutarlo en un portátil. La calculadora de GPU muestra cuánta memoria necesita un tamaño dado.
Límites
No hay un límite de tamaño acordado entre pequeño y grande. Los modelos pequeños contienen menos conocimiento del mundo, manejan peor el razonamiento largo de varios pasos y son más sensibles a la redacción del prompt. Un patrón habitual es enviar las peticiones fáciles a un modelo pequeño y las difíciles a uno más grande.
Términos relacionados
- Modelo de lenguaje grande
- Un modelo de lenguaje grande (LLM, large language model) es una red neuronal con miles de millones de parámetros, entrenada con grandes cantidades de texto para predecir el siguiente token, lo que le permite redactar, responder preguntas, resumir y seguir instrucciones.
- Destilación de conocimiento
- La destilación de conocimiento (knowledge distillation) es un método de entrenamiento en el que un modelo alumno más pequeño aprende a imitar las salidas de un modelo profesor más grande, dando lugar a un modelo destilado que conserva gran parte de la habilidad del profesor a menor coste.
- LLM local
- Un LLM local es un modelo de lenguaje que se ejecuta en tu propio ordenador, teléfono o servidor en lugar de en la API en la nube de un proveedor, de modo que los prompts y los datos se quedan en tu hardware y funciona sin conexión a internet.
- Cuantización
- La cuantización (quantization) es una técnica que guarda los pesos de un modelo, y a veces las activaciones, con menos bits, como 8 o 4 en lugar de 16, para que el modelo necesite menos memoria y a menudo funcione más rápido, a costa de cierta precisión.
- Parámetros del modelo
- Los parámetros del modelo (model parameters) son los números que una red neuronal aprende durante el entrenamiento, sobre todo pesos. El número de parámetros, escrito como 7B para siete mil millones, es la forma abreviada habitual de indicar el tamaño de un modelo.