Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Modelo de lenguaje pequeño

Un modelo de lenguaje pequeño (SLM, small language model) es un modelo de lenguaje con relativamente pocos parámetros, normalmente unos pocos miles de millones o menos, creado para funcionar en un portátil, un teléfono o una sola GPU a menor coste que un modelo grande.

También llamado: SLM

Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas

Los modelos de lenguaje pequeños sacrifican parte de la amplitud de conocimiento a cambio de velocidad, bajo coste y la posibilidad de funcionar en hardware local. Encajan con tareas como clasificación, extracción, enrutamiento, autocompletado y asistentes en el dispositivo, donde un modelo de lenguaje grande sería lento o caro.

Cómo llegan a ser buenos

Los modelos pequeños se apoyan en datos de entrenamiento cuidados. El informe Phi-3 de Microsoft describe phi-3-mini, un modelo de 3.800 millones de parámetros entrenado con 3,3 billones de tokens, que según los autores es lo bastante pequeño para funcionar en un teléfono. Otros se crean mediante knowledge distillation, en la que un pequeño modelo alumno aprende de un modelo maestro más grande.

Cómo ejecutar uno

Con cuantización, un modelo pequeño cabe en unos pocos gigabytes de memoria, así que herramientas como Ollama o llama.cpp pueden ejecutarlo en un portátil. La calculadora de GPU muestra cuánta memoria necesita un tamaño dado.

Límites

No hay un límite de tamaño acordado entre pequeño y grande. Los modelos pequeños contienen menos conocimiento del mundo, manejan peor el razonamiento largo de varios pasos y son más sensibles a la redacción del prompt. Un patrón habitual es enviar las peticiones fáciles a un modelo pequeño y las difíciles a uno más grande.

Términos relacionados

Modelo de lenguaje grande
Un modelo de lenguaje grande (LLM, large language model) es una red neuronal con miles de millones de parámetros, entrenada con grandes cantidades de texto para predecir el siguiente token, lo que le permite redactar, responder preguntas, resumir y seguir instrucciones.
Destilación de conocimiento
La destilación de conocimiento (knowledge distillation) es un método de entrenamiento en el que un modelo alumno más pequeño aprende a imitar las salidas de un modelo profesor más grande, dando lugar a un modelo destilado que conserva gran parte de la habilidad del profesor a menor coste.
LLM local
Un LLM local es un modelo de lenguaje que se ejecuta en tu propio ordenador, teléfono o servidor en lugar de en la API en la nube de un proveedor, de modo que los prompts y los datos se quedan en tu hardware y funciona sin conexión a internet.
Cuantización
La cuantización (quantization) es una técnica que guarda los pesos de un modelo, y a veces las activaciones, con menos bits, como 8 o 4 en lugar de 16, para que el modelo necesite menos memoria y a menudo funcione más rápido, a costa de cierta precisión.
Parámetros del modelo
Los parámetros del modelo (model parameters) son los números que una red neuronal aprende durante el entrenamiento, sobre todo pesos. El número de parámetros, escrito como 7B para siete mil millones, es la forma abreviada habitual de indicar el tamaño de un modelo.

Fuentes