Mejores herramientas de código abierto para ejecutar LLMs en local de 2026

De las 17 opciones de herramientas de código abierto para ejecutar LLMs en local que hemos analizado, ahora mismo las mejores son llama.cpp, vLLM y Ollama. Cada una aparece según nuestra nota, con su precio, nuestro veredicto y para quién es.

Por Sheela · Actualizado el 31 oct 2026 · Cómo analizamos

Cómo clasificamos: por nuestra nota sobre 5, a partir de reseñas basadas en los precios, la documentación y las políticas de cada producto, además de benchmarks independientes cuando existen, todo comprobado en la fecha que indica cada reseña. No cobramos comisiones de afiliación.

1
llama.cpp
Si un modelo abierto funciona en un portátil, casi seguro que lo hace a través de llama.cpp, y nada más cubre tanto hardware.
Ideal para: Desarrolladores que quieren control directo para ejecutar modelos abiertos en local, en dispositivos edge o en servidores modestos.
Precio: Gratuito y de código abierto bajo licencia MIT. Sin edición de pago.
Lee nuestra reseña de llama.cpp
4.8/5
2
vLLM
Sigue siendo el motor para poner un modelo abierto detrás de una API multiusuario, siempre que alguien del equipo se haga cargo de sus actualizaciones y de su exposición en la red.
Ideal para: Equipos que sirven modelos abiertos a muchos usuarios simultáneos en servidores con GPU.
Precio: Gratuito y de código abierto con licencia Apache 2.0. Pagas las GPU en las que se ejecuta.
Lee nuestra reseña de vLLM
4.7/5
3
Ollama
Modelos locales con un solo comando, con valores por defecto (contexto de 4.096 tokens, una petición a la vez, sin inicio de sesión) pensados para un portátil y nada más grande.
Ideal para: Desarrolladores y particulares que quieren ejecutar modelos abiertos en local con la mínima configuración.
Precio: Código abierto (MIT) y gratis en local. Ollama Cloud opcional: Free con créditos iniciales; Pro 20 $/mes (60 $ en créditos); Max 100 $/mes (300 $ en créditos); Team 500 $/mes (1.000 $ en créditos compartidos, usuarios ilimitados); Enterprise a medida.
Lee nuestra reseña de Ollama
4.6/5
4
MLX
MLX convierte un Mac con mucha memoria en una máquina creíble para inferencia local y ajuste con LoRA; fuera de Apple silicon es un port, no un motivo para cambiar.
Ideal para: Desarrolladores e investigadores que trabajan en Mac y quieren velocidad nativa y control desde Python en Apple silicon.
Precio: Gratuito y de código abierto bajo licencia MIT.
Lee nuestra reseña de MLX
4.4/5
5
SGLang
SGLang está hecho para las cargas de agentes y RL que reenvían los mismos prompts largos, y su sitio es detrás de una red bien cerrada.
Ideal para: Equipos que sirven modelos abiertos con mucha reutilización de prompts, como agentes y chat de varios turnos.
Precio: Gratuito y de código abierto con licencia Apache 2.0.
Lee nuestra reseña de SGLang
4.4/5
6
audio.cpp
audio.cpp está haciendo por la voz local lo que llama.cpp hizo por los modelos de chat, y a los cuatro meses ya ejecuta más de 110 familias de modelos.
Ideal para: Ingenieros que autoalojan varios modelos de voz o audio y quieren un solo runtime nativo y una API HTTP en lugar de un entorno de Python por modelo.
Precio: Gratuito con Apache 2.0. No hay edición de pago. Los pesos de los modelos conservan sus propias licencias, muchas de ellas no comerciales.
Lee nuestra reseña de audio.cpp
4.3/5
7
colibri
Un motor en C que lee desde disco y hace funcionar modelos abiertos de 744B parámetros en un ordenador de sobremesa, despacio, con un sustituto local honesto de la API de decisiones de Jev como extra.
Ideal para: Aficionados y desarrolladores que quieren ejecutar en su propia máquina modelos MoE abiertos de tamaño frontera, o probar decisiones al estilo de Jev.
Precio: Gratuito y de código abierto (Apache 2.0). Cada modelo conserva su propia licencia.
Lee nuestra reseña de colibri
4.2/5
8
Strata
Una forma realmente ingeniosa de ejecutar un modelo de 125B de parámetros en una tarjeta gráfica de 12 GB, siempre que tengas 64 GB de RAM y puedas convivir con un proyecto de una sola persona que cambia cada semana.
Ideal para: Quien tenga una tarjeta gráfica de 12 a 24 GB y 64 GB o más de RAM y quiera un modelo abierto grande para agentes de programación en su propia máquina.
Precio: Gratuito y de código abierto con licencia MIT; financiado con donaciones. Los archivos de modelo tienen sus propias licencias (Qwen3.8-Flash-Next usa la Qwen Community License 1.0).
Lee nuestra reseña de Strata
4.0/5
9
TensorRT-LLM
TensorRT-LLM es donde el nuevo silicio de NVIDIA recibe sus primeras optimizaciones serias, y el precio es una larga lista de CVE y un ritmo de versiones estables que se mide en estaciones.
Ideal para: Equipos con grandes flotas de GPU de NVIDIA que quieren el máximo rendimiento por GPU.
Precio: Gratuito y de código abierto con licencia Apache 2.0 (algunos componentes incluidos tienen sus propias licencias).
Lee nuestra reseña de TensorRT-LLM
4.0/5
10
AnyJev
Código de investigación cuidadoso que saca probabilidades honestas del modelo abierto que ya ejecutas, con resultados en una clasificación que midieron los propios responsables de la clasificación.
Ideal para: Ingenieros de ML que ya sirven un modelo abierto en vLLM y quieren decisiones de clasificación y enrutamiento calibradas sin entrenar un clasificador aparte.
Precio: Gratuito y de código abierto con Apache-2.0, incluidos los pesos de los modelos Tacit. Tú pones la GPU.
Lee nuestra reseña de AnyJev
3.9/5
11
llamafile
La forma más sencilla de entregar a alguien un modelo local que funcione, aunque menos capaz que el llama.cpp que envuelve.
Ideal para: Quienes necesitan compartir o ejecutar un modelo local sin ninguna configuración, también sin conexión.
Precio: Gratuito y de código abierto bajo licencia Apache 2.0, con cambios en llama.cpp bajo licencia MIT.
Lee nuestra reseña de llamafile
3.9/5
12
Mesh LLM
Un intento serio de convertir un cajón de GPU dispares en un solo endpoint, aún tosco en los bordes y honesto sobre su carácter experimental.
Ideal para: Propietarios de homelabs y equipos pequeños con varias máquinas con GPU que quieren un único endpoint local y se sienten cómodos con software distribuido experimental.
Precio: Gratuito y de código abierto (Apache-2.0). Sin edición de pago; tú pones el hardware.
Lee nuestra reseña de Mesh LLM
3.9/5
13
DeepInfer
Una mirada poco habitual al interior de un servicio de LLM en producción, pero por ahora es un motor de referencia para un modelo en dos familias de chips, no algo que poner detrás de una API.
Ideal para: Ingenieros de inferencia que ejecutan DeepSeek-V4.1-Flash a escala de clúster y quieren los kernels y ajustes de DeepSeek como referencia.
Precio: Gratuito y de código abierto con licencia Apache 2.0. Pagas las GPU Blackwell o las NPU Ascend.
Lee nuestra reseña de DeepInfer
3.6/5
14
edge0
Una forma cuidadosa y bien documentada de meter un modelo de 35B en un Mac de 24 GB o en un móvil, pero solo ejecuta dos modelos preview elegidos por sus autores y casi todas las cifras de velocidad son suyas.
Ideal para: Usuarios de Apple Silicon con 16 a 24 GB que quieren un modelo de clase 35B en local, y desarrolladores móviles que prueban chat en el dispositivo en teléfonos recientes, dispuestos a aceptar modelos preview.
Precio: Gratuito y de código abierto bajo Apache 2.0, modelos incluidos. Sin edición de pago.
Lee nuestra reseña de edge0
3.6/5
15
Janas
De verdad ejecuta un modelo de 80B en un portátil de 32 GB, pero las grandes ventajas sobre llama.cpp las mide el propio autor y todo es el experimento de una sola persona.
Ideal para: Usuarios de x86-64 que quieren un modelo de mezcla de expertos más grande que su RAM, como Qwen3-Next-80B en un portátil de 32 GB, y aceptan software experimental.
Precio: Gratuito y de código abierto bajo GPL-3.0 o posterior. Sin edición de pago.
Lee nuestra reseña de Janas
3.6/5
16
Laya
Una infraestructura bien pensada alrededor de modelos de decisión pequeños que solo aciertan de verdad cuando los ajustas con tus propias etiquetas.
Ideal para: Desarrolladores que van a ajustar un modelo de decisión pequeño con sus propios datos y quieren un router, un servidor y un ciclo de entrenamiento listos.
Precio: Gratuito y de código abierto (Apache 2.0), pesos de los modelos incluidos.
Lee nuestra reseña de Laya
3.6/5
17
Magnitude
Una idea inteligente con velocidad real detrás en algunas máquinas, pero el titular de 2x es una medición de la propia empresa y no se ha confirmado en el hardware de todos los usuarios.
Ideal para: Desarrolladores con Apple silicon o tarjetas NVIDIA recientes que quieren un modelo local rápido detrás de un agente de programación con poca configuración.
Precio: Gratuito y de código abierto bajo Apache-2.0. No hay ninguna edición de pago documentada; las licencias de los modelos van aparte.
Lee nuestra reseña de Magnitude
3.6/5