¿Qué es Foundry Local?
Foundry Local es el runtime de Microsoft para ejecutar modelos de lenguaje y de voz en el propio dispositivo del usuario. Es un paquete de unos 20 MB con SDK nativos para C, C++, C#, JavaScript, Python y Rust, construido sobre ONNX Runtime, que descarga modelos de un catálogo curado en el primer uso, los guarda en caché y elige el mejor proveedor de ejecución para el hardware: NPU, GPU o CPU.
El catálogo incluye modelos de chat como GPT OSS, Qwen, DeepSeek, Mistral y Phi, además de Whisper para transcripción, cada uno cuantizado para hardware de consumo y versionado para que una app pueda fijar una versión. Habla los formatos de petición de OpenAI, incluida la Responses API, y tiene un servidor web local opcional compatible con OpenAI y una CLI en preview. Funciona en Windows, macOS con Apple silicon y Linux, sin suscripción de Azure ni clave de API.
El repositorio está activo: la v2.3.1 salió el 3 de noviembre de 2026, tras la v2.3.0 y la preview 0.13.0 de la CLI el 2 de noviembre. Los SDK tienen licencia MIT; la CLI se rige por condiciones de licencia de Microsoft aparte.
¿Merece la pena Foundry Local?
Foundry Local resuelve un problema distinto al de Ollama o llama.cpp. Esos ejecutan modelos para quien está delante del teclado; Foundry Local está pensado para ir dentro de una aplicación que distribuyes, así que corre en tu proceso a través de un SDK y añade unos 20 MB al paquete. Los modelos se descargan en el primer uso, el runtime elige NPU, GPU o CPU, y la app funciona sin conexión y sin factura por token.
Ese enfoque marca las concesiones. El catálogo está curado a propósito: Microsoft cuantiza y prueba cada modelo en hardware de consumo, así que hay menos opciones que en la biblioteca de Ollama pero un comportamiento más predecible en máquinas desconocidas. Desde la v2.1.0, en septiembre, también puedes registrar tus propios modelos de ONNX Runtime GenAI. Seis SDK de lenguaje y un formato de petición compatible con OpenAI abaratan la migración.
El proyecto avanza rápido. La versión 2.2.1, del 23 de octubre, añadió llamadas a herramientas para flujos de programación, y la 2.3.0, del 2 de noviembre, mejoró el soporte de modelos de código y corrigió la transcripción con Parakeet y Whisper. El repositorio tiene unas 2.600 estrellas, pocas frente a las 184.000 de Ollama, lo que significa menos respuestas de la comunidad cuando algo falla.
Conviene revisar tres valores por defecto antes de publicar. La telemetría está activada por defecto; Microsoft dice que no recoge prompts, salidas, audio ni identificadores de dispositivo en bruto, y la telemetría no esencial se puede desactivar en la configuración o con ORT_DISABLE_TELEMETRY=1. Los runtimes de CUDA y cuDNN ya no vienen incluidos y hay que instalarlos aparte. El servidor web local opcional expone un endpoint al estilo OpenAI al que pueden llamar otros procesos de la máquina, así que déjalo apagado en las versiones de producción salvo que lo necesites.
No es una pila de servidor. El README dice que atiende a un usuario cada vez, sin cola de peticiones ni batching continuo, y remite las cargas multiusuario a vLLM o Triton. Para una app de escritorio o de edge que deba mantener los datos en el dispositivo, es la opción más limpia que ofrece Microsoft.
Dónde se gana su sitio
Un proveedor de software sanitario con una app de escritorio para Windows
Resumir notas clínicas sin enviar texto a la nube
Integra el SDK de C# y un modelo Phi o Qwen del catálogo; el texto se queda en el PC del clínico, no hay coste por token y la app fija una versión del modelo para que las salidas no cambien con una actualización.
Una empresa de servicio técnico cuyos técnicos trabajan sin conexión
Transcribir notas de voz en portátiles sin cobertura
Usa la transcripción nativa con Whisper del SDK en Python o JavaScript; los modelos quedan en caché tras la primera descarga, así que la transcripción funciona sin conexión.
Un desarrollador con una app ya escrita sobre el SDK de OpenAI
Ofrecer un modo local sin reescribir el cliente
Apunta el cliente de OpenAI existente al servidor local opcional de Foundry Local, que acepta los formatos de petición de OpenAI; para distribuir, pasa al SDK en proceso y evita ejecutar un servidor.
Antes de decidirte
- Puesta en marcha
- Instala el SDK (por ejemplo pip install foundry-local-sdk o npm install foundry-local-sdk), pide un modelo del catálogo y se descarga, se guarda en caché y se carga en unas pocas líneas de código; winget instala la CLI en Windows.
- Integraciones
- SDK para C, C++, C#, JavaScript, Python y Rust; formatos compatibles con OpenAI, incluida la Responses API; un servidor web local opcional para LangChain y otras herramientas.
- Datos y privacidad
- La inferencia se ejecuta en el dispositivo; la telemetría está activada por defecto y, según las notas de privacidad, excluye prompts, salidas, audio e identificadores de dispositivo en bruto; la telemetría no esencial se puede desactivar.
- Coste a escala
- Sin tarifas de licencia ni por token; el coste es el hardware del usuario y el tamaño de descarga de cada modelo.
- Límites
- Pensado para un usuario cada vez, sin cola de peticiones ni batching continuo; solo modelos del catálogo o ONNX registrados; CUDA y cuDNN se instalan aparte.
Lo bueno
- Runtime de unos 20 MB que va dentro de tu app, con SDK en seis lenguajes
- Selección automática de NPU, GPU o CPU mediante ONNX Runtime
- Catálogo de modelos curado y versionado, probado en hardware de consumo
- Peticiones compatibles con OpenAI, incluido el formato de la Responses API
- Lanzamientos frecuentes; v2.3.1 el 3 de noviembre de 2026
Lo malo
- Telemetría activada por defecto
- Catálogo más pequeño que el de Ollama o llama.cpp
- Diseño para un solo usuario, sin batching
- CUDA y cuDNN se instalan aparte
- La CLI sigue en preview y con condiciones que no son MIT
Ideal para
Desarrolladores que publican apps de escritorio o de edge que necesitan un modelo local en las máquinas de los usuarios sin clave de API ni factura en la nube.
Alternativas a Foundry Local
Foundry Local: preguntas frecuentes
- ¿Merece la pena Foundry Local?
- Foundry Local es una forma ordenada de integrar un modelo pequeño en una app de escritorio, pero su catálogo curado, la telemetría activada por defecto y su diseño para un solo usuario lo convierten en un mal sustituto de Ollama en una estación de trabajo. Le damos un 3.9 sobre 5.
- ¿Cuánto cuesta Foundry Local?
- Gratis. SDK con licencia MIT; la CLI con las condiciones de licencia propias de Microsoft; cada modelo conserva su propia licencia. Sin suscripción de Azure ni cargo por token.
- ¿Qué inconvenientes tiene Foundry Local?
- Telemetría activada por defecto; catálogo más pequeño que el de Ollama o llama.cpp; diseño para un solo usuario, sin batching; cUDA y cuDNN se instalan aparte; la CLI sigue en preview y con condiciones que no son MIT.
- ¿Para quién es Foundry Local?
- Desarrolladores que publican apps de escritorio o de edge que necesitan un modelo local en las máquinas de los usuarios sin clave de API ni factura en la nube.
- ¿Cuánto cuesta Foundry Local para un equipo o en producción?
- Sin tarifas de licencia ni por token; el coste es el hardware del usuario y el tamaño de descarga de cada modelo.
- ¿Es Foundry Local seguro para los datos de la empresa?
- La inferencia se ejecuta en el dispositivo; la telemetría está activada por defecto y, según las notas de privacidad, excluye prompts, salidas, audio e identificadores de dispositivo en bruto; la telemetría no esencial se puede desactivar.
- ¿Cuáles son las mejores alternativas a Foundry Local?
- Las alternativas más cercanas que hemos analizado son Ollama, llama.cpp, llamafile y MLX.
Respuestas comprobadas el 6 nov 2026.