¿Qué es Strata?
Strata es un motor de inferencia local construido en torno a unos pocos modelos grandes de mixture-of-experts: Qwen3.8-Flash-Next (125B de parámetros con 6B activos, más un embedding de n-gramas de 51B), Qwen3.6-35B-A3B y DeepSeek V4.1-Flash. En lugar de necesitar el modelo entero en la memoria gráfica, mantiene en la GPU los expertos más usados, guarda todos los expertos en la RAM del sistema, donde la CPU calcula los que le faltan a la GPU, y lee desde el SSD la tabla de n-gramas de 28,8 GB del modelo, unas pocas filas por token. La propia capa de predicción multitoken del modelo genera borradores de tokens por adelantado.
Se distribuye como aplicación de escritorio para Windows, Linux y macOS y como herramienta de terminal (`strata launch`), sirve API compatibles con OpenAI y Anthropic en localhost e incluye un agente de programación y entrada de imágenes. El hardware soportado va de las NVIDIA RTX de las series 20 a 50 y las tarjetas AMD Radeon recientes a Intel Arc en Linux, Apple silicon, Ryzen AI Max y, desde la 0.2.7.1, la NVIDIA DGX Spark.
El repositorio se creó el 24 de septiembre de 2026, tiene licencia MIT, se apoya en partes del ggml de llama.cpp y es casi por completo obra de un solo desarrollador, Niko1221, con 3.594 commits frente a 29 del siguiente colaborador.
¿Merece la pena Strata?
Strata hace práctico en un PC gaming un modelo abierto de tamaño puntero, pero "any consumer hardware" exagera. Los paquetes de ISTA-DASLab de Qwen3.8-Flash-Next necesitan de 37,6 GB (Q2_0) a 54,8 GB (IQ3_S) de RAM y VRAM sumadas, y la documentación dice que la RAM debe cubrir los expertos más unos 10 GB, así que una máquina de 64 GB es el mínimo realista. En esa máquina las cifras llaman la atención: las mediciones del propio proyecto con una RTX 5070 de 12 GB y un Ryzen 5 7600 muestran 93 tokens por segundo de salida con contexto de 4K con Q2_0 y 53 con el IQ3_S, de más calidad.
Esas cifras son autodeclaradas, pero están inusualmente bien documentadas, y otras personas han aportado las suyas. Un informe de la comunidad con una Radeon RX 9070 de 16 GB midió 58,7 tokens por segundo decodificando IQ3_XXS a 4K, manteniéndose cerca de 58 a 130K. No todos los informes lo dejan en buen lugar: el issue #2464, aún abierto, describe cómo la decodificación de Qwen3.6-35B-A3B en una V100 caía de 109 a 14,6 tokens por segundo con un contexto de 114K en la beta 0.2.0, donde según quien lo reporta llama.cpp se mantenía en unos 90. Los prompts largos también llevan tiempo: con 32K tokens la primera palabra llega tras unos 25 segundos.
La documentación de seguridad es mejor que la de la mayoría de las aplicaciones comerciales. Enumera cada conexión de red que hace el código, afirma que no hay telemetría, enlaza el servidor a 127.0.0.1, se niega a compartirlo con otros dispositivos sin una API key y verifica las actualizaciones contra un feed firmado con Ed25519 y los archivos de modelo contra hashes SHA-256 fijados. También nombra las carencias: el instalador de Windows no está firmado, las claves de servicios de modelos externos se guardan sin cifrar en un archivo accesible solo para el usuario, y el servidor del motor a secas solo avisa si lo abres a la red sin clave.
El riesgo real es la forma del proyecto. Un solo desarrollador escribió casi todo en unas cinco semanas, tiene 507 issues abiertos y las versiones llegan cada pocos días con largas listas de opciones por GPU. llama.cpp soporta muchos más modelos y hardware con un amplio equipo de mantenedores; Colibri, en C puro, también lee desde disco los pesos de mixture-of-experts. La ventaja de Strata es la profundidad en un puñado de modelos, lo que también significa que solo te resultará tan útil como lo sean para ti Qwen3.8-Flash-Next y DeepSeek V4.1-Flash.
Dónde se gana su sitio
Un desarrollador con una RTX 3060 o 5070 y 64 GB de RAM
Ejecutar en local un modelo de programación grande para Claude Code u OpenCode
Instalar la aplicación o ejecutar `strata launch`, elegir Q2_0 o IQ2_XS y después `strata connect` muestra la configuración para el agente. El proyecto mide de 79 a 93 tokens por segundo en una RTX 5070 con contexto corto; el coste es el hardware y unos 40 GB de archivos de modelo.
Una consultora de diez personas que maneja código de clientes que no puede salir de la oficina
Dar a la plantilla un asistente privado compartido en una sola estación de trabajo
Ejecutar Strata en un PC con una tarjeta de 24 GB y activar Share with other devices, que no arranca sin una API key y solo expone los endpoints de chat. Los chats simultáneos comparten el rendimiento de una sola GPU; las pruebas del proyecto con DGX Spark encontraron que varios chats se reparten, en buena medida, la velocidad que obtiene un único chat.
Un aficionado con una DGX Spark o una máquina Ryzen AI Max de 128 GB
Probar DeepSeek V4.1-Flash sin un rack de servidores
Elegir el conjunto de 2,00 bpw, una descarga de 257 GB, y dejar unos 265 GB libres en una unidad NVMe. El proyecto informa de 19 a 21 tokens por segundo en código en Strix Halo; en tarjetas NVIDIA de 12 GB son de 4 a 11, porque la mayor parte de cada token espera al SSD.
Antes de decidirte
- Puesta en marcha
- Instaladores de escritorio para Windows, Linux y macOS desde GitHub Releases, o un script de una línea para shell o PowerShell seguido de `strata launch`. La descarga del modelo (unos 37 a 55 GB para Qwen3.8-Flash-Next) se lleva la mayor parte del tiempo hasta la primera respuesta.
- Integraciones
- API compatibles con OpenAI y Anthropic en localhost; `strata connect` muestra la configuración para Claude Code, Codex CLI, OpenCode, Hermes Agent, OpenClaw y otros. Builds para CUDA, HIP, SYCL y Metal, además de instalaciones con Docker y desde el código fuente.
- Datos y privacidad
- Sin telemetría, según la página de seguridad, que enumera cada conexión que hace el código. El servidor se enlaza a 127.0.0.1; compartirlo requiere una API key. Las actualizaciones están firmadas con Ed25519 y los archivos de modelo se verifican contra hashes SHA-256 fijados; las claves de servicios externos se guardan sin cifrar. Strata es MIT, y Qwen3.8-Flash-Next tiene la Qwen Community License 1.0.
- Coste a escala
- No hay edición de pago; el proyecto acepta donaciones. El coste es un PC con una tarjeta gráfica de 12 GB o más y unos 64 GB de RAM para Qwen3.8-Flash-Next, más unos 265 GB libres en NVMe para DeepSeek V4.1-Flash.
- Límites
- 507 issues abiertos y versiones cada pocos días. Solo unas pocas familias de modelos; DeepSeek funciona con contexto de 8K; la decodificación con contexto largo en GPU antiguas tiene regresiones abiertas (issue #2464); las velocidades varían entre ejecuciones porque cambian los expertos en caché.
Lo bueno
- Ejecuta Qwen3.8-Flash-Next en una GPU de 12 GB con 64 GB de RAM
- Informes de velocidad detallados y reproducibles del autor y de la comunidad
- Sin telemetría, localhost por defecto, actualizaciones firmadas y hashes de modelo fijados
- API compatibles con OpenAI y Anthropic para Claude Code, Codex y OpenCode
Lo malo
- Necesita unos 40 a 55 GB de RAM más VRAM, pese al discurso de que sirve cualquier hardware
- Casi todo es obra de un solo desarrollador; 507 issues abiertos
- Solo soporta unas pocas familias de modelos
- El instalador de Windows no está firmado
Ideal para
Quien tenga una tarjeta gráfica de 12 a 24 GB y 64 GB o más de RAM y quiera un modelo abierto grande para agentes de programación en su propia máquina.
Alternativas a Strata
Strata: preguntas frecuentes
- ¿Merece la pena Strata?
- Una forma realmente ingeniosa de ejecutar un modelo de 125B de parámetros en una tarjeta gráfica de 12 GB, siempre que tengas 64 GB de RAM y puedas convivir con un proyecto de una sola persona que cambia cada semana. Le damos un 4.0 sobre 5.
- ¿Cuánto cuesta Strata?
- Gratuito y de código abierto con licencia MIT; financiado con donaciones. Los archivos de modelo tienen sus propias licencias (Qwen3.8-Flash-Next usa la Qwen Community License 1.0).
- ¿Qué inconvenientes tiene Strata?
- Necesita unos 40 a 55 GB de RAM más VRAM, pese al discurso de que sirve cualquier hardware; casi todo es obra de un solo desarrollador; 507 issues abiertos; solo soporta unas pocas familias de modelos; el instalador de Windows no está firmado.
- ¿Para quién es Strata?
- Quien tenga una tarjeta gráfica de 12 a 24 GB y 64 GB o más de RAM y quiera un modelo abierto grande para agentes de programación en su propia máquina.
- ¿Cuánto cuesta Strata para un equipo o en producción?
- No hay edición de pago; el proyecto acepta donaciones. El coste es un PC con una tarjeta gráfica de 12 GB o más y unos 64 GB de RAM para Qwen3.8-Flash-Next, más unos 265 GB libres en NVMe para DeepSeek V4.1-Flash.
- ¿Es Strata seguro para los datos de la empresa?
- Sin telemetría, según la página de seguridad, que enumera cada conexión que hace el código. El servidor se enlaza a 127.0.0.1; compartirlo requiere una API key. Las actualizaciones están firmadas con Ed25519 y los archivos de modelo se verifican contra hashes SHA-256 fijados; las claves de servicios externos se guardan sin cifrar. Strata es MIT, y Qwen3.8-Flash-Next tiene la Qwen Community License 1.0.
- ¿Cuáles son las mejores alternativas a Strata?
- Las alternativas más cercanas que hemos analizado son llama.cpp, colibri y Ollama.
Respuestas comprobadas el 28 oct 2026.