Análisis Joyas de código abierto
Cerebras vs Groq vs SambaNova: dónde ejecutar modelos abiertos rápido y cuánto cuesta
Por Sheela ·
Si tu producto hace esperar a una persona mientras responde un modelo, o encadena una docena de llamadas antes de contestar, hay tres empresas que venden tokens de modelos abiertos más rápido que las nubes de GPU: Cerebras, Groq y SambaNova. Las tres han construido sus propios chips para lograrlo. Se diferencian en lo que sirven, lo que cobran, cuánto puedes comprar sin contrato y lo estable que parece la empresa que hay detrás de cada una. Esta guía es para un equipo que decide dónde ejecutar modelos abiertos en producción.
Cada cifra procede de nuestras reseñas de Cerebras, Groq y SambaNova Cloud, de las páginas de los propios proveedores o de Artificial Analysis, que cronometra a todos los proveedores que sirven el mismo modelo; las leímos todas el 7 de noviembre de 2026. No hemos usado estos servicios nosotros mismos.
Tres chips, un mismo problema
Un modelo de lenguaje escribe un token cada vez, y para cada token el chip tiene que leer los pesos del modelo desde la memoria. En una GPU esos pesos están en memoria de gran ancho de banda (HBM) junto al procesador, y moverlos, más que el cálculo, suele ser lo que limita la rapidez con que llega la respuesta a un usuario. Cada una de las tres ataca ese paso de una forma distinta.
- Cerebras: un chip del tamaño de una oblea. Los fabricantes suelen cortar una oblea de silicio en decenas de chips separados. Cerebras conserva la oblea entera como un solo procesador, de modo que mucha más memoria y cálculo están en la misma pieza de silicio y los datos no tienen que pasar de un chip a otro. Su WSE-3 tiene 4 billones de transistores y 900.000 núcleos en 46.225 mm², un cuadrado de unos 21,5 cm de lado.
- Groq: memoria en el chip y tiempos planificados de antemano. La Language Processing Unit de Groq guarda los pesos en SRAM dentro del chip en lugar de en HBM: 230 MB por chip, con un ancho de banda que Groq sitúa por encima de 80 TB/s frente a unos 8 TB/s de la memoria de una GPU. Su compilador programa cada paso hasta el ciclo de reloj, así que nada espera a una caché. La contrapartida es que un chip solo guarda una pequeña parte de un modelo grande, de modo que cada modelo se reparte entre muchos chips conectados.
- SambaNova: una cadena de montaje reconfigurable. La Reconfigurable Dataflow Unit de SambaNova permite al compilador extender todo un tramo del modelo sobre el chip, de modo que los resultados pasan de un paso al siguiente sin volver a la memoria. Su SN40L combina 520 MiB de memoria en el chip con 64 GiB de HBM y hasta 1,5 TiB de memoria DDR corriente, lo que permite a un sistema guardar muchos modelos y cambiar entre ellos con rapidez.
Lo que compras es velocidad para cada usuario, no tokens más baratos. Cada chip necesita además su propio trabajo de compilación para cada modelo y, según nuestra lectura, esa es una de las razones de que las tres cartas sean cortas.
Los mismos modelos, uno al lado del otro
Solo un modelo está en las tres API compartidas: gpt-oss-120b, de OpenAI. Eso lo convierte en la comparación más justa, con las dos nubes de GPU que hemos reseñado como referencia. La velocidad de salida es la cifra principal de Artificial Analysis: tokens por segundo a lo largo de toda la solicitud, promediados entre prompts cortos, medios y largos durante los cinco días anteriores. Como gpt-oss-120b razona antes de responder, la última columna, el tiempo hasta el primer token de la respuesta en sí, se acerca más a lo que nota un usuario.
| gpt-oss-120b en | Entrada $/1M | Salida $/1M | Velocidad de salida (tokens/s) | Primer token (s) | Primer token de respuesta (s) |
|---|---|---|---|---|---|
| Cerebras | 0,35 $ | 0,75 $ | 1.347 | 0,65 | 2,26 |
| Groq | 0,15 $ | 0,60 $ | 338 | 1,02 | 4,90 |
| SambaNova | 0,22 $ | 0,59 $ | 417 | 2,56 | 6,74 |
| Together AI | 0,15 $ | 0,60 $ | 65 | 1,53 | 46,23 |
| Fireworks AI | 0,15 $ | 0,60 $ | Sin medir | Sin medir | Sin medir |
Los precios son la tarifa de cada proveedor (Cerebras, Groq, SambaNova, Fireworks y nuestra reseña de Together AI); las velocidades son de Artificial Analysis, consultadas el 7 de noviembre de 2026. Artificial Analysis no incluye a Fireworks para este modelo.
Destacan tres cosas. Cerebras es de tres a cuatro veces más rápido que Groq o SambaNova y empieza antes, pero cobra más del doble que Groq por la entrada. SambaNova escribe más rápido que Groq una vez arranca, pero tarda más del doble que Groq en producir su primer token, algo que importa en todo lo que se dice en voz alta. Y las cifras de los propios proveedores son más altas que las medidas: la documentación de Cerebras habla de unos 3.000 tokens por segundo y la de Groq de unos 500, en parte porque Artificial Analysis cuenta la solicitud entera, incluida la espera hasta el primer token.
Artificial Analysis también comprueba si las respuestas de cada proveedor coinciden con la versión de referencia de OpenAI. SambaNova obtiene un 98,5%, Cerebras un 91,8%, Groq un 90,3% y Together AI un 81,1%. Los márgenes alrededor de esas puntuaciones son amplios (el de Groq va del 82,7% al 97,9%), así que tómalas como un motivo para probar tus propios prompts, no como una clasificación.
Las demás coincidencias son parciales:
| Modelo | Dónde | Entrada / salida, $ por 1M | Velocidad (tokens/s) | Primer token (s) |
|---|---|---|---|---|
| Qwen 3.8 27B | Cerebras | 0,99 $ / 1,49 $ | unos 1.850 (proveedor) | Sin medir |
| Qwen 3.8 27B | Groq (preview) | 0,80 $ / 4,00 $ | unos 450 (proveedor) | Sin medir |
| Llama 3.3 70B | Groq (solo Enterprise) | Consultar a ventas | 211 | 1,34 |
| Llama 3.3 70B | SambaNova | 0,60 $ / 1,20 $ | 121 | 1,13 |
| GLM-5.3 | SambaNova | 2,80 $ / 8,80 $ | Sin medir | Sin medir |
| GLM-5.3 | Together AI | 1,40 $ / 4,40 $ | 159 | 1,08 |
| GLM-5.3 | Fireworks AI (nivel Fast) | 2,10 $ / 6,60 $ | 207 | 1,53 |
Las cifras medidas proceden de las páginas de Artificial Analysis para Llama 3.3 70B y GLM-5.3; "proveedor" significa la documentación del propio proveedor. El nivel estándar de GLM-5.3 en Fireworks cuesta 1,40 $ y 4,40 $. Las filas de GLM-5.3 encierran una advertencia: SambaNova cobra el doble que Together AI por él, y Artificial Analysis no tiene ninguna medición del GLM-5.3 de SambaNova que muestre qué compra ese sobreprecio.
Lo que cuesta un mes
Toma una carga de producción de 2.000 millones de tokens de entrada y 500 millones de salida al mes en gpt-oss-120b. A precio de tarifa cuesta unos 1.075 $ en Cerebras, 735 $ en SambaNova y 600 $ en Groq, Together AI o Fireworks AI. Si el trabajo puede esperar, el nivel batch de Fireworks tiene un 50% de descuento, lo que lo deja en unos 300 $, y el descuento batch de Together AI llega hasta el 50%.
Los límites que muerden en producción
Las tablas de precios esconden los techos que deciden si de verdad puedes lanzar.
- Cerebras. El crédito de prueba de 5 $ dura 30 días, permite 5 solicitudes por minuto y recorta el contexto a 65k tokens; cuando se acaba, el acceso se corta hasta que compres créditos. El pago por uso permite 1.000 solicitudes y 1 millón de tokens sin caché por minuto en gpt-oss-120b sin tope diario, pero Qwen 3.8 27B se queda en 300 solicitudes por minuto. El contexto es de 131k tokens en gpt-oss-120b. Cualquier cosa más allá de los dos modelos compartidos exige Dedicated Inference y un acuerdo.
- Groq. El plan gratuito permite 30 solicitudes por minuto, 1.000 al día y 8.000 tokens por minuto en los modelos principales. Los límites de pago solo aparecen en tu consola, no se publican. gpt-oss-120b tiene un contexto de 131.072 tokens y limita la salida a 65.536; la preview de Qwen la limita a 16.384. Los dos modelos Llama son solo Enterprise.
- SambaNova. El nivel gratuito permite 20 solicitudes al día por modelo. Con tarjeta, el nivel Developer permite 60 solicitudes por minuto y 12.000 al día en la mayoría de los modelos, y 20 millones de tokens al día en total. La carga anterior necesita unos 83 millones de tokens al día, cuatro veces ese tope, así que requiere una suscripción Enterprise con precio a medida. Llama 3.3 70B limita cada respuesta a 3.072 tokens.
Las tres marcan algunos modelos como "preview" y dicen que pueden retirarse con poco aviso. La documentación de SambaNova y su lista de modelos en vivo no coincidían el día que lo comprobamos, así que prueba contra el endpoint de la lista de modelos, no contra la documentación.
Qué pasa con tus datos
- Cerebras dice que no conserva prompts, solicitudes ni respuestas de la API de inferencia, aunque las entradas de la caché de prompts duran de 5 minutos a una hora. Un informe SOC 2 Type 2 y un acuerdo de tratamiento de datos (DPA) están disponibles bajo petición; el DPA cubre las cuentas de empresa.
- Groq no guarda entradas ni salidas por defecto, pero puede registrarlas hasta 30 días para fiabilidad y control de abusos, salvo que actives Zero Data Retention, algo que puede hacer cualquier cliente. Publica informes SOC 2 Type II y ofrece un anexo de socio comercial HIPAA. Los archivos batch se guardan hasta 30 días salvo que se borren.
- SambaNova dice en su página de producto que nunca recoge tus prompts, pero su contrato de licencia no fija plazo de conservación y le permite usar registros de consultas para mejorar el servicio, y no encontramos ningún informe SOC 2 público. Para los casos más estrictos vende el mismo hardware para tu propio centro de datos como SambaStack, con instalaciones aisladas de la red desde marzo de 2026.
Para datos de salud u otros datos regulados, Groq es el más fácil de aprobar de los tres a partir de documentos publicados. Para datos que no pueden salir de tu edificio, SambaNova vende el mismo hardware que usa en su nube como producto estándar para instalar en local.
Dónde gana cada uno
Agentes que encadenan muchas llamadas: Cerebras
Con 1.347 tokens por segundo y 0,65 segundos hasta el primer token, Cerebras acorta cada paso de un agente de programación o de investigación, y decenas de pasos por tarea se convierten en minutos ahorrados. 1.000 solicitudes por minuto en pago por uso rara vez son el cuello de botella. Lo pagas: más del doble que Groq por la entrada, y solo dos modelos en la API compartida.
Voz: Groq
Un agente telefónico tiene que oír, pensar y responder antes de que quien llama note una pausa. Groq vende transcripción con Whisper large-v3-turbo a 0,04 $ por hora de audio junto a gpt-oss-20b, que Artificial Analysis mide a 630 tokens por segundo por 0,075 $ de entrada y 0,30 $ de salida, así que un proveedor y un contrato cubren las dos mitades. Añade el BAA y Zero Data Retention, y Groq es la opción práctica para centros de contacto.
Una segunda fuente más barata de gpt-oss rápido: SambaNova
SambaNova se sitúa entre los otros dos en precio y velocidad para gpt-oss-120b, puntúa mejor en precisión de las respuestas y sirve modelos que ninguno de sus rivales ofrece, como GLM-5.3 y MiniMax-M3.1-Flash con un contexto de 1 millón de tokens. Sus pequeños límites de autoservicio lo convierten en un respaldo más que en el proveedor principal, salvo que compres el hardware.
Coste de batch y elección de modelo: una nube de GPU
Ninguno de los tres es la opción barata para trabajo que nadie está esperando. Together AI y Fireworks AI igualan el precio de Groq para gpt-oss-120b, lo reducen hasta la mitad en batch, tienen listas de modelos mucho más largas, ajustan modelos por ti y alquilan GPU dedicadas (una H100 cuesta 5,49 $ la hora en Together AI y 8 $ en Fireworks). Si necesitas un modelo abierto concreto, un ajuste fino o un rendimiento constante para muchos usuarios en lugar de velocidad para uno, una nube de GPU es mejor compra. Alojarlo tú mismo con vLLM o SGLang gana con volúmenes altos y estables, como explica nuestra guía de servicio de inferencia.
Dependencia del proveedor y riesgo de suministro
Cambiar es barato en el código. Las tres hablan el formato de chat de OpenAI, así que mudarse es sobre todo cuestión de una URL base y un nombre de modelo, y OpenRouter incluye a las tres como proveedores de gpt-oss-120b. Las diferencias están en los detalles: Groq rechaza logprobs y logit_bias, y Cerebras limita n a 1 y no combina herramientas con un esquema de respuesta en gpt-oss-120b. Prueba los parámetros exactos que envía tu código.
El riesgo mayor son las empresas, y 2026 ha movido a las tres.
- Cerebras salió a cotizar en el Nasdaq en mayo de 2026 y firmó en enero un acuerdo de computación con OpenAI de más de 10.000 millones de dólares. A finales de septiembre, la firma de análisis SemiAnalysis informó de que el modo Ultrafast de GPT-6.1 Sol de OpenAI funciona con GPU de Nvidia, no con Cerebras; las acciones cayeron casi un 20% en una semana, hasta un valor de algo más de 39.000 millones de dólares frente a 95.000 millones al cierre del primer día de cotización, según CNBC. Oracle prevé ofrecer la inferencia de Cerebras en su nube en 2027. Sus planes de precio fijo Cerebras Code figuran como agotados.
- Groq cedió bajo licencia su tecnología de chips a Nvidia por unos 20.000 millones de dólares en diciembre de 2025, y Nvidia contrató a su fundador y a buena parte del equipo de ingeniería. Groq ahora opera hardware de Nvidia junto al suyo como Nvidia Cloud Partner, levantó 350 millones de dólares con una valoración de 3.500 millones en agosto y busca una nueva ronda a 8.000 millones, según Bloomberg el 6 de noviembre. GroqCloud tiene visos de seguir funcionando; que siga siendo un servicio sobre LPU es menos seguro.
- SambaNova abandonó el entrenamiento de IA en abril de 2025 y despidió a 77 personas, cerca del 15% de la plantilla. Intel estudió comprarla por unos 1.600 millones de dólares a finales de 2025; en su lugar entró en una ronda de 350 millones en febrero de 2026, y en julio SambaNova levantó 1.000 millones de dólares con una valoración de 11.000 millones, con su chip SN50 previsto para la segunda mitad de 2026.
Los pesos abiertos son tu seguro. Un equipo que usa gpt-oss-120b puede moverse entre los cinco proveedores de la primera tabla cambiando una URL y un nombre de modelo; un equipo que construye sobre un modelo que solo sirve un proveedor rápido no puede.
Una configuración inicial
- El tráfico normal, en una nube de GPU. gpt-oss-120b o el modelo abierto que necesites en Together AI o Fireworks AI, con batch para todo lo que no sea en tiempo real.
- Las llamadas críticas en latencia, en un chip rápido. Los pasos de agente a Cerebras y la voz a Groq, con el mismo cliente de OpenAI o a través de OpenRouter.
- Un respaldo configurado. SambaNova para gpt-oss-120b, para que una caída o un límite de uso en un proveedor no tumbe tu producto.
- Una revisión mensual. Precios, etiquetas de preview y listas de modelos cambian a menudo en los tres; vuelve a leerlos y repite tus propias pruebas de calidad tras cualquier cambio.
La pega: las cifras de velocidad vienen de un único servicio de pruebas que envía sobre todo solicitudes sueltas desde un solo lugar, y dicen poco de cómo se comporta un proveedor en tus horas punta. Las cifras de los proveedores son más altas, las medidas cambian de una semana a otra y solo un modelo está en las tres cartas. Usa las tablas como lista corta y después ejecuta tus propios prompts a tu propio volumen antes de firmar nada.
Nuestra opinión: los proveedores de chips rápidos son la caja rápida del supermercado. Merecen la pena cuando alguien espera con cuatro cosas y un tren que coger, y son un derroche para la compra semanal. Manda a Cerebras o Groq las llamadas que alguien está esperando, ten a SambaNova como segunda caja y como opción de hardware propio, y deja que una nube de GPU cargue con todo lo demás.