Was ist SambaNova Cloud?
SambaNova Cloud (auch SambaCloud) ist die Inference-API mit Abrechnung pro Token von SambaNova Systems, das eigene KI-Chips entwickelt, die Reconfigurable Dataflow Unit (RDU). Am 7. November 2026 lieferte die öffentliche Modellliste fünf Modelle: gpt-oss-120b, GLM-5.3, MiniMax-M3.1-Flash, Gemma 4 31B und Llama 3.3 70B. Die Preise reichen von 0,22 $ Input und 0,59 $ Output pro Million Tokens für gpt-oss-120b bis 2,80 $ und 8,80 $ für GLM-5.3.
Artificial Analysis misst gpt-oss-120b bei SambaNova mit etwa 417 Tokens pro Sekunde, vor Groq mit 338 und weit hinter Cerebras mit 1.347. Dieselbe Hardware gibt es als SambaStack für dein eigenes Rechenzentrum und als SambaManaged für Cloud-Betreiber, die sie weiterverkaufen wollen.
Im April 2025 gab das Unternehmen das KI-Training auf, entließ 77 Menschen, etwa 15% der Belegschaft, und konzentrierte sich auf Inference. Intel verhandelte Ende 2025 über einen Kauf für etwa 1,6 Milliarden $; stattdessen beteiligte sich Intel im Februar 2026 an einer Runde über 350 Millionen $ und schloss eine mehrjährige Partnerschaft. Im Juli 2026 sammelte SambaNova 1 Milliarde $ bei einer Bewertung von 11 Milliarden $ ein.
Was kostet SambaNova Cloud?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Free | Free | Ohne hinterlegte Karte: 20 Anfragen pro Minute, 20 pro Tag und 200.000 Tokens pro Tag und Modell |
| gpt-oss-120b | $0.22 in / $0.59 out per 1M tokens | |
| GLM-5.3 | $2.80 in / $8.80 out per 1M tokens | 0,14 $ pro 1 Mio. gecachter Input-Tokens |
| MiniMax-M3.1-Flash | $0.30 in / $1.20 out per 1M tokens | Preview-Modell, Kontext 1 Mio. Tokens; 0,03 $ pro 1 Mio. gecachter Input-Tokens |
| Enterprise | Quote | Abo mit Produktions-Rate-Limits, Modellen auf Anfrage und eigenem Checkpoint |
Pay-as-you-go pro 1 Mio. Tokens: gpt-oss-120b 0,22 $ Input / 0,59 $ Output; Gemma 4 31B 0,38 $ / 1,15 $; MiniMax-M3.1-Flash 0,30 $ / 1,20 $ (0,03 $ für gecachten Input); Llama 3.3 70B 0,60 $ / 1,20 $; GLM-5.3 2,80 $ / 8,80 $ (0,14 $ für gecachten Input). Eine Gratisstufe ohne Karte erlaubt 20 Anfragen pro Tag und Modell. Enterprise-Abos auf Angebot.
Lohnt sich SambaNova Cloud?
Wenn du entscheidest, wo ein offenes Modell laufen soll, sehen die Tempo-Charts nach einem Zweikampf zwischen Groq und Cerebras aus. Es gibt einen dritten Chiphersteller, der Tokens verkauft, und bei manchen Modellen ist er schneller als Groq.
SambaNova Cloud führt offene Modelle auf SambaNovas eigenen Chips aus, die ein ganzes Modell nah am Prozessor halten und schnell zwischen mehreren Modellen wechseln können. Artificial Analysis misst sein gpt-oss-120b mit etwa 417 Tokens pro Sekunde, gegenüber 338 bei Groq und 65 bei Together AI, während Cerebras 1.347 erreicht. Mit 0,22 $ pro Million Input-Tokens und 0,59 $ Output kostet es weniger als die 0,35 $ und 0,75 $ von Cerebras und beim Input etwas mehr als die 0,15 $ von Groq. Artificial Analysis bewertet seine gpt-oss-120b-Antworten außerdem mit 98,5% der Genauigkeit des Referenzmodells, dem höchsten Wert unter den schnellen Anbietern.
Die Karte ist kurz und wechselt. Die Live-Modellliste vom 7. November 2026 enthielt fünf Modelle, darunter GLM-5.3 für 2,80 $ und 8,80 $ und ein MiniMax-M3.1-Flash in Preview mit 1 Million Tokens Kontext, während die Dokumentation noch DeepSeek-Modelle aufführte, die die API nicht mehr lieferte. Preview-Modelle können laut SambaNova "kurzfristig entfernt werden", und Llama 3.3 70B begrenzt jede Antwort auf 3.072 Tokens.
Der Haken: Die Self-Service-Kapazität ist klein. Mit hinterlegter Karte erlaubt die Developer-Stufe bei den meisten Modellen 60 Anfragen pro Minute und 12.000 pro Tag sowie 20 Millionen Tokens pro Tag über alle Modelle. Alles darüber erfordert ein Enterprise-Abo mit individuellem Preis. Zu Daten sagt SambaNovas Produktseite, man erfasse deine Prompts nie, doch die Lizenzvereinbarung nennt keine Aufbewahrungsfrist und erlaubt, Abfrageprotokolle zur Verbesserung des Dienstes zu nutzen. Einen öffentlichen SOC-2-Bericht haben wir nicht gefunden, also lass dir das Versprechen vertraglich zusichern.
Unser Fazit: SambaNova ist der Anbieter, den du anrufst, wenn du schnelle Inference auf eigener Hardware willst. SambaStack betreibt dieselben Chips in deinem Rechenzentrum, bei Bedarf ohne Netzverbindung, und JPMorgan Chase kauft es zu genau diesen Bedingungen. Als Self-Service-API ist es ein vernünftiger zweiter Weg für gpt-oss, nicht der Ort für dein ganzes Produkt.
Wo es sich lohnt
Ein fünfköpfiges Team, das einen Support-Chatbot auf gpt-oss-120b baut
Einen schnellen Ausweichanbieter ergänzen, ohne Cerebras-Preise zu zahlen
Richte den OpenAI-kompatiblen Client auf SambaNova, wenn der Hauptanbieter Fehler liefert. Bei 0,22 $ und 0,59 $ pro Million Tokens kosten 100 Millionen Input- und 20 Millionen Output-Tokens im Monat etwa 34 $, weit unter der Developer-Grenze von 20 Millionen pro Tag.
Eine Infrastrukturleiterin bei einer Bank oder Behörde
Schnelle Inference offener Modelle betreiben, ohne dass ein Prompt das Haus verlässt
SambaStack stellt SambaNovas Racks vor Ort auf, seit dem Release vom März 2026 auch ohne Netzverbindung; JPMorgan Chase setzt so SN40L- und SN50-Systeme ein. Preise auf Angebot.
Ein Entwickler, der einen Agenten für lange Dokumente baut
Sehr lange Eingaben schnell und günstig lesen
MiniMax-M3.1-Flash nimmt bis zu 1 Million Tokens für 0,30 $ pro Million Input an, 0,03 $ bei gecachtem Präfix. Es ist ein Preview-Modell, halte also einen zweiten Anbieter bereit.
Bevor du dich festlegst
- Einrichtung
- Konto und API-Schlüssel anlegen, dann api.sambanova.ai/v1 als Basis-URL in einem beliebigen OpenAI-SDK setzen; mit hinterlegter Karte wechselst du von der Gratis- in die Developer-Stufe.
- Integrationen
- OpenAI-kompatible Chat-API, Anthropic Messages API seit Juli 2026, ein SambaNova-SDK, OpenRouter und AWS PrivateLink.
- Daten und Datenschutz
- SambaNova sagt, es erfasse deine Prompts nie; die Lizenz erlaubt Speicherung nur zur Erbringung des Dienstes, nennt aber keine Aufbewahrungsfrist, und Abfrageprotokolle dürfen zur Verbesserung genutzt werden. Keinen öffentlichen SOC-2-Bericht oder DPA gefunden.
- Kosten im großen Maßstab
- 2 Milliarden Input- und 500 Millionen Output-Tokens im Monat auf gpt-oss-120b kosten etwa 735 $, gegenüber etwa 1.075 $ bei Cerebras und 600 $ bei Groq, doch diese Menge liegt über der Developer-Grenze von 20 Millionen pro Tag und braucht ein Enterprise-Abo.
- Grenzen
- Developer-Stufe: 60 Anfragen pro Minute und 12.000 pro Tag und Modell (240 und 48.000 bei Llama 3.3 70B), insgesamt 20 Millionen Tokens pro Tag. Kontext 131.072 Tokens bei den meisten Modellen, 1 Million bei MiniMax-M3.1-Flash.
Was gut ist
- Etwa 417 Tokens/s bei gpt-oss-120b laut Artificial Analysis
- gpt-oss-120b für 0,22 $ Input und 0,59 $ Output pro Million Tokens
- Höchster Genauigkeitswert für gpt-oss-120b unter den schnellen Anbietern bei Artificial Analysis
- Dieselben Chips on-premises über SambaStack
Was nicht
- Developer-Stufe auf 20 Millionen Tokens pro Tag begrenzt
- Fünf Modelle, und die Doku weicht von der Live-Liste ab
- Keine Aufbewahrungsfrist in der Lizenz; kein öffentlicher SOC-2-Bericht
- Antworten von Llama 3.3 70B auf 3.072 Tokens begrenzt
Am besten für
Teams, die schnelle gpt-oss- oder GLM-Inference als zweiten Anbieter wollen oder schnelle Inference offener Modelle auf Hardware im eigenen Rechenzentrum.
Alternativen zu SambaNova Cloud
SambaNova Cloud: häufige Fragen
- Lohnt sich SambaNova Cloud?
- SambaNova verkauft schnelle gpt-oss-Tokens günstiger als Cerebras, doch die Self-Service-Limits sind so klein, dass jede echte Last in einem Gespräch mit dem Vertrieb endet. Wir bewerten es mit 3.8 von 5.
- Was kostet SambaNova Cloud?
- Pay-as-you-go pro 1 Mio. Tokens: gpt-oss-120b 0,22 $ Input / 0,59 $ Output; Gemma 4 31B 0,38 $ / 1,15 $; MiniMax-M3.1-Flash 0,30 $ / 1,20 $ (0,03 $ für gecachten Input); Llama 3.3 70B 0,60 $ / 1,20 $; GLM-5.3 2,80 $ / 8,80 $ (0,14 $ für gecachten Input). Eine Gratisstufe ohne Karte erlaubt 20 Anfragen pro Tag und Modell. Enterprise-Abos auf Angebot.
- Welche Nachteile hat SambaNova Cloud?
- Developer-Stufe auf 20 Millionen Tokens pro Tag begrenzt; Fünf Modelle, und die Doku weicht von der Live-Liste ab; Keine Aufbewahrungsfrist in der Lizenz; kein öffentlicher SOC-2-Bericht; Antworten von Llama 3.3 70B auf 3.072 Tokens begrenzt.
- Für wen eignet sich SambaNova Cloud?
- Teams, die schnelle gpt-oss- oder GLM-Inference als zweiten Anbieter wollen oder schnelle Inference offener Modelle auf Hardware im eigenen Rechenzentrum.
- Was kostet SambaNova Cloud für ein Team oder im Produktivbetrieb?
- 2 Milliarden Input- und 500 Millionen Output-Tokens im Monat auf gpt-oss-120b kosten etwa 735 $, gegenüber etwa 1.075 $ bei Cerebras und 600 $ bei Groq, doch diese Menge liegt über der Developer-Grenze von 20 Millionen pro Tag und braucht ein Enterprise-Abo.
- Ist SambaNova Cloud sicher für Firmendaten?
- SambaNova sagt, es erfasse deine Prompts nie; die Lizenz erlaubt Speicherung nur zur Erbringung des Dienstes, nennt aber keine Aufbewahrungsfrist, und Abfrageprotokolle dürfen zur Verbesserung genutzt werden. Keinen öffentlichen SOC-2-Bericht oder DPA gefunden.
- Was sind die besten Alternativen zu SambaNova Cloud?
- Die nächsten Alternativen, die wir getestet haben, sind Cerebras, Groq, Together AI und Fireworks AI.
Antworten geprüft am 7. Nov. 2026.