Was ist Baseten?
Baseten hostet KI-Modelle für Unternehmen, die sie zuverlässig in Produktion betreiben müssen. Es bietet Model APIs, eine geteilte API mit Abrechnung pro Token für offene Modelle wie GPT OSS 120B, DeepSeek V4.1, GLM-5.3 und Kimi K3, sowie dedizierte Deployments, bei denen dein eigenes oder ein feinabgestimmtes Modell auf GPUs läuft, die für dich reserviert sind. Auf derselben Hardware laufen auch Trainingsjobs.
Der Basic-Plan hat keine Monatsgebühr; du zahlst für die Nutzung, und neue Konten bekommen Credits in nicht genannter Höhe. Bei den Model APIs kostet GPT OSS 120B 0,10 $ für Input und 0,50 $ für Output pro Million Token. Dedizierte GPUs werden minutengenau abgerechnet, von etwa 0,63 $ pro Stunde für eine T4 bis etwa 6,50 $ für eine H100 und etwa 9,98 $ für eine B200. Enterprise-Kunden können Baseten in ihrem eigenen Cloud-Konto betreiben.
Was kostet Baseten?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Basic | $0/month | Abrechnung nach Verbrauch |
| Pro | By quote | |
| Enterprise | By quote |
Basic 0 $/Monat, Abrechnung nach Verbrauch; Pro und Enterprise auf Anfrage. Model APIs pro 1 Mio. Token, z. B. GPT OSS 120B 0,10 $ Input / 0,50 $ Output, Kimi K3 3 $ / 15 $. Dedizierte GPUs pro Minute: T4 etwa 0,63 $/Stunde, A100 etwa 4,00 $/Stunde, H100 etwa 6,50 $/Stunde, B200 etwa 9,98 $/Stunde.
Lohnt sich Baseten?
Sobald ein Modell, das du gebaut hast, echten Kunden antwortet, ist nicht mehr das Modell der schwierige Teil. Schwierig wird es, das Modell am Laufen zu halten, die Daten zu schützen und es an der Person vorbeizubringen, die die Sicherheit absegnet.
Baseten betreibt das Modell für dich. Du kannst beliebte offene Modelle über die geteilten Model APIs aufrufen und pro Token zahlen oder dein eigenes oder ein feinabgestimmtes Modell auf GPUs legen, die für dich reserviert sind. Die Sicherheitsrichtlinien verpflichten beides auf Zero Data Retention: Synchrone Inputs und Outputs werden weder protokolliert noch dauerhaft gespeichert, und Kundeninhalte werden nicht zum Training genutzt. Asynchrone Anfragen sind die Ausnahme, ihre Inputs werden nur bis zum Abschluss der Verarbeitung vorgehalten.
SOC 2 Type II und HIPAA gelten sogar im kostenlosen Basic-Plan. Das ist ungewöhnlich und wichtig, wenn du an Kunden aus Gesundheitswesen oder Finanzbranche verkaufst.
Die geteilten APIs sind günstig genug, um deine Standardwahl zu sein. GPT OSS 120B kostet 0,10 $ Input und 0,50 $ Output pro Million Token und DeepSeek V4.1 Flash 0,30 $ und 1,20 $, am unteren Ende der Preise für gehostete offene Modelle, und gecachter Input wird bei den meisten Modellen mit einem Zehntel des normalen Satzes berechnet. Seit August 2026 ist Baseten außerdem Inference Provider auf Hugging Face.
Ein eigenes Modell auszuliefern, ist im Wesentlichen ein Befehl. Du beschreibst es mit Truss, Basetens Open-Source-Konfigurationsformat, pushst es mit der CLI und beförderst es zwischen Versionen auf eine stabile Endpunkt-URL. Enterprise kann all das in deiner eigenen VPC oder hybrid in beiden Clouds betreiben und lässt dich bestehende Cloud-Zusagen aufbrauchen. Für ein Unternehmen, das AWS oder Google schon vorausbezahlt hat, gibt das oft den Ausschlag.
Der Haken: Bei dedizierter Hardware wächst die Rechnung. Eine H100 kommt bei minutengenauer Abrechnung auf etwa 6,50 $ pro Stunde, gegenüber etwa 3,95 $ bei Modal, und eine A100 kostet 4,00 $ gegenüber 2,50 $ bei Modal. Eine H100, die rund um die Uhr läuft, kommt auf etwa 4.680 $ im Monat. Bevorzugter Zugang zu knappen GPUs erfordert den Pro-Plan auf Anfrage, und die Standardlimits der Model APIs sind bescheiden: Ein verifiziertes Basic-Konto bekommt 120 Anfragen und 500.000 Token pro Minute, Pro verdoppelt das Token-Limit auf 1 Million.
Unser Fazit: Die geteilten APIs sind wie Massenware bepreist, die dedizierten GPUs sind ein Compliance-Kauf. Wenn deine Sicherheitsprüfung sonst Monate dauern würde, ist der Aufpreis günstig; wenn nicht, zahlst du pro Stunde etwa 65% mehr als bei Modal für Papierkram, den du nicht brauchst.
Wo es sich lohnt
Ein ML-Engineer bei einem Health-Tech-Startup mit 40 Leuten
Ein feinabgestimmtes Modell für klinische Notizen unter HIPAA bereitstellen
Das Modell mit Truss verpacken, auf eine dedizierte H100 pushen und auf einen stabilen Endpunkt befördern. HIPAA und SOC 2 Type II gelten bei Basic; eine dauerhaft laufende H100 kostet etwa 4.680 $ im Monat, weniger, wenn der Traffic das Herunterskalieren von Replikas erlaubt.
Ein Backend-Team, das einer B2B-App eine LLM-Funktion hinzufügt
Ein leistungsfähiges offenes Modell aufrufen, ohne GPUs zu betreiben
Model APIs mit GPT OSS 120B: 2 Milliarden Input- und 500 Millionen Output-Token im Monat kosten etwa 450 $, mit Zero Data Retention bei synchronen Aufrufen.
Ein Infrastrukturchef bei einer Bank mit AWS-Zusage
Offene Modelle hosten, ohne dass Daten das Cloud-Konto der Bank verlassen
Enterprise deployt Baseten in die eigene VPC der Bank und verbraucht bestehende Cloud-Zusagen; die Preise gibt es auf Anfrage, veröffentlicht sind sie nicht.
Bevor du dich festlegst
- Einrichtung
- Die Truss CLI installieren, das Modell in config.yaml beschreiben und baseten model push ausführen; zuerst entsteht ein Entwicklungs-Deployment mit Live-Reload, danach ein Produktions-Deployment, das du beförderst.
- Integrationen
- Truss kapselt auch bestehende vLLM-, SGLang- oder Triton-Container; Model APIs sind über Hugging Face Inference Providers verfügbar.
- Daten und Datenschutz
- Zero Data Retention für synchrone Aufrufe der Model APIs und dedizierter Inferenz, kein Training mit Kundeninhalten; SOC 2 Type II und HIPAA in allen Plänen; Kontrolle über die Datenresidenz und Self-Hosting bei Enterprise.
- Kosten im großen Maßstab
- Eine H100 für 0,10833 $ pro Minute kostet ohne Leerlauf etwa 4.680 $ im Monat, gegenüber etwa 2.844 $ bei Modal; minutengenaue Abrechnung ohne Kosten für Leerlauf verkleinert diesen Abstand bei schwankendem Traffic.
- Grenzen
- Basic läuft nur in Baseten Cloud, ohne bevorzugten GPU-Zugang; die Standardlimits der Model APIs liegen bei 15 Anfragen und 100.000 Token pro Minute für ein unverifiziertes Basic-Konto, 120 und 500.000 nach der Verifizierung und 120 und 1 Million bei Pro.
Was gut ist
- Zero Data Retention bei Model APIs und dedizierter Inferenz
- SOC 2 Type II und HIPAA in jedem Plan, auch im kostenlosen Basic
- GPT OSS 120B für 0,10 $ / 0,50 $ pro Million Token
- Enterprise läuft in deiner VPC und nutzt bestehende Cloud-Zusagen
Was nicht
- Dedizierte H100 kosten pro Stunde etwa 65% mehr als bei Modal
- Höhe des Startguthabens nicht veröffentlicht; Model API-Limits bei Basic niedrig
- Bevorzugter GPU-Zugang erfordert den Pro-Plan auf Anfrage
- Asynchrone Anfragen speichern Inputs vorübergehend
Am besten für
Unternehmen, die eigene oder feinabgestimmte Modelle in Produktion bereitstellen und Zero Data Retention, HIPAA und die Option zum Betrieb in der eigenen Cloud brauchen.
Alternativen zu Baseten
Baseten: häufige Fragen
- Lohnt sich Baseten?
- Baseten betreibt deine Modelle in Produktion, und die Compliance-Unterlagen sind schon erledigt, aber seine dedizierten GPUs kosten spürbar mehr, als du sie anderswo mieten könntest. Wir bewerten es mit 4.2 von 5.
- Was kostet Baseten?
- Basic 0 $/Monat, Abrechnung nach Verbrauch; Pro und Enterprise auf Anfrage. Model APIs pro 1 Mio. Token, z. B. GPT OSS 120B 0,10 $ Input / 0,50 $ Output, Kimi K3 3 $ / 15 $. Dedizierte GPUs pro Minute: T4 etwa 0,63 $/Stunde, A100 etwa 4,00 $/Stunde, H100 etwa 6,50 $/Stunde, B200 etwa 9,98 $/Stunde.
- Welche Nachteile hat Baseten?
- Dedizierte H100 kosten pro Stunde etwa 65% mehr als bei Modal; Höhe des Startguthabens nicht veröffentlicht; Model API-Limits bei Basic niedrig; Bevorzugter GPU-Zugang erfordert den Pro-Plan auf Anfrage; Asynchrone Anfragen speichern Inputs vorübergehend.
- Für wen eignet sich Baseten?
- Unternehmen, die eigene oder feinabgestimmte Modelle in Produktion bereitstellen und Zero Data Retention, HIPAA und die Option zum Betrieb in der eigenen Cloud brauchen.
- Was kostet Baseten für ein Team oder im Produktivbetrieb?
- Eine H100 für 0,10833 $ pro Minute kostet ohne Leerlauf etwa 4.680 $ im Monat, gegenüber etwa 2.844 $ bei Modal; minutengenaue Abrechnung ohne Kosten für Leerlauf verkleinert diesen Abstand bei schwankendem Traffic.
- Ist Baseten sicher für Firmendaten?
- Zero Data Retention für synchrone Aufrufe der Model APIs und dedizierter Inferenz, kein Training mit Kundeninhalten; SOC 2 Type II und HIPAA in allen Plänen; Kontrolle über die Datenresidenz und Self-Hosting bei Enterprise.
- Was sind die besten Alternativen zu Baseten?
- Die nächsten Alternativen, die wir getestet haben, sind Modal, Together AI, Fireworks AI und Replicate.
Antworten geprüft am 26. Okt. 2026.