Was ist d3-turbo (vLLM Semantic Router)?
d3-turbo ist das verbesserte multimodale 27B-Entscheidungsmodell von Decision 3.0 aus dem Projekt vLLM Semantic Router. Es wurde am 19. Oktober 2026 unter Apache 2.0 auf Hugging Face veröffentlicht, neun Tage nach d3, als eigener Satz von Gewichten, feingetunt auf Basis von Qwen3.8-27B (26,09 Milliarden Parameter einschließlich eines Vision-Encoders mit 460 Millionen). Inzwischen bedient es die kostenlose API unter decision.vllm-sr.ai, wo der Name vllm-sr/d3 ein Alias dafür ist.
Wie d3 beantwortet es choice-, Ja/Nein- und score-Fragen mit einer Wahrscheinlichkeit für jede Option, ohne Text zu erzeugen. Neu sind Box-Antworten (wo sich ein Objekt in einem Bild oder zu einem Zeitpunkt in einem Video befindet, mit Konfidenz), Tracking über ganze Videos, Bilder innerhalb von Fragen und Optionen und ein Long-Context-Modus mit 131.072 Tokens pro Frage, gegenüber standardmäßig 32.768.
Die wichtigste Änderung an der Architektur: Das Modell liest die Eingabe einmal pro Request und beantwortet jede Frage aus diesem einen Lesedurchgang. Unterstützung im unveränderten vLLM und quantisierte Builds standen bei unserer Prüfung noch aus; es läuft über Transformers oder den eigenen Engine-Modus des Semantic Router.
Lohnt sich d3-turbo (vLLM Semantic Router)?
Die wichtigste Verbesserung betrifft die Architektur, nicht einen Sprung in der Rangliste. Im Community-Index Jev Decision Index, aktualisiert am 22. Oktober 2026, steht d3-turbo v1.1 mit einem ausgewogenen Skill-Wert von 67,31 auf Platz 10 von 229 Einträgen, hauchdünn vor d3 mit 67,15. Klarer ist der Wert in der öffentlichen Testsuite, 71,62 gegenüber 65,45 für d3 nach der Neubewertung durch den Index selbst, und die Schätzungen der Model Card von 70,2 bei Text und 72,9 bei Vision stammen vom Team, nicht aus offiziellen Ranglistenergebnissen.
Was die Wirtschaftlichkeit verändert, ist das einmalige Lesen. Laut Model Card brauchen 64 Fragen zu einem Foto auf einer AMD Instinct MI325X mit d3-turbo 867 ms gegenüber 8,26 s mit dem 9B-Modell d3-flash, und 255 Fragen brauchen 2,12 s gegenüber 32,94 s. Bei einer einzelnen Frage kehrt sich die Reihenfolge um: d3-flash antwortet in 154 ms, d3-turbo in 302 ms. Eine Moderations-Pipeline, die zu jedem Upload ein Dutzend Richtlinienfragen stellt, profitiert; ein Router, der eine Frage pro Prompt stellt, ist mit einem kleineren Geschwistermodell besser bedient.
Box- und Tracking-Antworten führen über die Klassifikation hinaus. Das Team meldet eine Genauigkeit von 0,90 bei einer Überlappungsschwelle von 0,5 im eigenen Box-Set und einen F1 von 0,97 für die Erkennung der Anwesenheit in seinen Tracking-Clips. Jede Box-Frage liefert genau eine Box, auch wenn das Objekt fehlt, daher rät die Model Card, sie mit einer Ja/Nein-Frage zu kombinieren. Dieses Detail wird jeden überraschen, der das Modell direkt an eine Alarmregel anschließt.
Das Serving ist weniger ausgereift als bei d3. Der Pull Request, der das Attention-Muster von d3-turbo in vLLM einbringt (#62584), war an unserem Prüfdatum noch offen, es gibt noch keine Builds in FP8 oder 4 Bit (das Projekt führt ein NVFP4-Paket als offenes Issue), und der dokumentierte Engine-Weg zielt auf AMD ROCm aus dem Dev-Channel des Routers. Bei 26,09 Milliarden BF16-Parametern sind die Gewichte etwa 52 GB groß, was eine einzelne Karte mit 24 GB ausschließt, bis quantisierte Builds erscheinen.
Wo es sich lohnt
Die Trust-and-Safety-Leitung eines Marktplatzes, die täglich 50.000 Angebotsfotos gegen 20 Richtlinien prüft
Jede Regel auf jedes Foto anwenden, ohne für 20 Modellaufrufe zu zahlen
Schicke jedes Foto mit allen 20 Regeln als Ja/Nein-Fragen in einem Request; nach den Zahlen der Model Card brauchen 16 Fragen auf einer MI325X 426 ms, 50.000 Angebote sind also etwa sechs GPU-Stunden pro Tag. Wahrscheinlichkeiten pro Regel erlauben den Prüfern getrennte Schwellenwerte.
Ein Computer-Vision-Engineer bei einer Firma für Einzelhandelsanalysen
Herausfinden, ob und wo ein Produkt in Clips von Ladenkameras erscheint
Stelle zu jedem Clip eine Ja/Nein-Frage zur Anwesenheit und eine Track-Frage für das Produkt, mit ein oder zwei Aktualisierungen pro Sekunde. Die kostenlose API nimmt ein Video von bis zu 60 Sekunden an; Produktionsvolumen heißt, die 52 GB BF16-Gewichte selbst zu hosten.
Ein Engineering-Manager, der d3 bereits hinter der kostenlosen API betreibt
Verstehen, warum sich Antworten ohne Codeänderung verändert haben
Der Name vllm-sr/d3 der kostenlosen API zeigt jetzt auf d3-turbo, Antworten können also von denen abweichen, die vor der Veröffentlichung von d3-turbo am 19. Oktober aufgezeichnet wurden. Lege einen selbst gehosteten Checkpoint fest, wenn Reproduzierbarkeit zählt, und schicke keine sensiblen Daten an die kostenlose API, die Requests zur Verbesserung der Modelle protokolliert.
Bevor du dich festlegst
- Einrichtung
- Installiere Transformers 5.17.0 und lade mit AutoModel und trust_remote_code, oder starte vllm-sr serve vllm-sr/d3-turbo --engine --platform rocm aus dem Dev-Channel des Routers. Die Model Card nennt etwa 2,5 Minuten für den ersten Start der Engine und danach 35 Sekunden.
- Integrationen
- Das mit Jev geteilte Request-Format System One, unter /v1/systemone auf der kostenlosen API und in der Engine; eine Methode system_one() in Transformers; ein Hugging Face Space. Unterstützung im unveränderten vLLM ist ein offener Pull Request.
- Daten und Datenschutz
- Apache 2.0, übernommen von Qwen3.8-27B; kommerzielle Nutzung ohne Umsatzgrenze erlaubt. Selbst gehostet bleiben Eingaben auf deiner Hardware. Die kostenlose API gibt an, dass Requests und Antworten zur Verbesserung der Modelle protokolliert werden können.
- Kosten im großen Maßstab
- Kein gehosteter Preis. Die BF16-Gewichte sind etwa 52 GB groß, also eine GPU der 80-GB-Klasse pro Replika; die Model Card nennt keinen Spitzenspeicherbedarf, das gleich große d3 erreichte jedoch 62 bis 65 GiB. Quantisierte Builds gibt es noch nicht.
- Grenzen
- Standardmäßig 32.768 Tokens pro Frage, 131.072 mit long_context; zu lange Fragen liefern max_length_exceeded zurück, statt abgeschnitten zu werden. Die kostenlose API begrenzt Requests auf 64 Fragen, 16 Bilder zu je 16 MiB, ein Video von 60 Sekunden und ein Timeout von 35 Sekunden.
Was gut ist
- Platz 10 von 229 im Community-Index Decision Index (67,31)
- Ein Lesedurchgang beantwortet bis zu 255 Fragen: 2,12 s für 255 auf einer MI325X
- Box- und Video-Tracking-Antworten mit Konfidenzwerten
- Apache 2.0 mit einer kostenlosen öffentlichen API zum Ausprobieren
Was nicht
- Langsamer als d3-flash bei Requests mit einer einzelnen Frage
- Noch keine Unterstützung im unveränderten vLLM; keine quantisierten Builds
- Die kostenlose API protokolliert Requests und hat kein SLA
- Die meisten Zahlen stammen vom Team selbst, auf AMD-Hardware
Am besten für
Teams mit GPUs, die zum selben Text, Bild oder Video viele Ja/Nein-, Auswahl- oder Positionsfragen stellen und offene Gewichte wollen.
Alternativen zu d3-turbo (vLLM Semantic Router)
d3-turbo (vLLM Semantic Router): häufige Fragen
- Lohnt sich d3-turbo (vLLM Semantic Router)?
- d3-turbo verdient seinen Platz, wenn einer Eingabe viele Fragen gegenüberstehen, und kostet mehr als d3-flash, wenn es nur eine ist. Wir bewerten es mit 4.1 von 5.
- Was kostet d3-turbo (vLLM Semantic Router)?
- Kostenlose Gewichte unter Apache 2.0. Keine kostenpflichtige gehostete API; eine kostenlose öffentliche API mit Logging und ohne SLA.
- Welche Nachteile hat d3-turbo (vLLM Semantic Router)?
- Langsamer als d3-flash bei Requests mit einer einzelnen Frage; Noch keine Unterstützung im unveränderten vLLM; keine quantisierten Builds; Die kostenlose API protokolliert Requests und hat kein SLA; Die meisten Zahlen stammen vom Team selbst, auf AMD-Hardware.
- Für wen eignet sich d3-turbo (vLLM Semantic Router)?
- Teams mit GPUs, die zum selben Text, Bild oder Video viele Ja/Nein-, Auswahl- oder Positionsfragen stellen und offene Gewichte wollen.
- Was kostet d3-turbo (vLLM Semantic Router) für ein Team oder im Produktivbetrieb?
- Kein gehosteter Preis. Die BF16-Gewichte sind etwa 52 GB groß, also eine GPU der 80-GB-Klasse pro Replika; die Model Card nennt keinen Spitzenspeicherbedarf, das gleich große d3 erreichte jedoch 62 bis 65 GiB. Quantisierte Builds gibt es noch nicht.
- Ist d3-turbo (vLLM Semantic Router) sicher für Firmendaten?
- Apache 2.0, übernommen von Qwen3.8-27B; kommerzielle Nutzung ohne Umsatzgrenze erlaubt. Selbst gehostet bleiben Eingaben auf deiner Hardware. Die kostenlose API gibt an, dass Requests und Antworten zur Verbesserung der Modelle protokolliert werden können.
- Was sind die besten Alternativen zu d3-turbo (vLLM Semantic Router)?
- Die nächsten Alternativen, die wir getestet haben, sind d3 (vLLM Semantic Router), Perplexity Decider (pplx-decider), Jev, Clef und GLiNER2.5-Decide.
Antworten geprüft am 23. Okt. 2026.