DeepSeek V3.2 GPU-Anforderungen: VRAM und günstigste GPU
DeepSeek V3.2 hat 685,4 Mrd. Parameter, veröffentlicht in FP8. Es ist ein Mixture-of-Experts-Modell: 8 seiner 256 Experten arbeiten an jedem Token, etwa 51,9 Mrd. Parameter, daher erzeugt es Text ungefähr im Tempo eines Modells dieser Größe. Alle Experten müssen trotzdem im GPU-Speicher liegen, deshalb gelten die Speicherwerte unten für das ganze Modell. Es steht unter mit, die kommerzielle Nutzung erlaubt.
- Parameter
- 685,4 Mrd.
- Kleinster Bedarf (INT4)
- etwa 397 GB
- G ünstigste GPU pro Stunde (FP16)
- 8,99 $
- Typ
- Text
deepseek-ai/DeepSeek-V3.2
- Parameter 685,4 Mrd.
- Aktiv pro Token 51,9 Mrd.
- Typ Text
- Aufgabe text-generation
- Max. Kontext 160K
- Lizenz mit
- Downloads 8,4 Mio.
- Likes 1598
Berechnung für DeepSeek V3.2
Weitere Einstellungen
DeepSeek V3.2 braucht etwa 1.509 GB GPU-Speicher
Inferenz (vLLM), FP16 / BF16, 8K Tokens Kontext, eine Anfrage gleichzeitig.
Wofür der Speicher draufgeht
- Gewichte 1.371 GB
- KV-Cache 0,58 GB
- Laufzeit-Overhead 138 GB
- Gesamt 1.509 GB
Die GPU-Zahl lässt 10 % jeder Karte für Spitzen frei. Plane mehr ein, wenn du lange Prompts oder viele gleichzeitige Nutzer erwartest.
| Rang | Konfiguration | Pro GPU / Std. | Benötigte GPUs | Gesamt / Std. | Gesamt / Monat (24/7) | Anbieter |
|---|---|---|---|---|---|---|
| 1 | 6 × B300 288GBAm günstigstenBlackwell Ultra · HBM3e | 8,99 $ | 6nur mit 8 GPUs erhältlich; du brauchst 6 | 71,92 $ | 52.502 $ | RunPod (öffnet in neuem Tab)8x B300 |
| Mehr als 8: mehrere Knoten nötig: MI300X 192GB, GB200 186GB, B200 180GB, H200 141GB, GH200 96GB, H100 NVL 94GB, RTX PRO 6000 96GB, H100 80GB, A100 80GB, L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Anbieter | Instanz | Pro GPU / Std. | Benötigte GPUs | Gesamt / Std. | Gesamt / Monat (24/7) |
|---|---|---|---|---|---|
| RunPod (öffnet in neuem Tab)Am günstigsten | 8x B300us | 8,99 $ | 6 × B300 288GB nur mit 8 GPUs erhältlich; du brauchst 6 | etwa 71,92 $ | etwa 52.502 $ |
| Nebius (öffnet in neuem Tab) | 8x B300 288GBeu/us | 9,50 $ | 6 × B300 288GB nur mit 8 GPUs erhältlich; du brauchst 6 | etwa 76,00 $ | etwa 55.480 $ |
| AWS (öffnet in neuem Tab) | p6-b300.48xlargeus-east-1 | 17,80 $ | 6 × B300 288GB nur mit 8 GPUs erhältlich; du brauchst 6 | etwa 142,42 $ | etwa 103.964 $ |
Preise erfasst am 13. Nov. 2026. Alle Kosten sind Näherungswerte: On-Demand, in US-Dollar, meist US-Regionen (Marktplätze wie Vast.ai sind weltweit).
Speicher nach Genauigkeit und Einsatz
| Genauigkeit | Inferenz | LoRA-Feintuning | QLoRA-Feintuning | Volles Feintuning |
|---|---|---|---|---|
| FP16 / BF16 | 1.509 GB | 1.760 GB | – | 12.073 GB |
| INT8 | 793 GB | – | – | – |
| INT4 | 397 GB | – | 648 GB | – |
Günstigste GPU nach Genauigkeit
Inferenz mit 8K Kontext und einer Anfrage gleichzeitig.
FP16 / BF16
etwa 1.509 GB · 8K Tokens
Die Gewichte wie veröffentlicht. Kein Verlust, aber der größte Bedarf.
6 × B300 288GB
RunPod (öffnet in neuem Tab) · 8x B300
nur mit 8 GPUs erhältlich; du brauchst 6- Pro GPU / Std.
- 8,99 $
- Benötigte GPUs
- 6
- Gesamt / Std.
- etwa 71,92 $
- pro Monat, 24/7, ca.
- 52.502 $
INT8
etwa 793 GB · 8K Tokens
Gewichte in halber Größe. Bei Chat und RAG meist kein sichtbarer Unterschied.
5 × MI300X 192GB
RunPod (öffnet in neuem Tab) · 8x MI300X
nur mit 8 GPUs erhältlich; du brauchst 5- Pro GPU / Std.
- 2,39 $
- Benötigte GPUs
- 5
- Gesamt / Std.
- etwa 19,12 $
- pro Monat, 24/7, ca.
- 13.958 $
INT4
etwa 397 GB · 8K Tokens
Gewichte auf ein Viertel verkleinert. Kleine Verluste zeigen sich zuerst bei Mathematik und Code.
3 × MI300X 192GB
RunPod (öffnet in neuem Tab) · 4x MI300X
nur mit 4 GPUs erhältlich; du brauchst 3- Pro GPU / Std.
- 2,39 $
- Benötigte GPUs
- 3
- Gesamt / Std.
- etwa 9,56 $
- pro Monat, 24/7, ca.
- 6.979 $
Inferenz oder Feintuning
Inferenz (FP16)
1×
des Speichers für Inferenz
1.509 GB
6 × B300 288GB · etwa 71,92 $
LoRA-Feintuning
1,2×
des Speichers für Inferenz
1.760 GB
7 × B300 288GB · etwa 71,92 $
QLoRA-Feintuning
0,4×
des Speichers für Inferenz
648 GB
4 × MI300X 192GB · etwa 9,56 $
Volles Feintuning
8×
des Speichers für Inferenz
12.073 GB
mehr als einen Knoten mit 8 GPUs
Für den Betrieb in FP16 reicht 6 × B300 288GB (RunPod). LoRA braucht 7 × B300 288GB (RunPod), QLoRA 4 × MI300X 192GB (RunPod) und volles Feintuning mehr als einen Knoten mit 8 GPUs. Training hält neben den Gewichten auch Aktivierungen und Optimiererzustände im Speicher und braucht deshalb oft mehr GPUs als der Betrieb desselben Modells.
Läuft es auf einem Mac oder einer einzelnen RTX 4090?
RTX 4090 (24 GB)
Allein nicht. Selbst bei INT4 braucht es etwa 397 GB, mehr als die 24 GB der Karte. Zwei oder mehr Karten oder eine größere Rechenzentrums-GPU reichen.
Mac mit Apple Silicon
Realistisch nicht. Selbst bei INT4 braucht es etwa 397 GB, mehr als der größte Mac seiner GPU geben kann.
Ähnliche Modelle
Offene Modelle ähnlicher Größe.
- DeepSeek R1Text684,5 Mrd. · etwa 1.508 GB FP16 · 1,7 Mio. ↓GPU-Bedarf
- DeepSeek V3Text684,5 Mrd. · etwa 1.508 GB FP16 · 1,4 Mio. ↓GPU-Bedarf
- K-EXAONE 2.0Text749,4 Mrd. · etwa 1.650 GB FP16 · 14.313 ↓GPU-Bedarf
- GLM-5.3Text753,3 Mrd. · etwa 1.659 GB FP16 · 1,9 Mio. ↓GPU-Bedarf
- GLM 5Text753,9 Mrd. · etwa 1.660 GB FP16 · 1,2 Mio. ↓GPU-Bedarf
- GLM 5.1Text753,9 Mrd. · etwa 1.660 GB FP16 · 789.840 ↓GPU-Bedarf
DeepSeek V3.2: häufige Fragen
Wie viel VRAM braucht DeepSeek V3.2?
Etwa 1.509 GB bei FP16, 793 GB bei INT8 und 397 GB bei INT4, mit 8K Kontext und einer Anfrage gleichzeitig. Längerer Kontext und mehr parallele Anfragen kommen als KV-Cache hinzu.
Was ist die günstigste GPU für DeepSeek V3.2?
6 × B300 288GB (etwa 8,99 $ pro GPU / Stunde; nur mit 8 GPUs erhältlich; du brauchst 6) bei RunPod, für etwa 71,92 $ pro Stunde bei Inferenz in FP16 / BF16 mit 8K Kontext. Preise erfasst am 13. Nov. 2026; sie ändern sich oft.
Kann ich DeepSeek V3.2 auf einer einzelnen GPU feintunen?
Nicht auf einer GPU. Selbst QLoRA braucht etwa 648 GB, mehr als eine 80-GB-GPU fasst. LoRA braucht etwa 1.760 GB, volles Feintuning etwa 12.073 GB.
Wie werden diese Zahlen berechnet?
Die Gewichte sind Parameter mal Bytes pro Parameter (2 bei FP16, 1 bei INT8, 0,5 bei INT4). Der KV-Cache ergibt sich aus Schichten, KV-Köpfen, Kopfgröße und Kontextlänge des Modells. Wir rechnen etwa 10 % plus 1 GB für die Laufzeit dazu und füllen jede GPU bis 90 %. Die Preise sind On-Demand-Listenpreise in US-Regionen, von den öffentlichen Preisseiten der Anbieter.
Läuft DeepSeek V3.2 auf einer Consumer-GPU wie der RTX 4090?
Allein nicht. Selbst bei INT4 braucht es etwa 397 GB, mehr als die 24 GB der Karte. Zwei oder mehr Karten oder eine größere Rechenzentrums-GPU reichen.
Passt DeepSeek V3.2 auf eine einzelne H100 80GB?
Nein. Selbst bei INT4 braucht es etwa 397 GB, du brauchst also mehrere GPUs.
Wie viele GPUs brauche ich für DeepSeek V3.2?
Bei FP16 mit 8K Kontext: 21 × 80 GB, 35 × 48 GB oder 70 × 24 GB. Bei INT4 brauchen die Gewichte etwa ein Viertel des Speichers.
Wie viel VRAM braucht DeepSeek V3.2 bei INT8?
Etwa 793 GB: 720 GB für die Gewichte, 0,58 GB für einen KV-Cache mit 8K und 73 GB Laufzeit-Overhead.
Was kostet es, DeepSeek V3.2 einen Monat lang rund um die Uhr zu betreiben?
Etwa 52.502 $ mit der günstigsten Konfiguration, die wir gefunden haben (6 × B300 288GB (etwa 8,99 $ pro GPU / Stunde; nur mit 8 GPUs erhältlich; du brauchst 6), 71,92 $ pro Stunde für 730 Stunden). Am günstigsten bei AWS, Google Cloud oder Azure sind es etwa 103.964 $ im Monat.
FP16, INT8 oder INT4: was soll ich nehmen?
FP16 behält die volle Qualität und braucht den meisten Speicher (hier etwa 1.509 GB). INT8 halbiert die Gewichte mit wenig Verlust für die meisten Chat-Aufgaben. INT4 (AWQ, GPTQ oder GGUF Q4) verkleinert sie auf ein Viertel, insgesamt etwa 397 GB, mit einem kleinen Qualitätsverlust, der sich vor allem bei Mathematik und Code zeigt.
Läuft DeepSeek V3.2 auf einem Mac?
Realistisch nicht. Selbst bei INT4 braucht es etwa 397 GB, mehr als der größte Mac seiner GPU geben kann.
vLLM oder llama.cpp?
vLLM ist dafür gebaut, viele Anfragen gleichzeitig auf NVIDIA- und AMD-GPUs zu bedienen, und reserviert den Großteil des GPU-Speichers für den KV-Cache. llama.cpp läuft mit GGUF-Dateien auf fast allem, auch auf Macs und CPUs, und passt für eine Person oder ein kleines Team. Bei gleicher Genauigkeit ist der Speicherbedarf ähnlich.
Preise erfasst am 13. Nov. 2026. Alle Kosten sind Näherungswerte: On-Demand, in US-Dollar, meist US-Regionen (Marktplätze wie Vast.ai sind weltweit).
So rechnen wir
- Gewichte. Parameter mal Bytes pro Parameter: 2 bei FP16, 1 bei INT8, 0,5 bei INT4, plus etwa 5 % für die Quantisierungsskalen bei INT8 und INT4.
- KV-Cache. 2 × Schichten × KV-Köpfe × Kopfgröße × Kontext × Anfragen × 2 Bytes, aus der config.json des Modells. Fehlt eine Angabe, schätzen wir sie und weisen darauf hin.
- Overhead. Etwa 10 % plus 1 GB für die Laufzeit, in etwa das, was vLLM reserviert.
- Feintuning. LoRA behält 16-Bit-Gewichte und ergänzt einen kleinen Adapter, dessen Optimierer und die Aktivierungen. QLoRA macht dasselbe auf 4-Bit-Gewichten. Volles Feintuning braucht mit Adam in gemischter Genauigkeit etwa 16 Bytes pro Parameter (Gewichte, Gradienten und Optimiererzustände), plus Aktivierungen.
- GPUs. Wir füllen jede GPU bis 90 % ihres Speichers und hören bei 8 pro Knoten auf. Die Kosten sind On-Demand-Listenpreise in US-Regionen; bei Marktplatz-Clouds zeigen wir das mittlere Angebot.