Unified Memory
Unified Memory (gemeinsamer Arbeitsspeicher) ist ein Aufbau, bei dem CPU und GPU einen gemeinsamen Speicherpool teilen, statt jeweils einen eigenen zu haben. Auf Macs mit Apple Silicon und ähnlichen Chips kann ein lokales KI-Modell so den Großteil des System-RAM als GPU-Speicher nutzen.
Auch: Apple Silicon memory, unified memory architecture, UMA
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Auf einem typischen PC hat die GPU ihren eigenen VRAM, getrennt vom System-RAM, den die CPU nutzt. Ein Modell muss in den VRAM passen, um schnell zu laufen, und Consumer-Grafikkarten haben viel weniger VRAM als ein Computer RAM. Unified Memory hebt die Trennung auf: CPU, GPU und andere Prozessoren auf dem Chip lesen denselben Speicher, ohne Kopieren zwischen Pools.
Warum es für lokale KI wichtig ist
Apple brachte Unified Memory 2020 mit dem M1-Chip auf den Mac. Ein Mac mit viel Unified Memory kann ein Modell laden, das sonst mehrere GPUs bräuchte, was Macs zu einer beliebten Wahl für große lokale LLMs gemacht hat. Apples Framework MLX ist für diesen Aufbau geschrieben, und llama.cpp, Ollama und LM Studio laufen alle darauf.
Grenzen
Kapazität ist nicht Geschwindigkeit. Unified Memory hat meist weniger Bandbreite als der VRAM einer leistungsstarken dedizierten GPU, und die Generierungsgeschwindigkeit großer Modelle ist vor allem durch die Bandbreite begrenzt. Die Tokens pro Sekunde können daher niedriger sein, selbst wenn das Modell passt. Die GPU-Kerne sind außerdem langsamer als eine Rechenzentrumskarte, was sich bei langen Prompts zeigt. Das Betriebssystem behält einen Teil des Speichers für sich, daher steht nicht alles dem Modell zur Verfügung. Der Speicher wird beim Kauf festgelegt und lässt sich nicht aufrüsten.
Im Vergleich zu CPU-Offloading
CPU-Offloading ist ein Notbehelf auf Rechnern mit getrenntem Speicher: Schichten, die nicht in den VRAM passen, bleiben im RAM und laufen langsamer. Unified Memory vermeidet diese Trennung von vornherein.
Verwandte Begriffe
- VRAM
- VRAM ist der Speicher auf einer Grafikkarte. Bei KI-Arbeit enthält er die Modellgewichte, den KV-Cache und Arbeitsdaten, und ob ein Modell in den VRAM passt, entscheidet meist, welche GPU du brauchst, um es auszuführen.
- Lokales LLM
- Ein lokales LLM ist ein Sprachmodell, das auf deinem eigenen Computer, Smartphone oder Server läuft statt über die Cloud-API eines Anbieters. Prompts und Daten bleiben so auf deiner Hardware, und es funktioniert ohne Internetverbindung.
- CPU-Offloading
- CPU-Offloading (Auslagerung auf die CPU) betreibt ein Modell, das nicht in den GPU-Speicher passt, indem ein Teil seiner Schichten im Arbeitsspeicher oder auf der Festplatte bleibt und die GPU den Rest übernimmt. Das Modell läuft, aber langsamer.
- GPU
- Eine GPU (Graphics Processing Unit, Grafikprozessor) ist ein Prozessor mit vielen kleinen Kernen, der dafür gebaut ist, viele Berechnungen parallel auszuführen. Ihr Tempo bei Matrixrechnungen macht sie zur Standardhardware für Training und Betrieb von KI-Modellen.
- Tokens pro Sekunde
- Tokens pro Sekunde (tok/s) misst, wie schnell ein Sprachmodell Ausgabe erzeugt. Angegeben wird der Wert entweder pro Nutzer, also die Geschwindigkeit, mit der eine Antwort gestreamt wird, oder pro System, also die gesamte Ausgabe über alle gleichzeitigen Anfragen.