Analysen Agenten-Frameworks und Automatisierung
OpenGPT-OSS 20B: Testbericht und lokale Installation mit Ollama
Von Andrew Miller ·
Archivierter Beitrag. Geschrieben im August 2025; Preise, Modelle und Funktionen können sich seitdem geändert haben. Den aktuellen Stand findest du unter unseren aktuellen Test von gpt-oss-20b.
Ein leistungsfähiges Sprachmodell auf dem eigenen Rechner zu betreiben hieß früher, sich mit etwas abzufinden, das weit hinter den gehosteten lag. OpenGPT-OSS ist OpenAIs Familie von Open-Weight-Modellen, veröffentlicht in den Größen 20B und 120B unter der Lizenz Apache 2.0. Sie unterstützen Chain-of-Thought-Reasoning, Tool-Nutzung im Agent-Stil und Fine-Tuning über PFT.
Die Version mit 20B ist über Ollama verfügbar, läuft auf einer modernen Consumer-GPU und unterstützt quantisierte Formate wie MXFP4, die den Speicherbedarf senken.
Worin es gut ist
| Fähigkeit | Leistung |
|---|---|
| Chain-of-Thought-Reasoning | Stark |
| Codegenerierung und Debugging | Solide |
| Aufgaben- und Terminplanung | Genau |
| Sprachvereinfachung | Klar |
| Mehrsprachigkeit | Uneinheitlich |
| Leitplanken und Sicherheitsfilter | Vorsichtig (20B), lockerer (120B) |
| Leistung quantisiert | Behält den Großteil seiner Qualität |
Was du brauchst
- Betriebssystem: Linux, macOS oder Windows (über Ollama)
- RAM: 16 GB oder mehr empfohlen
- GPU: 16 GB VRAM (bevorzugt NVIDIA) oder nur CPU, was langsamer ist
- Speicherplatz: etwa 13 GB für das Modell mit 20B
Installation mit Ollama
1. Ollama installieren oder aktualisieren
Linux:
curl -fsSL https://ollama.com/install.sh | sh
macOS:
brew install ollama
Windows: Lade den Windows-Installer von ollama.com herunter und führe ihn aus.
Du brauchst Ollama v0.1.11 oder neuer; ältere Versionen haben Probleme beim Herunterladen des Modells.
2. Das Modell starten
ollama run open-gpt-oss
Das lädt das quantisierte Modell mit 20B herunter (etwa 13 GB), prüft seine Prüfsumme und öffnet eine Chat-Sitzung in deinem Terminal.
3. Optional: eine Browser-Oberfläche mit Open WebUI ergänzen
pip install open-webui
open-webui serve
Öffne dann http://localhost:3000 in deinem Browser, wo das Modell geladen und bereit zum Chatten sein sollte.
Wie es sich bei echten Aufgaben schlug
Laut frühen Durchläufen auf einer RTX A6000:
| Aufgabe | Ergebnis |
|---|---|
| Mathematisches Schlussfolgern | Löste Aufgaben mit korrekten Schritten |
| CUDA-Kernel-Code | Schrieb und erklärte einen GPU-Matrix-Kernel |
| Reiseplanung | Erstellte einen realistischen 10-tägigen Reiseplan mit Budget in AU$ |
| Dienstplanung | Baute einen Personalplan, der die Vorgaben einhielt, mit Anmerkungen |
| Übersetzung | Gemischt; bekannte Sprachen schnitten besser ab |
| Philosophie und Literatur | Erklärte die Theorie der multiplen Intelligenzen klar |
| Leitplanken | Das Modell mit 20B lehnte unangemessene Prompts ab |
| VRAM-Verbrauch (MXFP4) | Etwa 15 GB |
Der Haken: Die mehrsprachige Ausgabe ist ungleichmäßig, und dem Modell mit 20B fehlt es an Humor und kreativer Bandbreite.
Unser Fazit: Als lokaler Ersatz für einen Assistenten der GPT-3.5-Klasse verdient das Modell mit 20B seine 13 GB. Es passt zu Schlussfolgern, Programmieren und Offline-Arbeit auf einer einzigen Karte mit 16 GB, mit Sicherheitsfiltern auf der vorsichtigen Seite.
Links
- Ollama: https://ollama.com
- Model Card auf Hugging Face: OpenGPT-OSS-20B