Was ist Jan?
Jan ist eine Desktop-App von Menlo Research, mit der du offene Modelle auf deinem eigenen Rechner herunterlädst und mit ihnen chattest, unter Windows, macOS und Linux. Sie betreibt Modelle über eine mitgelieferte llama.cpp-Engine und kann sich mit eigenen Schlüsseln auch mit Cloud-Anbietern wie OpenAI, Anthropic, Mistral und Groq verbinden.
Sie stellt unter 127.0.0.1:1337 eine OpenAI-kompatible API bereit, damit andere Werkzeuge deine lokalen Modelle nutzen können, und unterstützt MCP-Tools. Neuere Versionen ergänzen einen Jan-Agenten mit einem Shell-Tool in einer Sandbox und eingebauten Subagenten für Recherche, Review und Debugging. Menlo trainiert dafür auch kleine Modelle, etwa Jan-nano mit 4B Parametern.
Das neueste Release ist v0.8.7 vom 20. Oktober 2026. Lokale Modelle laufen nicht auf Intel-Macs, eine Einschränkung, die seit v0.8.5 besteht.
Lohnt sich Jan?
Jan ist eine starke Wahl für eine einzelne Person, die lokale Modelle in einer ausgefeilten App will, ohne sich irgendwo anmelden zu müssen. Es hat rund 45.000 GitHub-Sterne und erscheint häufig: v0.8.6 am 9. Oktober 2026 und v0.8.7 elf Tage später.
Anders als bei LM Studio steht die ganze App unter Apache 2.0, und Analytics sind Opt-in: Laut Datenschutzseite wird nichts erfasst, bis du zustimmst, und dann nur Zahlen zu aktiven Nutzern und Bindung, verknüpft mit einer zufälligen ID und von PostHog in der EU verarbeitet. Chats an ein Cloud-Modell gehen zu dessen Bedingungen an diesen Anbieter.
Das Produkt driftet von der Chat-App zum Agenten. v0.8.7 brachte eingebaute Subagenten und einen Schalter, um das Shell-Tool abzuschalten, das standardmäßig an ist, wo Sandbox und Modell es unterstützen. Die lokale API bindet sich an localhost, braucht aber keinen Schlüssel, solange du keinen setzt, hat CORS standardmäßig aktiviert, und die Dokumentation warnt davor, sie ohne Schlüssel an 0.0.0.0 zu binden. Dasselbe Release entfernte außerdem einen gehosteten Exa-Suchserver, den v0.8.3 der Standardliste der MCP-Server hinzugefügt hatte, eine Erinnerung daran, zu prüfen, welche Tools ein lokales Modell stillschweigend bekommt.
Die Hardware ist die Obergrenze. Das README empfiehlt auf einem Mac 8 GB RAM für Modelle mit 3B, 16 GB für 7B und 32 GB für 13B, und Intel-Macs können überhaupt keine lokalen Modelle betreiben. Mit 614 offenen Issues und Pull Requests ist es eher geschäftig als ausgereift, und es bleibt eine Desktop-App für einen Nutzer, wo Open WebUI ein ganzes Team von einem Rechner aus bedient.
Wo es sich lohnt
Eine Anwältin, die vertrauliche Mandantenakten auf einem MacBook mit 32 GB bearbeitet
Dokumente zusammenfassen und befragen, ohne sie an einen Cloud-Anbieter zu schicken
Ein offenes Modell mit 7B bis 13B lokal in Jan betreiben, ohne Konto und mit ausgeschalteten Analytics. Die Kosten sind der Laptop; der Kompromiss ist eine Antwortqualität unter der von Frontier-Cloud-Modellen bei schwierigem Schlussfolgern.
Ein Entwickler, der im Zug ohne Netz gegen die OpenAI API prototypisiert
Offline weiter gegen einen Endpunkt im OpenAI-Stil programmieren
Die App auf http://127.0.0.1:1337/v1 richten, und Jan stellt ein lokales Modell über dieselbe API-Form bereit. Vor dem Freigeben ins Netzwerk einen API-Schlüssel setzen, da standardmäßig keiner verlangt wird.
Ein IT-Leiter bei einem Designstudio mit 40 Leuten
Den Mitarbeitenden ein privates Chat-Werkzeug ohne Abo pro Platz anbieten
Jan lässt sich kostenlos aus dem Microsoft Store, von Flathub oder per Direktdownload installieren, aber jede Installation ist eigenständig, es gibt also keine zentrale Verwaltung, keinen geteilten Verlauf und keine Richtlinienkontrolle. Für ein verwaltetes Ausrollen passt ein Server-Werkzeug wie Open WebUI besser.
Bevor du dich festlegst
- Einrichtung
- Den Installer für Windows, macOS oder Linux herunterladen (auch im Microsoft Store und auf Flathub), dann in der App ein Modell von Hugging Face auswählen; der erste Chat dauert Minuten plus den Download des Modells.
- Integrationen
- Lokale Modelle über llama.cpp; Cloud-Modelle von OpenAI, Anthropic, Mistral, Groq und anderen mit deinen Schlüsseln; MCP-Server; eine OpenAI-kompatible API für andere Apps.
- Daten und Datenschutz
- Apache 2.0. Analytics sind Opt-in, gehen an PostHog EU und schließen Chats und Modellwahl aus; lokale Chats bleiben auf dem Rechner, Cloud-Chats gehen an den Anbieter. Die lokale API braucht standardmäßig keinen Schlüssel und hat CORS aktiviert.
- Kosten im großen Maßstab
- Kostenlos, ohne bezahlte Stufe. Die Kosten sind Hardware: Menlo empfiehlt auf einem Mac 16 GB RAM für Modelle mit 7B und 32 GB für 13B, plus deine eigenen API-Ausgaben für Cloud-Modelle.
- Grenzen
- 614 offene Issues und Pull Requests; keine Unterstützung lokaler Modelle auf Intel-Macs; keine Mehrbenutzerfunktionen; die automatische Verdichtung für entfernte Modelle braucht eine von Hand gesetzte Kontextgröße.
Was gut ist
- Vollständig Open Source, Apache 2.0, kein Konto
- Analytics per Opt-in und auf Nutzungszahlen beschränkt
- OpenAI-kompatible lokale API auf Port 1337
- Kombiniert lokale llama.cpp-Modelle und Cloud-APIs
Was nicht
- Desktop-App für einen Nutzer, keine Teamfunktionen
- Lokale Modelle laufen nicht auf Intel-Macs
- Das Shell-Tool des Agenten ist standardm äßig an
- Die lokale API hat keinen Schlüssel, solange du keinen setzt
Am besten für
Datenschutzbewusste Einzelpersonen, die offene Modelle offline in einer Desktop-App betreiben wollen.
Alternativen zu Jan
Jan: häufige Fragen
- Lohnt sich Jan?
- Ein vollständig offenes Desktop-Zuhause für lokale Modelle ohne Konto, das sich still zu einem Agenten entwickelt hat, weshalb seine Voreinstellungen jetzt mehr zählen als sein Aussehen. Wir bewerten es mit 4.2 von 5.
- Was kostet Jan?
- Kostenlos und Open Source (Apache 2.0). Keine bezahlte Stufe; Cloud-Modelle nutzen deine eigenen API-Schlüssel.
- Welche Nachteile hat Jan?
- Desktop-App für einen Nutzer, keine Teamfunktionen; Lokale Modelle laufen nicht auf Intel-Macs; Das Shell-Tool des Agenten ist standardmäßig an; Die lokale API hat keinen Schlüssel, solange du keinen setzt.
- Für wen eignet sich Jan?
- Datenschutzbewusste Einzelpersonen, die offene Modelle offline in einer Desktop-App betreiben wollen.
- Was kostet Jan für ein Team oder im Produktivbetrieb?
- Kostenlos, ohne bezahlte Stufe. Die Kosten sind Hardware: Menlo empfiehlt auf einem Mac 16 GB RAM für Modelle mit 7B und 32 GB für 13B, plus deine eigenen API-Ausgaben für Cloud-Modelle.
- Ist Jan sicher für Firmendaten?
- Apache 2.0. Analytics sind Opt-in, gehen an PostHog EU und schließen Chats und Modellwahl aus; lokale Chats bleiben auf dem Rechner, Cloud-Chats gehen an den Anbieter. Die lokale API braucht standardmäßig keinen Schlüssel und hat CORS aktiviert.
- Was sind die besten Alternativen zu Jan?
- Die nächsten Alternativen, die wir getestet haben, sind AnythingLLM, Cherry Studio und Open WebUI.
Antworten geprüft am 23. Okt. 2026.