Was ist MobileMoE (S, M, L)?
MobileMoE ist eine Familie von Mixture-of-Experts-Sprachmodellen für den Einsatz auf dem Gerät aus Metas Forschungsgruppe FAIR, beschrieben in einem Paper vom 26. Mai 2026 und am 10. und 11. Juni 2026 auf Hugging Face veröffentlicht; die Gewichte wurden Ende August aktualisiert. Ein Mixture-of-Experts-Modell enthält viele kleine Feed-Forward-Blöcke und führt pro Token nur wenige davon aus, kann also mehr Wissen speichern, als es an Rechenleistung verbraucht. MobileMoE überträgt diese Idee auf die Größe eines Smartphones.
Es gibt drei Größen. S hat 272 Millionen aktive Parameter von 1,3 Milliarden, M 528 Millionen von 2,8 Milliarden und L 922 Millionen von 5,3 Milliarden; jede leitet jedes Token an 4 von 60 kleinen Experten plus einen geteilten Experten weiter, der immer aktiv ist. Jede Größe gibt es als Base-Modell, als instruktionsabgestimmtes SFT-Modell und als QAT-Modell, das für 4-Bit-Gewichte trainiert wurde, insgesamt neun Checkpoints mit 0,68, 1,48 und 2,75 GB an INT4-Gewichten. Sie lesen und schreiben nur englischen Text, mit einem Kontext von 8.192 Tokens.
Meta trainierte sie mit etwa 6 Billionen Tokens aus Open-Source-Daten, gefolgt von Mid-Training, Feinabstimmung und quantisierungsbewusstem Training, und ließ sie über einen eigenen MoE-Kernel in ExecuTorch auf einem Samsung Galaxy S25 und einem iPhone 16 Pro laufen. Die Gewichte stehen unter der FAIR Noncommercial Research License; es ist also eine Forschungsveröffentlichung und kein Modell, das ein Unternehmen in einem Produkt ausliefern kann.
Lohnt sich MobileMoE (S, M, L)?
MobileMoE ist der bisher klarste Beleg, dass sich Mixture-of-Experts auch in Smartphone-Größe lohnt, und es kommt unter einer Lizenz, die es aufs Labor beschränkt. In Metas Neuauswertung von 14 grundlegenden Benchmarks erreicht das instruktionsabgestimmte L-Modell im Schnitt 60,3, gegenüber 50,8 für Qwen3.5 2B, 50,5 für SmolLM2 1.7B und 55,6 für OLMoE-1B-7B von AI2, das 1,3 Milliarden aktive Parameter einsetzt, wo MobileMoE-L 922 Millionen braucht. Meta hat jedes Modell selbst unter identischen Bedingungen gemessen; es sind also selbst gemeldete Zahlen, keine unabhängige Rangliste.
Die Zugewinne sind ungleich verteilt. Bei Mathematik und Code zieht L davon: 76,8 auf GSM8K gegenüber 61,3 für Qwen3.5 2B, 39,4 auf MATH-500 gegenüber 31,0 und 65,2 auf HumanEval gegenüber 50,0. Das Befolgen von Anweisungen ist die Schwachstelle. Qwen3.5 2B erreicht 73,3 auf IFEval gegenüber 69,7 für L und 30,3 auf IFBench gegenüber 18,4, was für einen Assistenten zählt, der ein Format oder eine Wortgrenze einhalten soll. Die SFT-Modelle wurden nur ohne Denkmodus getestet; eine Reasoning-Variante gibt es nicht.
Die Messungen auf Smartphones sind der eigentliche Beitrag des Papers. Bei etwa gleichem INT4-Gewichtsspeicher wie Metas dichtes MobileLLM-Pro ist MobileMoE-S auf den beiden Spitzengeräten 1,8- bis 3,8-mal schneller beim ersten Token und 2,2- bis 3,4-mal schneller bei der Generierung, mit bis zu 22% weniger Spitzenspeicher bei 8K Kontext. Das quantisierte S hält einen Schnitt von 43,9 gegenüber 45,5 für MobileLLM-Pro; das kleine Modell tauscht also etwas Genauigkeit gegen viel Tempo, und M schlägt es mit 52,7 klar.
Ausliefern ist eine andere Sache. Die Gewichte stehen unter der FAIR Noncommercial Research License, die Architektur ist noch nicht im offiziellen Transformers enthalten, das Laden braucht also trust_remote_code, und die Model Cards beschreiben einen PyTorch-Weg statt eines fertigen ExecuTorch-Exports. Die Nutzung spiegelt das wider: Der meistgeladene Checkpoint, S-QAT, kam im letzten Monat auf Hugging Face auf 209 Downloads. Für ein Smartphone-Modell, das ein Unternehmen tatsächlich ausliefern kann, bleiben die kleinsten Größen von Gemma 4 unter Apache 2.0 der praktische Vergleich; MobileMoE ist das Design, das sie als Nächstes übernehmen könnten.
Wo es sich lohnt
Ein Forscher für On-Device-ML an einem Universitätslabor
Ein dünn besetztes und ein dichtes Modell bei gleichem Speicherbudget auf einem echten Smartphone vergleichen
Stelle MobileMoE-S-QAT neben MobileLLM-Pro, die dichte Vergleichsbasis in Metas Paper, und profiliere beide auf einem Gerät mit Snapdragon oder Apple-Chip. Der 1,8- bis 3,8-fache Abstand beim Prefill im Paper liefert eine Zahl zum Nachprüfen, und die FAIR-Lizenz erlaubt genau diese Art von Forschung.
Eine Mobile-ML-Engineerin in der Forschungsgruppe eines Smartphone-Herstellers
Einen Offline-Helfer für Mathematik und Hausaufgaben prototypisch bauen, bevor ein lizenzierbares Modell gewählt wird
MobileMoE-L-QAT mit 3,00 GB auf der Festplatte erreicht nach der Quantisierung 73,2 auf GSM8K, gegenüber 4,1 für das INT4-MobileLLM-Pro in Metas Tabelle. Es zeigt, wie sich die Funktion anfühlen könnte, aber alles, was an Kunden geht, braucht ein Modell mit kommerzieller Lizenz.
Ein Doktorand, der an Kerneln für Mixture-of-Experts arbeitet
Code für das Routing der Experten auf mobilen CPUs bauen und testen
Die Checkpoints nutzen ein einfaches, dokumentiertes Layout: 60 Experten, Top-4-Routing mit Sigmoid, ein geteilter Experte und INT4-Gewichte in Gruppen zu 32 mit Router-Gewichten in FP32. Das macht sie zu einem sauberen Ziel für einen eigenen Kernel, ohne Kosten über die Anmeldung hinaus.
Bevor du dich festlegst
- Einrichtung
- Die Lizenz auf Hugging Face akzeptieren, wobei Name, Geburtsdatum, Land, Zugehörigkeit und Berufsbezeichnung abgefragt werden, dann mit Transformers 4.57 oder neuer und trust_remote_code=True laden. Meta empfiehlt für Batch-Auswertungen vLLM 0.10.2 oder neuer mit enforce_eager.
- Integrationen
- Hugging Face Transformers und vLLM auf einem Server; Metas Paper betreibt die Smartphones über ExecuTorch mit XNNPACK und einem eigenen verschmolzenen MoE-Operator sowie über MLX auf der iPhone-GPU. Die Model Cards dokumentieren nur den Weg über PyTorch und Transformers.
- Daten und Datenschutz
- Selbst gehostet, Prompts bleiben also auf deinem Gerät oder Server. Die FAIR Noncommercial Research License beschränkt die Nutzung auf Forschung und nichtkommerzielle Zwecke; die Zugangsschranke gibt deinen Hugging-Face-Nutzernamen und deine E-Mail-Adresse an Meta weiter.
- Kosten im großen Maßstab
- Einen API-Preis gibt es nicht. Auf dem Smartphone kostet es Akku und Speicher: Die INT4-Checkpoints haben 0,71, 1,59 und 3,00 GB, und zur Laufzeit kommt der KV-Cache hinzu. Der BF16-Checkpoint von L hat 10,65 GB, ein Servertest braucht also eine GPU mit etwa 12 GB oder mehr.
- Grenzen
- Nur Englisch, Kontext von 8.192 Tokens, keine Bild- oder Audioeingabe und kein Reasoning-Modus. Die Benchmarkzahlen sind Metas eigene Neuauswertungen, und das kleinste Modell S liegt nach der Quantisierung im Schnitt unter MobileLLM-Pro.
Was gut ist
- L erreicht im Schnitt 60,3 auf 14 Benchmarks gegenüber 50,8 für Qwen3.5 2B (Metas Neuauswertung)
- Stark bei Mathematik und Code für seine Größe: 76,8 GSM8K, 65,2 HumanEval
- INT4-Checkpoints mit 0,71, 1,59 und 3,00 GB passen in heutigen Smartphone-Speicher
- S generiert auf Smartphones 2,2- bis 3,4-mal schneller als MobileLLM-Pro (Meta)
Was nicht
- FAIR Noncommercial Research License schließt kommerzielle Produkte aus
- Nur Englisch, nur Text, Kontext von 8.192 Tokens
- Liegt beim Befolgen von Anweisungen hinter Qwen3.5 2B (IFBench 18,4 zu 30,3)
- Eigene Architektur braucht trust_remote_code; kein gehosteter Anbieter
Am besten für
Forschende und ML-Engineers für On-Device-Modelle, die untersuchen, wie sich dünn besetzte Modelle auf Smartphone-Hardware verhalten, wenn kommerzielle Nutzung nicht das Ziel ist.
Alternativen zu MobileMoE (S, M, L)
MobileMoE (S, M, L): häufige Fragen
- Lohnt sich MobileMoE (S, M, L)?
- MobileMoE-L schlägt Qwen3.5 2B in den meisten Zeilen von Metas Tabelle und rechnet dabei mit weniger als einer Milliarde Parametern pro Token, doch die nichtkommerzielle Lizenz hält es aus jeder Smartphone-App heraus, die man verkaufen könnte. Wir bewerten es mit 3.6 von 5.
- Was kostet MobileMoE (S, M, L)?
- Kostenloser Download nach einer Anmeldung mit Zugangsschranke, unter der FAIR Noncommercial Research License: nur Forschung und nichtkommerzielle Nutzung. Keine gehostete API und kein Inferenzanbieter bietet es an.
- Welche Nachteile hat MobileMoE (S, M, L)?
- FAIR Noncommercial Research License schließt kommerzielle Produkte aus; Nur Englisch, nur Text, Kontext von 8.192 Tokens; Liegt beim Befolgen von Anweisungen hinter Qwen3.5 2B (IFBench 18,4 zu 30,3); Eigene Architektur braucht trust_remote_code; kein gehosteter Anbieter.
- Für wen eignet sich MobileMoE (S, M, L)?
- Forschende und ML-Engineers für On-Device-Modelle, die untersuchen, wie sich dünn besetzte Modelle auf Smartphone-Hardware verhalten, wenn kommerzielle Nutzung nicht das Ziel ist.
- Was kostet MobileMoE (S, M, L) für ein Team oder im Produktivbetrieb?
- Einen API-Preis gibt es nicht. Auf dem Smartphone kostet es Akku und Speicher: Die INT4-Checkpoints haben 0,71, 1,59 und 3,00 GB, und zur Laufzeit kommt der KV-Cache hinzu. Der BF16-Checkpoint von L hat 10,65 GB, ein Servertest braucht also eine GPU mit etwa 12 GB oder mehr.
- Ist MobileMoE (S, M, L) sicher für Firmendaten?
- Selbst gehostet, Prompts bleiben also auf deinem Gerät oder Server. Die FAIR Noncommercial Research License beschränkt die Nutzung auf Forschung und nichtkommerzielle Zwecke; die Zugangsschranke gibt deinen Hugging-Face-Nutzernamen und deine E-Mail-Adresse an Meta weiter.
- Was sind die besten Alternativen zu MobileMoE (S, M, L)?
- Die nächsten Alternativen, die wir getestet haben, sind Gemma 4, MiniCPM5-2B, SmolLM3-3B und LFM3.
Antworten geprüft am 9. Nov. 2026.