Was ist all-MiniLM-L6-v2?
all-MiniLM-L6-v2 ist ein kleines englisches Sentence-Embedding-Modell aus dem Projekt sentence-transformers, veröffentlicht unter Apache 2.0. Es wandelt Sätze und kurze Absätze in 384-dimensionale Vektoren für semantische Suche, Clustering und Ähnlichkeitsvergleiche um. Laut Hugging Face hat es rund 23 Millionen Parameter.
Es wurde während einer JAX/Flax-Community-Woche von Hugging Face aus Microsofts MiniLM auf mehr als 1 Milliarde Satzpaaren feinabgestimmt, davon etwa 726 Millionen Paare aus Reddit-Kommentaren von 2015 bis 2018, der Rest aus Quellen wie Stack Exchange und wissenschaftlichen Zitaten; der erste Commit im Repository ist auf den 30. August 2021 datiert. Trainiert wurde mit Sequenzen von 128 Tokens, und Eingaben über 256 Word Pieces werden abgeschnitten.
Das Repository liefert neben den PyTorch-Gewichten Exporte für ONNX und OpenVINO, darunter int8-ONNX-Dateien von etwa 23 MB. Es gehört weiterhin zu den meistgeladenen Modellen auf Hugging Face, mit rund 199 Millionen Downloads im vergangenen Monat.
Lohnt sich all-MiniLM-L6-v2?
all-MiniLM-L6-v2 hat seine Zeit überlebt. Rund 199 Millionen Downloads im vergangenen Monat sagen mehr über Tutorials, Framework-Voreinstellungen und Gewohnheit aus als über Qualität. Seine eigenen Maintainer beanspruchen wenig für das Modell, fünfmal schneller als all-mpnet-base-v2 bei 'guter Qualität', und verweisen für stärkere Modelle auf das MTEB-Leaderboard.
Die Grenzen sind struktureller Art. Das Modell liest nur Englisch. Alles jenseits von 256 Word Pieces wird ohne Fehlermeldung verworfen, und weil mit Sequenzen von 128 Tokens trainiert wurde, ist selbst diese Grenze großzügig. Moderne kleine Modelle spielen in einer anderen Klasse: EmbeddingGemma 2 liest mit einem Textmodell von 270 Millionen Parametern 8K Tokens in mehr als 100 Sprachen, und Qwen3-Embedding-0.6B liest 32K Tokens in über 100 Sprachen.
Seine Vorzüge zählen weiterhin. Mit rund 23 Millionen Parametern läuft es auf fast jeder CPU, der int8-ONNX-Export ist etwa 23 MB groß, und ein Vektor mit 384 Dimensionen braucht halb so viel Speicher wie einer mit 768. Als Test-Fixture, Lehrbeispiel oder erster Prototyp ist es kaum zu schlagen.
Die eigentlichen Kosten des Einstiegs damit kommen später. Vektoren verschiedener Modelle sind nicht austauschbar, ein Umzug des Produktivindex auf ein besseres Modell bedeutet also, jedes Dokument neu einzubetten. Je billiger die erste Wahl war, desto mehr Daten haben sich meist dahinter angesammelt, bis jemand die Retrieval-Qualität misst.
Wo es sich lohnt
Ein Backend-Entwickler, der CI-Tests für eine Retrieval-Pipeline schreibt
Retrieval-Tests bei jedem Pull Request ausführen, ohne GPU und ohne API-Schlüssel
Das 91 MB große Modell wird einmal geladen und bettet Test-Fixtures auf der CPU des CI-Runners ein, ohne Kosten und ohne dass Text den Build verlässt. Die Rangfolgen weichen von denen des Produktivmodells ab, Tests sollten also Verhalten prüfen statt exakter Scores.
Eine Entwicklerin, die einer Desktop- oder Browser-App eine Offline-Suche hinzufügt
Verwandte Notizen oder Hilfeartikel auf dem Rechner der Nutzer finden
Eine int8-ONNX-Datei von etwa 23 MB ist klein genug zum Mitliefern, und Vektoren mit 384 Dimensionen halten den lokalen Index klein. Es deckt nur Englisch ab, und Passagen müssen vorher unter 256 Word Pieces zerlegt werden.
Ein Produktmanager bei einem kleinen SaaS-Unternehmen
Zeigen, dass semantische Suche die Stichwortsuche schlägt, bevor Budget dafür fließt
Ein Prototyp kostet keine Lizenz- oder API-Gebühren. Gewinnt er, wiederhole dieselbe Evaluierung vor dem Start mit EmbeddingGemma 2 oder Qwen3-Embedding-0.6B, denn das spätere Neueinbetten eines gewachsenen Korpus ist der teure Schritt.
Bevor du dich festlegst
- Einrichtung
- pip install sentence-transformers und drei Zeilen Python; das Modell (91 MB in safetensors) wird bei der ersten Nutzung geladen.
- Integrationen
- Nativ in sentence-transformers und Transformers; das Repository enthält außerdem Gewichte für ONNX, OpenVINO, TensorFlow und Rust, darunter vier int8-ONNX-Builds für verschiedene CPU-Befehlssätze.
- Daten und Datenschutz
- Apache 2.0 ohne Nutzungsbeschränkungen, und es läuft auf deiner eigenen Hardware, sodass kein Text sie verlässt. Der Trainingsmix stützt sich stark auf Reddit-Kommentare von 2015 bis 2018.
- Kosten im großen Maßstab
- Keine Lizenz- oder API-Gebühren; der Speicher ist der Hauptkostenpunkt. Ein float32-Vektor hat 1.536 Bytes, 10 Millionen Chunks belegen also vor Index-Overhead etwa 15 GB, halb so viel wie der Index eines Modells mit 768 Dimensionen.
- Grenzen
- Eingaben über 256 Word Pieces werden ohne Warnung abgeschnitten, trainiert wurde mit Sequenzen von 128 Tokens, und es kann nur Englisch.
Was gut ist
- Rund 23 Mio. Parameter; läuft auf fast jeder CPU
- int8-ONNX-Export von etwa 23 MB liegt im Repo
- Apache 2.0; Vektoren mit 384 Dimensionen sind günstig zu speichern
Was nicht
- Nur Englisch
- Schneidet Eingaben nach 256 Word Pieces stillschweigend ab
- Mit Sequenzen von 128 Tokens trainiert, lange Texte müssen also zerlegt werden
- Die Maintainer verweisen für stärkere Modelle auf MTEB
Am besten für
Lernende und Prototypenbauer, die ein schnelles, überall unterstütztes englisches Embedding-Modell brauchen.
Alternativen zu all-MiniLM-L6-v2
all-MiniLM-L6-v2: häufige Fragen
- Lohnt sich all-MiniLM-L6-v2?
- Immer noch der schnellste Weg zu funktionierender semantischer Suche, aber nicht mehr das richtige Modell für den Produktivbetrieb. Wir bewerten es mit 3.4 von 5.
- Was kostet all-MiniLM-L6-v2?
- Kostenlos unter Apache 2.0.
- Welche Nachteile hat all-MiniLM-L6-v2?
- Nur Englisch; Schneidet Eingaben nach 256 Word Pieces stillschweigend ab; Mit Sequenzen von 128 Tokens trainiert, lange Texte müssen also zerlegt werden; Die Maintainer verweisen für stärkere Modelle auf MTEB.
- Für wen eignet sich all-MiniLM-L6-v2?
- Lernende und Prototypenbauer, die ein schnelles, überall unterstütztes englisches Embedding-Modell brauchen.
- Was kostet all-MiniLM-L6-v2 für ein Team oder im Produktivbetrieb?
- Keine Lizenz- oder API-Gebühren; der Speicher ist der Hauptkostenpunkt. Ein float32-Vektor hat 1.536 Bytes, 10 Millionen Chunks belegen also vor Index-Overhead etwa 15 GB, halb so viel wie der Index eines Modells mit 768 Dimensionen.
- Ist all-MiniLM-L6-v2 sicher für Firmendaten?
- Apache 2.0 ohne Nutzungsbeschränkungen, und es läuft auf deiner eigenen Hardware, sodass kein Text sie verlässt. Der Trainingsmix stützt sich stark auf Reddit-Kommentare von 2015 bis 2018.
- Was sind die besten Alternativen zu all-MiniLM-L6-v2?
- Die nächsten Alternativen, die wir getestet haben, sind EmbeddingGemma 2, Qwen3-Embedding and Qwen3-Reranker und text-embedding-3-large.
Antworten geprüft am 26. Okt. 2026.