Qu’est-ce que LFM2.5-ColBERT-350M ?
LFM2.5-ColBERT-350M est un modèle de recherche à interaction tardive de Liquid AI, publié le 18 juin 2026 avec un frère dense, LFM2.5-Embedding-350M. Il conserve un vecteur de 128 nombres pour chaque token d'un document et note les requêtes en associant les tokens (MaxSim), ce qui permet d'interroger un index ou de réordonner sans index la liste courte d'un autre système. Il remplace LFM2-ColBERT-350M, désormais retiré.
Il compte environ 353 millions de paramètres et repose sur LFM2.5-350M-Base, dont le modèle causal a été rendu bidirectionnel : l'attention voit toute l'entrée et les convolutions courtes regardent dans les deux sens. Il couvre 11 langues, anglais, espagnol, allemand, français, italien, portugais, arabe, suédois, norvégien, japonais et coréen, et vise les textes courts : documents jusqu'à 512 tokens et requêtes jusqu'à 32.
Les poids sont sur Hugging Face, avec des versions GGUF pour llama.cpp, sous la LFM Open License v1.0, qui autorise un usage commercial gratuit pour les organisations réalisant moins de $10 millions de chiffre d'affaires annuel. Il fonctionne avec PyLate et Sentence Transformers.
LFM2.5-ColBERT-350M vaut-il le coup ?
La recherche interlangue sur des textes courts est le terrain où ce modèle mène. Sur le jeu multilingue NanoBEIR de Liquid, il atteint en moyenne 0.605 de NDCG@10 sur 11 langues, contre 0.556 pour Qwen3-Embedding-0.6B, 0.540 pour l'ancien LFM2-ColBERT et 0.484 pour LateOn, le modèle anglais de LightOn. Sur MKQA, où la requête et la réponse peuvent être dans des langues différentes, il atteint 0.694 de rappel à 20. L'anglais fait exception : LateOn y obtient 0.690 contre 0.687 pour ce modèle.
Liquid précise que les scores NanoBEIR dépassent d'environ 15% ceux du BEIR complet : ces chiffres ne sont donc pas comparables aux résultats BEIR publiés ailleurs, et tous proviennent des propres tests de Liquid. Le mLateOn de LightOn, sorti ensuite, annonce 87.69 sur MLDR, un benchmark de longs documents, contre 78.39 pour ce modèle, ce qui correspond à sa conception : avec un plafond de 512 tokens par document, il est fait pour des fiches produit, des réponses de FAQ et des extraits de support, pas pour des rapports.
La vitesse est la raison d'être de l'architecture LFM. Sur un MacBook Pro avec M4 Max sous llama.cpp, encoder une requête et la noter face à des documents en cache prend 8.2 ms en médiane ; encoder aussi le document, comme le fait un reranker, prend 34.3 ms. L'infrastructure GPU de Liquid ramène cela à 22.8 ms avec des documents encodés à la volée et à 2.5 ms avec des documents en cache. Ces latences rendent pratique une recherche sur l'appareil, dans des fichiers et des notes, sans serveur.
La licence est à lire avant de livrer. La LFM Open License n'est gratuite pour un usage commercial que sous $10 millions de chiffre d'affaires annuel ; les entreprises plus grandes ont besoin d'un accord séparé, ce qui l'écarte pour beaucoup d'équipes en entreprise, qui peuvent prendre LateOn ou mLateOn sous licence Apache.
Là où il fait la différence
Un développeur dans une entreprise d'e-commerce de 30 personnes qui vend en Europe et au Japon
Trouver des produits quand l'acheteur cherche dans une autre langue que celle de la fiche
Indexez des titres et descriptions produit courts avec LFM2.5-ColBERT-350M dans PyLate, qui gère les requêtes interlangues avec 0.694 de rappel à 20 sur le test MKQA de Liquid. Sous $10 millions de chiffre d'affaires, la licence est gratuite.
Un développeur d'applications qui ajoute une recherche locale à une app de notes
Chercher dans les notes et courriels de l'utilisateur sur l'appareil, sans serveur
Faites tourner la version GGUF sous llama.cpp et gardez les vecteurs des documents sur l'appareil ; Liquid mesure 8.2 ms par requête face à des documents en cache sur un portable M4 Max.
Un ingénieur dont l'agent choisit parmi des centaines d'outils
Présélectionner les bons outils pour une demande avant que le LLM ne les voie
Réordonnez les descriptions d'outils face à la demande avec la fonction rank de PyLate, comme le fait la démo de sélection d'outils de Liquid ; les descriptions tiennent largement dans la limite de 512 tokens par document.
Avant de vous engager
- Mise en route
- pip install pylate (ou sentence-transformers 6.0 ou plus récent) et chargez le modèle avec trust_remote_code=True, qui applique les correctifs bidirectionnels ; les fichiers GGUF tournent dans llama.cpp.
- Intégrations
- PyLate avec des index FastPLAID, MultiVectorEncoder de Sentence Transformers et llama.cpp ; Liquid propose sa propre infrastructure de service GPU aux clients entreprise qui la demandent.
- Données et confidentialité
- Auto-hébergé : les documents restent sur votre matériel ou sur l'appareil de l'utilisateur. Aucune API hébergée n'est annoncée pour ce modèle.
- Coût à grande échelle
- Aucun frais d'API. Les organisations à $10 millions ou plus de chiffre d'affaires annuel ont besoin d'une licence commerciale de Liquid AI, tarif sur demande ; le stockage croît avec un vecteur de 128 dimensions par token.
- Limites
- Les documents sont coupés à 512 tokens et les requêtes à 32. Onze langues ; Liquid le recommande pour la recherche à contexte court plutôt que pour les longs documents.
Les points forts
- 0.605 sur NanoBEIR dans 11 langues, devant Qwen3-Embedding-0.6B
- Bon rappel interlangue : 0.694 à 20 sur MKQA
- Versions GGUF ; 8.2 ms par requête sur un portable
- Interroge un index ou réordonne une liste courte avec un seul modèle
Les points faibles
- Documents de 512 tokens et requêtes de 32
- Usage commercial gratuit seulement sous $10 millions de chiffre d'affaires
- Derrière mLateOn sur les longs documents et LateOn en anglais
- Benchmarks de Liquid
Idéal pour
Les développeurs qui construisent une recherche multilingue sur des textes courts, en particulier sur portables, téléphones ou autres appareils sans serveur GPU.
Alternatives à LFM2.5-ColBERT-350M
LFM2.5-ColBERT-350M : questions fréquentes
- LFM2.5-ColBERT-350M vaut-il le coup ?
- Le ColBERT multilingue à choisir quand les passages sont courts et que la recherche doit tourner sur un portable ou un téléphone, même si la licence et le plafond de 512 tokens fixent ses limites. Nous lui donnons 3.9 sur 5.
- Combien coûte LFM2.5-ColBERT-350M ?
- Poids gratuits sous la LFM Open License v1.0 ; l'usage commercial est gratuit sous $10 millions de chiffre d'affaires annuel, au-delà il faut une licence de Liquid AI.
- Quels sont les inconvénients de LFM2.5-ColBERT-350M ?
- Documents de 512 tokens et requêtes de 32; usage commercial gratuit seulement sous $10 millions de chiffre d'affaires; derrière mLateOn sur les longs documents et LateOn en anglais; benchmarks de Liquid.
- À qui s’adresse LFM2.5-ColBERT-350M ?
- Les développeurs qui construisent une recherche multilingue sur des textes courts, en particulier sur portables, téléphones ou autres appareils sans serveur GPU.
- Combien coûte LFM2.5-ColBERT-350M pour une équipe ou en production ?
- Aucun frais d'API. Les organisations à $10 millions ou plus de chiffre d'affaires annuel ont besoin d'une licence commerciale de Liquid AI, tarif sur demande ; le stockage croît avec un vecteur de 128 dimensions par token.
- LFM2.5-ColBERT-350M est-il sûr pour les données de l’entreprise ?
- Auto-hébergé : les documents restent sur votre matériel ou sur l'appareil de l'utilisateur. Aucune API hébergée n'est annoncée pour ce modèle.
- Quelles sont les meilleures alternatives à LFM2.5-ColBERT-350M ?
- Les alternatives les plus proches que nous avons testées sont LateOn and mLateOn, Qwen3-Embedding and Qwen3-Reranker, Jina Embeddings v5 et EmbeddingGemma 2.
Réponses vérifiées le 20 nov. 2026.