O que é LFM2.5-ColBERT-350M?
LFM2.5-ColBERT-350M é um modelo de recuperação de interação tardia da Liquid AI, lançado em 18 de junho de 2026 junto com um irmão denso, o LFM2.5-Embedding-350M. Ele guarda um vetor de 128 números para cada token de um documento e pontua consultas casando tokens (MaxSim), o que serve para buscar num índice ou reordenar sem índice a lista curta de outro sistema. Substitui o LFM2-ColBERT-350M, já descontinuado.
Tem cerca de 353 milhões de parâmetros e parte do LFM2.5-350M-Base, com o modelo causal da Liquid tornado bidirecional: a atenção vê a entrada inteira e as convoluções curtas olham para os dois lados. Cobre 11 idiomas, inglês, espanhol, alemão, francês, italiano, português, árabe, sueco, norueguês, japonês e coreano, e foi feito para textos curtos: documentos de até 512 tokens e consultas de até 32.
Os pesos estão no Hugging Face, com builds GGUF para llama.cpp, sob a LFM Open License v1.0, que permite uso comercial gratuito para organizações com menos de $10 milhões de receita anual. Roda com PyLate e Sentence Transformers.
LFM2.5-ColBERT-350M vale a pena?
Busca entre idiomas em textos curtos é onde este modelo lidera. No conjunto multilíngue NanoBEIR da Liquid ele tem média de 0.605 de NDCG@10 em 11 idiomas, contra 0.556 do Qwen3-Embedding-0.6B, 0.540 do antigo LFM2-ColBERT e 0.484 do LateOn, o modelo só em inglês da LightOn. No MKQA, em que a consulta e a resposta podem estar em idiomas diferentes, chega a 0.694 de recall em 20. O inglês é a exceção: ali o LateOn marca 0.690 contra 0.687 deste modelo.
A Liquid observa que as notas do NanoBEIR ficam cerca de 15% acima das do BEIR completo, então esses números não se comparam a resultados de BEIR de outras fontes, e todos são execuções da própria Liquid. O mLateOn da LightOn, lançado depois, informa 87.69 no MLDR, um benchmark de documentos longos, contra 78.39 deste modelo, o que combina com seu projeto: com teto de 512 tokens por documento, ele foi feito para fichas de produto, respostas de FAQ e trechos de suporte, não para relatórios.
Velocidade é a razão de ser da arquitetura LFM. Num MacBook Pro com M4 Max sob llama.cpp, codificar uma consulta e pontuá-la contra documentos em cache leva 8.2 ms na mediana; codificar também o documento, como faz um reranker, leva 34.3 ms. A infraestrutura de GPU da própria Liquid reduz isso a 22.8 ms com documentos codificados na hora e 2.5 ms com eles em cache. Essas latências tornam prática a busca no próprio aparelho, em arquivos e notas, sem servidor.
A licença é a parte a ler antes de lançar. A LFM Open License só é grátis para uso comercial abaixo de $10 milhões de receita anual; empresas maiores precisam de um acordo à parte, o que a descarta para muitas equipes corporativas, que podem usar o LateOn ou o mLateOn com licença Apache.
Onde ele se destaca
Um desenvolvedor numa empresa de e-commerce de 30 pessoas que vende na Europa e no Japão
Achar produtos quando o cliente busca num idioma diferente do da ficha
Indexe títulos e descrições curtas de produto com o LFM2.5-ColBERT-350M no PyLate, que lida com consultas entre idiomas com 0.694 de recall em 20 no teste MKQA da Liquid. Abaixo de $10 milhões de receita, a licença é grátis.
Um desenvolvedor de apps que adiciona busca local a um app de notas
Buscar nas notas e e-mails do usuário no próprio aparelho, sem servidor
Rode o build GGUF no llama.cpp e mantenha os vetores dos documentos no aparelho; a Liquid mede 8.2 ms por consulta contra documentos em cache num notebook com M4 Max.
Um engenheiro cujo agente escolhe entre centenas de ferramentas
Pré-selecionar as ferramentas certas para um pedido antes que o LLM as veja
Reordene as descrições das ferramentas contra o pedido com a função rank do PyLate, como faz a demo de seleção de ferramentas da Liquid; as descrições cabem folgadas no limite de 512 tokens por documento.
Antes de decidir
- Configuração
- pip install pylate (ou sentence-transformers 6.0 ou posterior) e carregue o modelo com trust_remote_code=True, que aplica os patches bidirecionais; os arquivos GGUF rodam no llama.cpp.
- Integrações
- PyLate com índices FastPLAID, MultiVectorEncoder do Sentence Transformers e llama.cpp; a Liquid oferece sua própria infraestrutura de serviço em GPU a clientes corporativos que pedirem.
- Dados e privacidade
- Auto-hospedado, então os documentos ficam no seu hardware ou no aparelho do usuário. Nenhuma API hospedada é listada para este modelo.
- Custo em escala
- Sem taxa de API. Organizações com $10 milhões ou mais de receita anual precisam de uma licença comercial da Liquid AI, com preço sob consulta; o armazenamento cresce com um vetor de 128 dimensões por token.
- Limites
- Documentos são cortados em 512 tokens e consultas em 32. Onze idiomas; a Liquid o recomenda para recuperação de contexto curto, não para documentos longos.
O que é bom
- 0.605 no NanoBEIR em 11 idiomas, à frente do Qwen3-Embedding-0.6B
- Bom recall entre idiomas: 0.694 em 20 no MKQA
- Builds GGUF; 8.2 ms por consulta num notebook
- Busca num índice ou reordena uma lista curta com um só modelo
O que não é
- Documentos de 512 tokens e consultas de 32
- Uso comercial grátis só abaixo de $10 milhões de receita
- Atrás do mLateOn em documentos longos e do LateOn em inglês
- Benchmarks da própria Liquid
Ideal para
Desenvolvedores que constroem busca multilíngue sobre textos curtos, sobretudo em notebooks, celulares ou outros aparelhos sem servidor de GPU.