Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

LateOn and mLateOn

Os modelos ColBERT abertos da LightOn: um recuperador em inglês de 149M no topo do BEIR e um irmão multilíngue de 307M para documentos longos.

Análise de ReviewRamble editors · Atualizado

Visitar LateOn and mLateOn Código aberto

Compartilhe esta página:XLinkedInFacebookRedditWhatsAppE-mail

Nossa nota

4.2/5

Os modelos ColBERT abertos mais fortes que você pode usar comercialmente sem pedir nada a ninguém, desde que aceite um índice maior em troca de um ranking mais preciso.

O que é LateOn and mLateOn?

LateOn é um modelo de interação tardia no estilo ColBERT da LightOn, a empresa de IA de Paris, lançado em 21 de abril de 2026 sob Apache 2.0. Em vez de espremer um documento num único vetor, ele guarda um vetor de 128 números para cada token e pontua uma consulta casando cada token da consulta com o token mais próximo do documento (MaxSim). Isso ocupa mais armazenamento que um embedding denso, mas costuma ordenar com mais precisão, e o mesmo modelo pode buscar num índice já pronto ou reordenar a lista curta de outro sistema.

O LateOn tem 149 milhões de parâmetros sobre o ModernBERT e só funciona em inglês. O mLateOn, publicado em 30 de julho de 2026, é a continuação multilíngue: 307 milhões de parâmetros sobre o mmBERT, treinado em nove idiomas (inglês, francês, alemão, italiano, espanhol, português, sueco, norueguês e árabe) e para documentos de até 8.192 tokens.

A LightOn publicou os dados de treino dos dois: 1,4 bilhão de pares consulta-documento coletados, a mistura curada de pré-treino e os conjuntos de ajuste fino com negativos minerados. Ambos rodam com a biblioteca PyLate da LightOn e o índice FastPLAID.

LateOn and mLateOn vale a pena?

O LateOn elevou o patamar dos recuperadores pequenos. Ele tem média de 57.22 de NDCG@10 nos 15 conjuntos do BEIR, à frente do próprio ColBERT-Zero da LightOn com 55.39 e do GTE-ModernColBERT com 54.75, e bem à frente do Jina-ColBERT-v2 com 51.85, que tem cerca de quatro vezes o seu tamanho. Numa versão do BEIR com 12 conjuntos, sem os trechos que se sobrepõem aos dados de treino, ele sobe para 60.36, o que responde à suspeita comum de que vantagens em rankings vêm de vazamento.

O mLateOn importa mais para a maioria dos corpus em produção. Ele marca 57.56 no BEIR, um pouco acima do modelo em inglês, 65.61 nos idiomas-alvo do MIRACL e 87.69 no MLDR, um benchmark de documentos longos, mais de nove pontos à frente do LFM2.5-ColBERT-350M da Liquid AI pelos números da LightOn. O LateOn sozinho é fraco fora do inglês: os testes multilíngues da Liquid o colocam em 0.484 no NanoBEIR contra 0.605 do modelo da Liquid, embora o LateOn tenha a melhor nota em inglês da mesma tabela, 0.690.

O custo da interação tardia é armazenamento. Guardar um vetor de 128 números por token significa que um trecho de 300 tokens armazena cerca de 300 vetores onde um modelo denso guarda um, então os índices ficam muito maiores e precisam de um motor compatível com ColBERT, como o FastPLAID. Usado como reranker sobre os 100 primeiros resultados de outro sistema, nada é armazenado e o custo é só codificar esses documentos a cada consulta.

Em consultas de raciocínio ele é uma incógnita: a LightOn não publica resultados no BRIGHT, e os cross-encoders hospedados avaliados aqui publicam. A configuração padrão do LateOn também limita documentos a 300 tokens, então trechos longos pedem o mLateOn ou fatiamento. Para equipes que querem dados abertos, pesos abertos e licença permissiva num só pacote, esta dupla é o ponto de partida da interação tardia.

Onde ele se destaca

  • Um engenheiro de ML numa start-up de legal tech com contratos longos em francês e alemão

    Encontrar a cláusula certa entre idiomas sem uma API paga

    Indexe os contratos com o mLateOn no índice FastPLAID do PyLate, usando a janela de 8.192 tokens para manter as seções inteiras. Apache 2.0 significa nenhuma taxa de licença; a troca é um índice maior do que um modelo denso exigiria.

  • Um engenheiro de busca que já usa BM25 no Elasticsearch

    Reordenar os 100 primeiros resultados por palavra-chave sem montar um índice vetorial

    Codifique a consulta e os 100 candidatos com o LateOn e pontue com o rank.rerank do PyLate, que não precisa de índice. O custo é tempo de GPU ou CPU para 149M parâmetros por consulta.

  • Uma equipe de pesquisa que audita modelos de recuperação em busca de vazamento de dados

    Reproduzir ou estender o treino de um recuperador com dados conhecidos

    Comece pelos conjuntos de pré-treino e ajuste fino publicados pela LightOn e pela divisão descontaminada do BEIR com 12 conjuntos, e treine com o PyLate. A LightOn informa 60.36 para o LateOn nessa divisão limpa.

Antes de decidir

Configuração
pip install pylate, carregue models.ColBERT com lightonai/LateOn ou lightonai/mLateOn, codifique os documentos num índice PLAID e consulte; para reordenar uma lista curta basta o rank.rerank, sem índice.
Integrações
PyLate e FastPLAID da LightOn, construídos sobre o Sentence Transformers; pesos no Hugging Face. Guardar os vetores de tokens em outro lugar exige um banco vetorial com suporte a MaxSim multivetorial.
Dados e privacidade
Só auto-hospedado, então os documentos ficam no seu próprio hardware. Os dados de treino dos experimentos são públicos no Hugging Face; os modelos finais usaram um conjunto proprietário compatível com Apache.
Custo em escala
Sem taxa de licença ou de API. O custo de operação é tempo de GPU para codificar e armazenamento de um vetor de 128 dimensões por token, que cresce com o corpus muito mais rápido que um índice denso.
Limites
LateOn: inglês, consultas de 32 tokens e documentos de 300 tokens por padrão. mLateOn: até 8.192 tokens, nove idiomas de treino. Não houve destilação nem prompts, o que segundo a LightOn deixa espaço para versões mais fortes.

O que é bom

  • 57.22 no BEIR com 149M parâmetros; 60.36 no BEIR descontaminado
  • Pesos Apache 2.0 e dados de treino publicados
  • O mLateOn lê 8.192 tokens em nove idiomas
  • Funciona como recuperador de primeira etapa ou reranker no PyLate

O que não é

  • Índices multivetoriais são bem maiores que os densos
  • O LateOn só funciona em inglês e usa por padrão documentos de 300 tokens
  • Nenhuma API hospedada listada para estes modelos
  • Benchmarks da LightOn; sem resultados de BRIGHT ou de raciocínio

Ideal para

Engenheiros que hospedam a própria recuperação e querem um modelo ColBERT de licença permissiva para a busca de primeira etapa ou como reranker leve.

Alternativas ao LateOn and mLateOn

LateOn and mLateOn: perguntas frequentes

LateOn and mLateOn vale a pena?
Os modelos ColBERT abertos mais fortes que você pode usar comercialmente sem pedir nada a ninguém, desde que aceite um índice maior em troca de um ranking mais preciso. Damos nota 4.2 de 5.
Quanto custa LateOn and mLateOn?
Pesos gratuitos sob Apache 2.0, inclusive para uso comercial; hospedagem e armazenamento do índice ficam por sua conta.
Quais são as desvantagens de LateOn and mLateOn?
Índices multivetoriais são bem maiores que os densos; o LateOn só funciona em inglês e usa por padrão documentos de 300 tokens; nenhuma API hospedada listada para estes modelos; benchmarks da LightOn; sem resultados de BRIGHT ou de raciocínio.
Para quem LateOn and mLateOn é indicado?
Engenheiros que hospedam a própria recuperação e querem um modelo ColBERT de licença permissiva para a busca de primeira etapa ou como reranker leve.
Quanto custa LateOn and mLateOn para uma equipe ou em produção?
Sem taxa de licença ou de API. O custo de operação é tempo de GPU para codificar e armazenamento de um vetor de 128 dimensões por token, que cresce com o corpus muito mais rápido que um índice denso.
LateOn and mLateOn é seguro para dados da empresa?
Só auto-hospedado, então os documentos ficam no seu próprio hardware. Os dados de treino dos experimentos são públicos no Hugging Face; os modelos finais usaram um conjunto proprietário compatível com Apache.
Quais são as melhores alternativas ao LateOn and mLateOn?
As alternativas mais próximas que analisamos são LFM2.5-ColBERT-350M, Nemotron ColEmbed V2, Jina Embeddings v5 e Qwen3-Embedding and Qwen3-Reranker.

Respostas verificadas em 20 de nov. de 2026.

Você faz o LateOn and mLateOn? Mostre esta nota no seu siteLateOn and mLateOn com nota 4.2 de 5 no ReviewRamble