LFM2.5-ColBERT-350M의 개요
LFM2.5-ColBERT-350M은 Liquid AI의 지연 상호작용 검색 모델로, 밀집 형제 모델 LFM2.5-Embedding-350M과 함께 2026년 6월 18일에 공개되었습니다. 문서의 토큰마다 숫자 128개로 된 벡터를 두고 토큰 매칭(MaxSim)으로 쿼리 점수를 매기므로, 인덱스를 검색하거나 다른 시스템의 후보 목록을 인덱스 없이 재정렬하는 데 쓸 수 있습니다. 지원이 끝난 LFM2-ColBERT-350M을 대체합니다.
파라미터는 약 3억 5,300만 개이며 LFM2.5-350M-Base를 바탕으로 Liquid의 인과 모델을 양방향으로 바꿨습니다. 어텐션은 입력 전체를 보고 짧은 합성곱은 양쪽을 봅니다. 영어, 스페인어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 아랍어, 스웨덴어, 노르웨이어, 일본어, 한국어 11개 언어를 지원하며 짧은 텍스트용으로 만들어졌습니다. 문서는 최대 512토큰, 쿼리는 최대 32토큰입니다.
가중치는 Hugging Face에 있고 llama.cpp용 GGUF 빌드도 있으며, 라이선스는 LFM Open License v1.0으로 연 매출 $10 million(1,000만 달러) 미만 조직은 무료로 상업적 이용을 할 수 있습니다. PyLate와 Sentence Transformers로 돌아갑니다.
LFM2.5-ColBERT-350M, 쓸 만한 가치가 있습니까?
짧은 텍스트의 언어 간 검색이 이 모델이 앞서는 영역입니다. Liquid의 다국어 NanoBEIR에서 11개 언어 NDCG@10 평균 0.605로, Qwen3-Embedding-0.6B의 0.556, 이전 LFM2-ColBERT의 0.540, LightOn의 영어 전용 LateOn의 0.484를 앞섭니다. 쿼리와 답이 서로 다른 언어일 수 있는 MKQA에서는 상위 20건 재현율 0.694에 이릅니다. 예외는 영어로, LateOn이 0.690, 이 모델은 0.687입니다.
Liquid는 NanoBEIR 점수가 전체 BEIR보다 약 15% 높게 나온다고 밝히므로 이 수치는 다른 곳의 BEIR 결과와 비교할 수 없으며, 모두 Liquid 자체 측정입니다. 나중에 나온 LightOn의 mLateOn은 긴 문서 벤치마크 MLDR에서 87.69, 이 모델은 78.39라고 보고하는데, 이는 설계와 맞아떨어집니다. 문서당 512토큰 상한 때문에 이 모델은 상품 정보, FAQ 답변, 지원 문서 조각용이지 보고서용이 아닙니다.
속도가 LFM 아키텍처의 핵심입니다. M4 Max를 단 MacBook Pro에서 llama.cpp로 돌리면 쿼리를 인코딩해 캐시된 문서와 비교하는 데 중앙값 8.2 ms, 리랭커처럼 문서까지 인코딩하면 34.3 ms가 걸립니다. Liquid 자체 GPU 스택에서는 문서를 즉석 인코딩할 때 22.8 ms, 캐시했을 때 2.5 ms까지 내려갑니다. 이 정도 지연 시간이면 서버 없이 기기 안에서 파일과 메모를 검색하는 것이 현실적입니다.
배포 전에 읽어야 할 것은 라이선스입니다. LFM Open License는 연 매출 $10 million(1,000만 달러) 미만일 때만 상업적 이용이 무료이고, 더 큰 기업은 별도 계약이 필요합니다. 그래서 많은 기업 팀에는 맞지 않으며, 대신 Apache 라이선스의 LateOn이나 mLateOn을 쓸 수 있습니다.
제 역할을 하는 곳
유럽과 일본에서 판매하는 직원 30명 전자상거래 기업의 개발자
쇼핑객이 상품 정보와 다른 언어로 검색해도 상품 찾기
짧은 상품명과 설명을 PyLate에서 LFM2.5-ColBERT-350M으로 색인합니다. Liquid의 MKQA 테스트에서 언어 간 쿼리 상위 20건 재현율은 0.694입니다. 매출 $10 million 미만이면 라이선스는 무료입니다.
메모 앱에 로컬 검색을 넣는 앱 개발자
서버 없이 기기에서 사용자의 메모와 이메일 검색하기
GGUF 빌드를 llama.cpp로 돌리고 문서 벡터를 기기에 둡니다. Liquid는 M4 Max 노트북에서 캐시된 문서 대상 쿼리당 8.2 ms를 측정했습니다.
에이전트가 수백 개 도구 중에서 고르게 만드는 엔지 니어
LLM이 보기 전에 요청에 맞는 도구를 추려 내기
Liquid의 도구 선택 데모처럼 PyLate의 rank 함수로 도구 설명을 요청에 맞춰 재정렬합니다. 도구 설명은 문서당 512토큰 한도에 넉넉히 들어갑니다.
도입 전 확인할 점
- 설정
- pip install pylate(또는 sentence-transformers 6.0 이상) 후 trust_remote_code=True로 모델을 불러오면 양방향 패치가 적용됩니다. GGUF 파일은 llama.cpp에서 돌아갑니다.
- 연동
- FastPLAID 인덱스를 쓰는 PyLate, Sentence Transformers의 MultiVectorEncoder, llama.cpp. Liquid는 요청하는 기업 고객에게 자체 GPU 서빙 스택을 제공합니다.
- 데이터와 개인정보
- 직접 호스팅하므로 문서는 자체 하드웨어나 사용자 기기에 남습니다. 이 모델의 호스팅 API는 안내되어 있지 않습니다.
- 대규모 사용 시 비용
- API 비용은 없습니다. 연 매출 $10 million(1,000만 달러) 이상 조직은 Liquid AI 상업 라이선스가 필요하며 가격은 문의해야 합니다. 저장 공간은 토큰당 128차원 벡터만큼 늘어납니다.
- 제한
- 문서는 512토큰, 쿼리는 32토큰에서 잘립니다. 11개 언어를 지원하며, Liquid는 긴 문서가 아니라 짧은 문맥 검색용으로 권장합니다.
좋은 점
- 11개 언어 NanoBEIR 0.605, Qwen3-Embedding-0.6B보다 높음
- 언어 간 재현율이 높음, MKQA 상위 20건 0.694
- GGUF 빌드, 노트북에서 쿼리당 8.2 ms
- 모델 하나로 인덱스 검색과 후보 목록 재정렬 모두 가능
아쉬운 점
- 문서 512토큰, 쿼리 32토큰
- 상업적 무료 이용은 매출 $10 million 미만만
- 긴 문서는 mLateOn, 영어는 LateOn에 뒤짐
- 벤치마크는 Liquid 자체 결과
추천 대상
짧은 텍스트로 다국어 검색을 만드는 개발자, 특히 GPU 서버 없는 노트북, 휴대폰 같은 기기에서 돌리는 경우.
LFM2.5-ColBERT-350M 대안
LFM2.5-ColBERT-350M: 자주 묻는 질문
- LFM2.5-ColBERT-350M, 쓸 만한 가치가 있습니까?
- 문단이 짧고 검색을 노트북이나 휴대폰에서 돌려야 할 때 고를 다국어 ColBERT이지만, 라이선스와 512토큰 상한이 한계를 정합니다. 평점은 5점 만점에 3.9점입니다.
- LFM2.5-ColBERT-350M의 가격은 얼마입니까?
- LFM Open License v1.0 가중치는 무료입니다. 연 매출 $10 million(1,000만 달러) 미만이면 상업적 이용도 무료이고, 그 이상은 Liquid AI 라이선스가 필요합니다.
- LFM2.5-ColBERT-350M의 단점은 무엇입니까?
- 문서 512토큰, 쿼리 32토큰; 상업적 무료 이용은 매출 $10 million 미만만; 긴 문서는 mLateOn, 영어는 LateOn에 뒤짐; 벤치마크는 Liquid 자체 결과.
- LFM2.5-ColBERT-350M에 적합한 사람은 누구입니까?
- 짧은 텍스트로 다국어 검색을 만드는 개발자, 특히 GPU 서버 없는 노트북, 휴대폰 같은 기기에서 돌리는 경우.
- 팀이나 프로덕션 환경에서 LFM2.5-ColBERT-350M의 비용은 얼마입니까?
- API 비용은 없습니다. 연 매출 $10 million(1,000만 달러) 이상 조직은 Liquid AI 상업 라이선스가 필요하며 가격은 문의해야 합니다. 저장 공간은 토큰당 128차원 벡터만큼 늘어납니다.
- LFM2.5-ColBERT-350M에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 문서는 자체 하드웨어나 사용자 기기에 남습니다. 이 모델의 호스팅 API는 안내되어 있지 않습니다.
- LFM2.5-ColBERT-350M의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 LateOn and mLateOn, Qwen3-Embedding and Qwen3-Reranker, Jina Embeddings v5 및 EmbeddingGemma 2입니다.
답변 확인일: 2026년 11월 20일.