본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Memorilla

문서 모음이나 대화 기록 전체를 고정된 LLM용 기억 토큰 16개로 압축하는 스탠퍼드의 연구용 코드.

리뷰어: ReviewRamble editors · 업데이트

GitHub에서 보기 오픈 소스

이 페이지 공유:XLinkedInFacebookRedditWhatsApp이메일

평점

3.8/5

Memorilla는 장기 기억에 대한 영리한 해법으로 적은 토큰으로 검색 방식을 앞서지만, 지금은 80 GB GPU가 필요한 연구용 코드입니다.

Memorilla의 개요

Memorilla는 스탠퍼드 SNAP 그룹의 기억 시스템입니다. 텍스트 조각을 검색하는 대신, 사용자의 과거 대화나 긴 책, 문서 묶음 같은 모음 전체를 읽고, 질문에 맞춰 빚어진 고정된 16개의 기억 토큰을 고정된 언어 모델에 건넵니다.

논문은 Mem0, MemoRAG 같은 기억 방식과 비교해 평균 최고 성능을 보고하며, FactKG에서는 모든 문서를 모델에 주는 경우보다도 나은 84.33% 대 80.43%를 108분의 1의 토큰으로 냈습니다. TextWorld 게임에서는 에이전트의 성공률을 18.6%에서 24.2%로 높였습니다. 저장소에는 학습·평가 코드와 Qwen3-8B용 공개 모델이 있으며, 라이선스는 Apache 2.0입니다.

Memorilla, 쓸 만한 가치가 있습니까?

Memorilla는 검색과는 다른 쪽에서 기억 문제를 공략합니다. 가장 비슷한 조각을 가져오는 대신 사용자의 과거 대화, 책, 문서 묶음을 전부 읽고, 지금 질문에 중요한 것을 16개의 기억 토큰으로 압축해 고정된 모델이 프롬프트와 함께 받게 합니다.

README의 예가 이를 보여 줍니다. 한 사용자는 과거 대화가 107건, 약 32,000 토큰이었습니다. 아침 식사 아이디어를 묻자 Memorilla를 단 Qwen3-8B는 예전 대화에서 단 한 번 언급된 2형 당뇨 가족력에 맞춰 제안했고, 기억 없는 Qwen3-8B는 흔한 목록을 내놓았습니다. 벤치마크에서 논문은 Mem0, MemoRAG 대비 최고 평균을 보고하며, FactKG에서는 모든 문서를 모델에 주는 것보다 정확한 84.33% 대 80.43%를 108분의 1의 토큰으로 냈습니다.

아직 제품에 넣을 라이브러리는 아닙니다. 코드는 CUDA GPU를 겨냥하며 80 GB H100에서 돌렸고, 빠른 시작에는 80 GB GPU 한 장이 필요하며 약 25 GB의 모델을 내려받습니다. 공개된 기억 모듈은 Qwen3-8B용으로 학습되어 다른 모델은 따로 학습해야 하고, arXiv 논문은 동료 심사를 거치지 않았습니다.

제 역할을 하는 곳

  • 개인 비서를 만드는 ML 엔지니어

    실제 대화 기록에서 압축 기억이 검색보다 나은지 확인하기

    PersonaMem-v2 예제를 돌린 뒤, 문서화된 설정으로 자체 데이터를 학습하십시오. 80 GB GPU를 준비하십시오.

  • 에이전트를 연구하는 그룹

    에이전트가 자신의 과거 에피소드에서 배우게 하기

    Memorilla가 성공률을 18.6%에서 24.2%로 높인 TextWorld 강화학습 설정에서 시작하십시오.

도입 전 확인할 점

설정
클론하고, uv로 Python 3.11 환경을 만들고, pip install -e .을 실행하며, 원하면 FlashAttention-2도 설치합니다. 첫 실행 때 약 25 GB의 모델을 내려받습니다.
연동
MemoryVLLM 래퍼를 통한 vLLM, Qwen3-8B, 선택 사항인 Weights & Biases, TextWorld.
데이터와 개인정보
내 GPU에서 동작. Apache 2.0.
대규모 사용 시 비용
코드는 무료. 학습과 평가는 80 GB H100 GPU에서 했습니다.
제한
CUDA GPU 전용. 공개 모듈은 Qwen3-8B에 묶임. 연구 수준의 코드.

좋은 점

  • 모음 크기와 관계없이 기억 토큰 16개로 고정
  • 논문 기준 평균적으로 Mem0와 MemoRAG를 앞섬
  • FactKG에서 전체 컨텍스트 대비 108분의 1의 토큰
  • 학습·평가 코드와 공개 모델 제공

아쉬운 점

  • 빠른 시작에 80 GB GPU 필요
  • 공개 모듈은 Qwen3-8B 전용
  • 운영용 라이브러리가 아닌 연구용 코드
  • 동료 심사를 거치지 않은 프리프린트

추천 대상

비서와 에이전트의 장기 기억을 탐구하며 실험할 큰 GPU를 가진 연구자와 ML 엔지니어.

Memorilla: 자주 묻는 질문

Memorilla, 쓸 만한 가치가 있습니까?
Memorilla는 장기 기억에 대한 영리한 해법으로 적은 토큰으로 검색 방식을 앞서지만, 지금은 80 GB GPU가 필요한 연구용 코드입니다. 평점은 5점 만점에 3.8점입니다.
Memorilla의 가격은 얼마입니까?
무료 오픈소스(Apache 2.0).
Memorilla의 단점은 무엇입니까?
빠른 시작에 80 GB GPU 필요; 공개 모듈은 Qwen3-8B 전용; 운영용 라이브러리가 아닌 연구용 코드; 동료 심사를 거치지 않은 프리프린트.
Memorilla에 적합한 사람은 누구입니까?
비서와 에이전트의 장기 기억을 탐구하며 실험할 큰 GPU를 가진 연구자와 ML 엔지니어.
팀이나 프로덕션 환경에서 Memorilla의 비용은 얼마입니까?
코드는 무료. 학습과 평가는 80 GB H100 GPU에서 했습니다.
Memorilla에 회사 데이터를 맡겨도 안전합니까?
내 GPU에서 동작. Apache 2.0.

답변 확인일: 2026년 11월 15일.