Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Memorilla

Código de pesquisa de Stanford que comprime uma coleção inteira de documentos ou um histórico de conversas em 16 tokens de memória para um LLM congelado.

Análise de ReviewRamble editors · Atualizado

Ver no GitHub Código aberto

Compartilhe esta página:XLinkedInFacebookRedditWhatsAppE-mail

Nossa nota

3.8/5

O Memorilla é uma resposta engenhosa para a memória de longo prazo, superando métodos de busca com uma fração dos tokens, mas por enquanto é código de pesquisa que exige uma GPU de 80 GB.

O que é Memorilla?

O Memorilla é um sistema de memória do grupo SNAP de Stanford. Em vez de buscar trechos de texto, ele lê uma coleção inteira, como as conversas anteriores de um usuário, um livro longo ou um conjunto de documentos, e entrega a um modelo de linguagem congelado 16 tokens de memória fixos, moldados pela pergunta feita.

O artigo relata os melhores resultados médios contra métodos de memória como Mem0 e MemoRAG, e no FactKG supera até dar ao modelo todos os documentos, 84,33% contra 80,43%, usando 108 vezes menos tokens. Também elevou a taxa de sucesso de um agente em jogos TextWorld de 18,6% para 24,2%. O repositório traz código de treino e avaliação e um modelo publicado para o Qwen3-8B, sob a licença Apache 2.0.

Memorilla vale a pena?

O Memorilla ataca o problema da memória por um lado diferente da busca. Em vez de trazer os trechos mais parecidos, ele lê tudo, as conversas anteriores de um usuário, um livro, um conjunto de documentos, e condensa o que importa para a pergunta atual em 16 tokens de memória que o modelo congelado recebe junto com o prompt.

O exemplo do README mostra isso. Um usuário tinha 107 conversas anteriores, cerca de 32.000 tokens; ao pedir ideias de café da manhã, o Qwen3-8B com Memorilla as adaptou a um histórico familiar de diabetes tipo 2 mencionado uma única vez numa conversa antiga, enquanto o Qwen3-8B sozinho deu uma lista genérica. Nos testes, o artigo relata a melhor média contra Mem0 e MemoRAG, e no FactKG ele é mais preciso do que dar ao modelo todos os documentos, 84,33% contra 80,43%, com 108 vezes menos tokens.

Ainda não é uma biblioteca para colocar num produto. O código mira GPUs CUDA e rodou em placas H100 de 80 GB; o início rápido exige uma GPU de 80 GB e baixa cerca de 25 GB de modelos. O módulo de memória publicado foi treinado para o Qwen3-8B, então outros modelos precisam de treino próprio, e o artigo no arXiv não passou por revisão de pares.

Onde ele se destaca

  • Um engenheiro de ML criando um assistente pessoal

    Testar se a memória comprimida supera a busca em históricos reais de conversa

    Rode o exemplo do PersonaMem-v2 e depois treine com os seus dados usando as configurações documentadas; conte com uma GPU de 80 GB.

  • Um grupo de pesquisa que trabalha com agentes

    Fazer um agente aprender com os próprios episódios anteriores

    Parta da configuração de aprendizado por reforço no TextWorld, em que o Memorilla elevou o sucesso de 18,6% para 24,2%.

Antes de decidir

Configuração
Clone, crie um ambiente Python 3.11 com uv, rode pip install -e . e, se quiser, FlashAttention-2; a primeira execução baixa cerca de 25 GB de modelos.
Integrações
vLLM por meio de um wrapper MemoryVLLM, Qwen3-8B, Weights & Biases opcional, TextWorld.
Dados e privacidade
Roda nas suas próprias GPUs; Apache 2.0.
Custo em escala
Código grátis; o treino e a avaliação rodaram em GPUs H100 de 80 GB.
Limites
Só GPUs CUDA; módulo publicado preso ao Qwen3-8B; código de nível de pesquisa.

O que é bom

  • 16 tokens de memória fixos, seja qual for o tamanho da coleção
  • Supera Mem0 e MemoRAG na média, segundo o artigo
  • 108 vezes menos tokens que o contexto completo no FactKG
  • Código de treino e avaliação mais um modelo publicado

O que não é

  • O início rápido exige uma GPU de 80 GB
  • O módulo publicado só funciona com o Qwen3-8B
  • Código de pesquisa, não uma biblioteca de produção
  • Preprint, sem revisão de pares

Ideal para

Pesquisadores e engenheiros de ML que exploram memória de longo prazo para assistentes e agentes e têm GPUs grandes para experimentar.

Memorilla: perguntas frequentes

Memorilla vale a pena?
O Memorilla é uma resposta engenhosa para a memória de longo prazo, superando métodos de busca com uma fração dos tokens, mas por enquanto é código de pesquisa que exige uma GPU de 80 GB. Damos nota 3.8 de 5.
Quanto custa Memorilla?
Grátis e de código aberto (Apache 2.0).
Quais são as desvantagens de Memorilla?
O início rápido exige uma GPU de 80 GB; o módulo publicado só funciona com o Qwen3-8B; código de pesquisa, não uma biblioteca de produção; preprint, sem revisão de pares.
Para quem Memorilla é indicado?
Pesquisadores e engenheiros de ML que exploram memória de longo prazo para assistentes e agentes e têm GPUs grandes para experimentar.
Quanto custa Memorilla para uma equipe ou em produção?
Código grátis; o treino e a avaliação rodaram em GPUs H100 de 80 GB.
Memorilla é seguro para dados da empresa?
Roda nas suas próprias GPUs; Apache 2.0.

Respostas verificadas em 15 de nov. de 2026.