O que é Memorilla?
O Memorilla é um sistema de memória do grupo SNAP de Stanford. Em vez de buscar trechos de texto, ele lê uma coleção inteira, como as conversas anteriores de um usuário, um livro longo ou um conjunto de documentos, e entrega a um modelo de linguagem congelado 16 tokens de memória fixos, moldados pela pergunta feita.
O artigo relata os melhores resultados médios contra métodos de memória como Mem0 e MemoRAG, e no FactKG supera até dar ao modelo todos os documentos, 84,33% contra 80,43%, usando 108 vezes menos tokens. Também elevou a taxa de sucesso de um agente em jogos TextWorld de 18,6% para 24,2%. O repositório traz código de treino e avaliação e um modelo publicado para o Qwen3-8B, sob a licença Apache 2.0.
Memorilla vale a pena?
O Memorilla ataca o problema da memória por um lado diferente da busca. Em vez de trazer os trechos mais parecidos, ele lê tudo, as conversas anteriores de um usuário, um livro, um conjunto de documentos, e condensa o que importa para a pergunta atual em 16 tokens de memória que o modelo congelado recebe junto com o prompt.
O exemplo do README mostra isso. Um usuário tinha 107 conversas anteriores, cerca de 32.000 tokens; ao pedir ideias de café da manhã, o Qwen3-8B com Memorilla as adaptou a um histórico familiar de diabetes tipo 2 mencionado uma única vez numa conversa antiga, enquanto o Qwen3-8B sozinho deu uma lista genérica. Nos testes, o artigo relata a melhor média contra Mem0 e MemoRAG, e no FactKG ele é mais preciso do que dar ao modelo todos os documentos, 84,33% contra 80,43%, com 108 vezes menos tokens.
Ainda não é uma biblioteca para colocar num produto. O código mira GPUs CUDA e rodou em placas H100 de 80 GB; o início rápido exige uma GPU de 80 GB e baixa cerca de 25 GB de modelos. O módulo de memória publicado foi treinado para o Qwen3-8B, então outros modelos precisam de treino próprio, e o artigo no arXiv não passou por revisão de pares.
Onde ele se destaca
Um engenheiro de ML criando um assistente pessoal
Testar se a memória comprimida supera a busca em históricos reais de conversa
Rode o exemplo do PersonaMem-v2 e depois treine com os seus dados usando as configurações documentadas; conte com uma GPU de 80 GB.
Um grupo de pesquisa que trabalha com agentes
Fazer um agente aprender com os próprios episódios anteriores
Parta da configuração de aprendizado por reforço no TextWorld, em que o Memorilla elevou o sucesso de 18,6% para 24,2%.
Antes de decidir
- Configuração
- Clone, crie um ambiente Python 3.11 com uv, rode pip install -e . e, se quiser, FlashAttention-2; a primeira execução baixa cerca de 25 GB de modelos.
- Integrações
- vLLM por meio de um wrapper MemoryVLLM, Qwen3-8B, Weights & Biases opcional, TextWorld.
- Dados e privacidade
- Roda nas suas próprias GPUs; Apache 2.0.
- Custo em escala
- Código grátis; o treino e a avaliação rodaram em GPUs H100 de 80 GB.
- Limites
- Só GPUs CUDA; módulo publicado preso ao Qwen3-8B; código de nível de pesquisa.
O que é bom
- 16 tokens de memória fixos, seja qual for o tamanho da coleção
- Supera Mem0 e MemoRAG na média, segundo o artigo
- 108 vezes menos tokens que o contexto completo no FactKG
- Código de treino e avaliação mais um modelo publicado
O que não é
- O início rápido exige uma GPU de 80 GB
- O módulo publicado só funciona com o Qwen3-8B
- Código de pesquisa, não uma biblioteca de produção
- Preprint, sem revisão de pares
Ideal para
Pesquisadores e engenheiros de ML que exploram memória de longo prazo para assistentes e agentes e têm GPUs grandes para experimentar.
Memorilla: perguntas frequentes
- Memorilla vale a pena?
- O Memorilla é uma resposta engenhosa para a memória de longo prazo, superando métodos de busca com uma fração dos tokens, mas por enquanto é código de pesquisa que exige uma GPU de 80 GB. Damos nota 3.8 de 5.
- Quanto custa Memorilla?
- Grátis e de código aberto (Apache 2.0).
- Quais são as desvantagens de Memorilla?
- O início rápido exige uma GPU de 80 GB; o módulo publicado só funciona com o Qwen3-8B; código de pesquisa, não uma biblioteca de produção; preprint, sem revisão de pares.
- Para quem Memorilla é indicado?
- Pesquisadores e engenheiros de ML que exploram memória de longo prazo para assistentes e agentes e têm GPUs grandes para experimentar.
- Quanto custa Memorilla para uma equipe ou em produção?
- Código grátis; o treino e a avaliação rodaram em GPUs H100 de 80 GB.
- Memorilla é seguro para dados da empresa?
- Roda nas suas próprias GPUs; Apache 2.0.
Respostas verificadas em 15 de nov. de 2026.