Qu’est-ce que Memorilla ?
Memorilla est un système de mémoire du groupe SNAP de Stanford. Au lieu de récupérer des morceaux de texte, il lit une collection entière, comme les conversations passées d'un utilisateur, un long livre ou un ensemble de documents, et remet à un modèle de langage figé 16 tokens de mémoire fixes, façonnés par la question posée.
L'article fait état des meilleurs résultats moyens face à des méthodes de mémoire comme Mem0 et MemoRAG, et sur FactKG il fait même mieux que de donner tous les documents au modèle, 84,33 % contre 80,43 %, avec 108 fois moins de tokens. Il a aussi fait passer le taux de réussite d'un agent sur des jeux TextWorld de 18,6 % à 24,2 %. Le dépôt contient le code d'entraînement et d'évaluation ainsi qu'un modèle publié pour Qwen3-8B, sous Apache 2.0.
Memorilla vaut-il le coup ?
Memorilla aborde le problème de la mémoire par un autre côté que la récupération. Plutôt que d'aller chercher les morceaux les plus proches, il lit tout, les conversations passées d'un utilisateur, un livre, un ensemble de documents, et condense ce qui compte pour la question du moment en 16 tokens de mémoire que le modèle figé reçoit avec le prompt.
L'exemple du README le montre. Un utilisateur avait 107 conversations antérieures, environ 32 000 tokens ; à une demande d'idées de petit-déjeuner, le Qwen3-8B doté de Memorilla les a adaptées à des antécédents familiaux de diabète de type 2 mentionnés une seule fois dans une ancienne conversation, tandis que le Qwen3-8B seul a donné une liste générique. Sur les tests, l'article annonce la meilleure moyenne face à Mem0 et MemoRAG, et sur FactKG il est plus précis que de donner au modèle tous les documents, 84,33 % contre 80,43 %, avec 108 fois moins de tokens.
Ce n'est pas encore une bibliothèque à intégrer dans un produit. Le code vise les GPU CUDA et a tourné sur des cartes H100 de 80 GB ; le démarrage rapide exige un GPU de 80 GB et télécharge environ 25 GB de modèles. Le module de mémoire publié est entraîné pour Qwen3-8B, d'autres modèles demandent donc leur propre entraînement, et l'article arXiv n'a pas été relu par des pairs.
Là où il fait la différence
Un ingénieur ML qui construit un assistant personnel
Vérifier si la mémoire condensée fait mieux que la récupération sur de vrais historiques de conversation
Lancez l'exemple PersonaMem-v2, puis entraînez sur vos données avec les configurations documentées ; prévoyez un GPU de 80 GB.
Un groupe de recherche qui travaille sur les agents
Faire apprendre un agent de ses propres épisodes passés
Partez de la configuration d'apprentissage par renforcement sur TextWorld, où Memorilla a fait passer la réussite de 18,6 % à 24,2 %.
Avant de vous engager
- Mise en route
- Clonez, créez un environnement Python 3.11 avec uv, lancez pip install -e . et, si besoin, FlashAttention-2 ; la première exécution télécharge environ 25 GB de modèles.
- Intégrations
- vLLM via une surcouche MemoryVLLM, Qwen3-8B, Weights & Biases en option, TextWorld.
- Données et confidentialité
- Tourne sur vos propres GPU ; Apache 2.0.
- Coût à grande échelle
- Code gratuit ; l'entraînement et l'évaluation ont tourné sur des GPU H100 de 80 GB.
- Limites
- GPU CUDA uniquement ; module publié lié à Qwen3-8B ; code de niveau recherche.
Les points forts
- 16 tokens de mémoire fixes quelle que soit la taille de la collection
- Bat en moyenne Mem0 et MemoRAG, selon l'article
- 108 fois moins de tokens que le contexte complet sur FactKG
- Code d'entraînement et d'évaluation plus un modèle publié
Les points faibles
- Le démarrage rapide exige un GPU de 80 GB
- Le module publié ne fonctionne qu'avec Qwen3-8B
- Code de recherche, pas une bibliothèque de production
- Preprint, sans relecture par des pairs
Idéal pour
Chercheurs et ingénieurs ML qui explorent la mémoire à long terme pour les assistants et les agents et disposent de gros GPU pour expérimenter.
Memorilla : questions fréquentes
- Memorilla vaut-il le coup ?
- Memorilla est une réponse astucieuse à la mémoire à long terme, qui bat les méthodes de récupération avec une fraction des tokens, mais c'est pour l'instant du code de recherche qui exige un GPU de 80 GB. Nous lui donnons 3.8 sur 5.
- Combien coûte Memorilla ?
- Gratuit et open source (Apache 2.0).
- Quels sont les inconvénients de Memorilla ?
- Le démarrage rapide exige un GPU de 80 GB; le module publié ne fonctionne qu'avec Qwen3-8B; code de recherche, pas une bibliothèque de production; preprint, sans relecture par des pairs.
- À qui s’adresse Memorilla ?
- Chercheurs et ingénieurs ML qui explorent la mémoire à long terme pour les assistants et les agents et disposent de gros GPU pour expérimenter.
- Combien coûte Memorilla pour une équipe ou en production ?
- Code gratuit ; l'entraînement et l'évaluation ont tourné sur des GPU H100 de 80 GB.
- Memorilla est-il sûr pour les données de l’entreprise ?
- Tourne sur vos propres GPU ; Apache 2.0.
Réponses vérifiées le 15 nov. 2026.