Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Memorilla

Du code de recherche de Stanford qui condense toute une collection de documents ou un historique de conversations en 16 tokens de mémoire pour un LLM figé.

Avis de ReviewRamble editors · Mis à jour

Voir sur GitHub Open source

Partager cette page :XLinkedInFacebookRedditWhatsAppE-mail

Notre note

3.8/5

Memorilla est une réponse astucieuse à la mémoire à long terme, qui bat les méthodes de récupération avec une fraction des tokens, mais c'est pour l'instant du code de recherche qui exige un GPU de 80 GB.

Qu’est-ce que Memorilla ?

Memorilla est un système de mémoire du groupe SNAP de Stanford. Au lieu de récupérer des morceaux de texte, il lit une collection entière, comme les conversations passées d'un utilisateur, un long livre ou un ensemble de documents, et remet à un modèle de langage figé 16 tokens de mémoire fixes, façonnés par la question posée.

L'article fait état des meilleurs résultats moyens face à des méthodes de mémoire comme Mem0 et MemoRAG, et sur FactKG il fait même mieux que de donner tous les documents au modèle, 84,33 % contre 80,43 %, avec 108 fois moins de tokens. Il a aussi fait passer le taux de réussite d'un agent sur des jeux TextWorld de 18,6 % à 24,2 %. Le dépôt contient le code d'entraînement et d'évaluation ainsi qu'un modèle publié pour Qwen3-8B, sous Apache 2.0.

Memorilla vaut-il le coup ?

Memorilla aborde le problème de la mémoire par un autre côté que la récupération. Plutôt que d'aller chercher les morceaux les plus proches, il lit tout, les conversations passées d'un utilisateur, un livre, un ensemble de documents, et condense ce qui compte pour la question du moment en 16 tokens de mémoire que le modèle figé reçoit avec le prompt.

L'exemple du README le montre. Un utilisateur avait 107 conversations antérieures, environ 32 000 tokens ; à une demande d'idées de petit-déjeuner, le Qwen3-8B doté de Memorilla les a adaptées à des antécédents familiaux de diabète de type 2 mentionnés une seule fois dans une ancienne conversation, tandis que le Qwen3-8B seul a donné une liste générique. Sur les tests, l'article annonce la meilleure moyenne face à Mem0 et MemoRAG, et sur FactKG il est plus précis que de donner au modèle tous les documents, 84,33 % contre 80,43 %, avec 108 fois moins de tokens.

Ce n'est pas encore une bibliothèque à intégrer dans un produit. Le code vise les GPU CUDA et a tourné sur des cartes H100 de 80 GB ; le démarrage rapide exige un GPU de 80 GB et télécharge environ 25 GB de modèles. Le module de mémoire publié est entraîné pour Qwen3-8B, d'autres modèles demandent donc leur propre entraînement, et l'article arXiv n'a pas été relu par des pairs.

Là où il fait la différence

  • Un ingénieur ML qui construit un assistant personnel

    Vérifier si la mémoire condensée fait mieux que la récupération sur de vrais historiques de conversation

    Lancez l'exemple PersonaMem-v2, puis entraînez sur vos données avec les configurations documentées ; prévoyez un GPU de 80 GB.

  • Un groupe de recherche qui travaille sur les agents

    Faire apprendre un agent de ses propres épisodes passés

    Partez de la configuration d'apprentissage par renforcement sur TextWorld, où Memorilla a fait passer la réussite de 18,6 % à 24,2 %.

Avant de vous engager

Mise en route
Clonez, créez un environnement Python 3.11 avec uv, lancez pip install -e . et, si besoin, FlashAttention-2 ; la première exécution télécharge environ 25 GB de modèles.
Intégrations
vLLM via une surcouche MemoryVLLM, Qwen3-8B, Weights & Biases en option, TextWorld.
Données et confidentialité
Tourne sur vos propres GPU ; Apache 2.0.
Coût à grande échelle
Code gratuit ; l'entraînement et l'évaluation ont tourné sur des GPU H100 de 80 GB.
Limites
GPU CUDA uniquement ; module publié lié à Qwen3-8B ; code de niveau recherche.

Les points forts

  • 16 tokens de mémoire fixes quelle que soit la taille de la collection
  • Bat en moyenne Mem0 et MemoRAG, selon l'article
  • 108 fois moins de tokens que le contexte complet sur FactKG
  • Code d'entraînement et d'évaluation plus un modèle publié

Les points faibles

  • Le démarrage rapide exige un GPU de 80 GB
  • Le module publié ne fonctionne qu'avec Qwen3-8B
  • Code de recherche, pas une bibliothèque de production
  • Preprint, sans relecture par des pairs

Idéal pour

Chercheurs et ingénieurs ML qui explorent la mémoire à long terme pour les assistants et les agents et disposent de gros GPU pour expérimenter.

Memorilla : questions fréquentes

Memorilla vaut-il le coup ?
Memorilla est une réponse astucieuse à la mémoire à long terme, qui bat les méthodes de récupération avec une fraction des tokens, mais c'est pour l'instant du code de recherche qui exige un GPU de 80 GB. Nous lui donnons 3.8 sur 5.
Combien coûte Memorilla ?
Gratuit et open source (Apache 2.0).
Quels sont les inconvénients de Memorilla ?
Le démarrage rapide exige un GPU de 80 GB; le module publié ne fonctionne qu'avec Qwen3-8B; code de recherche, pas une bibliothèque de production; preprint, sans relecture par des pairs.
À qui s’adresse Memorilla ?
Chercheurs et ingénieurs ML qui explorent la mémoire à long terme pour les assistants et les agents et disposent de gros GPU pour expérimenter.
Combien coûte Memorilla pour une équipe ou en production ?
Code gratuit ; l'entraînement et l'évaluation ont tourné sur des GPU H100 de 80 GB.
Memorilla est-il sûr pour les données de l’entreprise ?
Tourne sur vos propres GPU ; Apache 2.0.

Réponses vérifiées le 15 nov. 2026.