Was ist Memorilla?
Memorilla ist ein Gedächtnissystem der SNAP-Gruppe in Stanford. Statt Textstücke abzurufen, liest es eine ganze Sammlung, etwa die früheren Chats eines Nutzers, ein langes Buch oder einen Dokumentbestand, und gibt einem eingefrorenen Sprachmodell feste 16 Speicher-Tokens, geformt von der gestellten Frage.
Das Paper meldet die besten Durchschnittswerte gegenüber Gedächtnismethoden wie Mem0 und MemoRAG, und bei FactKG schlägt es sogar die Variante, dem Modell alle Dokumente zu geben, mit 84,33% gegen 80,43%, bei 108-mal weniger Tokens. Außerdem hob es die Erfolgsquote eines Agenten in TextWorld-Spielen von 18,6% auf 24,2%. Das Repository enthält Trainings- und Evaluationscode sowie ein veröffentlichtes Modell für Qwen3-8B, unter Apache 2.0.
Lohnt sich Memorilla?
Memorilla geht das Gedächtnisproblem von einer anderen Seite an als Retrieval. Statt die ähnlichsten Stücke zu holen, liest es alles, die früheren Gespräche eines Nutzers, ein Buch, einen Dokumentbestand, und verdichtet das für die aktuelle Frage Wichtige in 16 Speicher-Tokens, die das eingefrorene Modell zusammen mit dem Prompt erhält.
Das Beispiel im README zeigt es. Ein Nutzer hatte 107 frühere Gespräche, etwa 32.000 Tokens; auf die Frage nach Frühstücksideen richtete das Qwen3-8B mit Memorilla sie an einer familiären Vorgeschichte von Typ-2-Diabetes aus, die nur einmal in einem früheren Chat vorkam, während das normale Qwen3-8B eine allgemeine Liste lieferte. In Benchmarks meldet das Paper den besten Durchschnitt gegenüber Mem0 und MemoRAG, und bei FactKG ist es genauer, als dem Modell alle Dokumente zu geben, 84,33% gegen 80,43%, mit 108-mal weniger Tokens.
Als Bibliothek für ein Produkt taugt es noch nicht. Der Code zielt auf CUDA-GPUs und lief auf H100-Karten mit 80 GB; der Schnellstart braucht eine 80-GB-GPU und lädt etwa 25 GB an Modellen. Das veröffentlichte Gedächtnismodul ist für Qwen3-8B trainiert, andere Modelle brauchen also eigenes Training, und das arXiv-Paper ist nicht begutachtet.
Wo es sich lohnt
Ein ML-Ingenieur, der einen persönlichen Assistenten baut
Prüfen, ob verdichtetes Gedächtnis Retrieval bei echten Chatverläufen schlägt
Führe das PersonaMem-v2-Beispiel aus und trainiere dann mit den dokumentierten Konfigurationen auf eigenen Daten; plane eine 80-GB-GPU ein.
Eine Forschungsgruppe, die an Agenten arbeitet
Einen Agenten aus seinen eigenen früheren Episoden lernen lassen
Starte mit dem Reinforcement-Learning-Aufbau für TextWorld, bei dem Memorilla den Erfolg von 18,6% auf 24,2% hob.
Bevor du dich festlegst
- Einrichtung
- Klonen, mit uv eine Python-3.11-Umgebung anlegen, pip install -e . ausführen, optional FlashAttention-2; der erste Lauf lädt etwa 25 GB an Modellen.
- Integrationen
- vLLM über einen MemoryVLLM-Wrapper, Qwen3-8B, optional Weights & Biases, TextWorld.
- Daten und Datenschutz
- Läuft auf deinen eigenen GPUs; Apache 2.0.
- Kosten im großen Maßstab
- Kostenloser Code; Training und Evaluation liefen auf H100-GPUs mit 80 GB.
- Grenzen
- Nur CUDA-GPUs; veröffentlichtes Modul an Qwen3-8B gebunden; Code auf Forschungsniveau.
Was gut ist
- Feste 16 Speicher-Tokens unabhängig von der Sammlungsgröße
- Schlägt laut Paper Mem0 und MemoRAG im Schnitt
- 108-mal weniger Tokens als voller Kontext bei FactKG
- Trainings- und Evaluationscode plus veröffentlichtes Modell
Was nicht
- Schnellstart braucht eine 80-GB-GPU
- Veröffentlichtes Modul nur für Qwen3-8B
- Forschungscode, keine Produktionsbibliothek
- Preprint, nicht begutachtet
Am besten für
Forscher und ML-Ingenieure, die Langzeitgedächtnis für Assistenten und Agenten erkunden und große GPUs zum Experimentieren haben.
Memorilla: häufige Fragen
- Lohnt sich Memorilla?
- Memorilla ist eine kluge Antwort auf Langzeitgedächtnis und schlägt Retrieval-Methoden mit einem Bruchteil der Tokens, ist aber vorerst Forschungscode, der eine 80-GB-GPU braucht. Wir bewerten es mit 3.8 von 5.
- Was kostet Memorilla?
- Kostenlos und Open Source (Apache 2.0).
- Welche Nachteile hat Memorilla?
- Schnellstart braucht eine 80-GB-GPU; Veröffentlichtes Modul nur für Qwen3-8B; Forschungscode, keine Produktionsbibliothek; Preprint, nicht begutachtet.
- Für wen eignet sich Memorilla?
- Forscher und ML-Ingenieure, die Langzeitgedächtnis für Assistenten und Agenten erkunden und große GPUs zum Experimentieren haben.
- Was kostet Memorilla für ein Team oder im Produktivbetrieb?
- Kostenloser Code; Training und Evaluation liefen auf H100-GPUs mit 80 GB.
- Ist Memorilla sicher für Firmendaten?
- Läuft auf deinen eigenen GPUs; Apache 2.0.
Antworten geprüft am 15. Nov. 2026.