Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Memorilla

Forschungscode aus Stanford, der eine ganze Dokumentsammlung oder einen Chatverlauf in 16 Speicher-Tokens für ein eingefrorenes LLM verdichtet.

Getestet von ReviewRamble editors · Aktualisiert

Auf GitHub ansehen Open Source

Diese Seite teilen:XLinkedInFacebookRedditWhatsAppE-Mail

Unsere Bewertung

3.8/5

Memorilla ist eine kluge Antwort auf Langzeitgedächtnis und schlägt Retrieval-Methoden mit einem Bruchteil der Tokens, ist aber vorerst Forschungscode, der eine 80-GB-GPU braucht.

Was ist Memorilla?

Memorilla ist ein Gedächtnissystem der SNAP-Gruppe in Stanford. Statt Textstücke abzurufen, liest es eine ganze Sammlung, etwa die früheren Chats eines Nutzers, ein langes Buch oder einen Dokumentbestand, und gibt einem eingefrorenen Sprachmodell feste 16 Speicher-Tokens, geformt von der gestellten Frage.

Das Paper meldet die besten Durchschnittswerte gegenüber Gedächtnismethoden wie Mem0 und MemoRAG, und bei FactKG schlägt es sogar die Variante, dem Modell alle Dokumente zu geben, mit 84,33% gegen 80,43%, bei 108-mal weniger Tokens. Außerdem hob es die Erfolgsquote eines Agenten in TextWorld-Spielen von 18,6% auf 24,2%. Das Repository enthält Trainings- und Evaluationscode sowie ein veröffentlichtes Modell für Qwen3-8B, unter Apache 2.0.

Lohnt sich Memorilla?

Memorilla geht das Gedächtnisproblem von einer anderen Seite an als Retrieval. Statt die ähnlichsten Stücke zu holen, liest es alles, die früheren Gespräche eines Nutzers, ein Buch, einen Dokumentbestand, und verdichtet das für die aktuelle Frage Wichtige in 16 Speicher-Tokens, die das eingefrorene Modell zusammen mit dem Prompt erhält.

Das Beispiel im README zeigt es. Ein Nutzer hatte 107 frühere Gespräche, etwa 32.000 Tokens; auf die Frage nach Frühstücksideen richtete das Qwen3-8B mit Memorilla sie an einer familiären Vorgeschichte von Typ-2-Diabetes aus, die nur einmal in einem früheren Chat vorkam, während das normale Qwen3-8B eine allgemeine Liste lieferte. In Benchmarks meldet das Paper den besten Durchschnitt gegenüber Mem0 und MemoRAG, und bei FactKG ist es genauer, als dem Modell alle Dokumente zu geben, 84,33% gegen 80,43%, mit 108-mal weniger Tokens.

Als Bibliothek für ein Produkt taugt es noch nicht. Der Code zielt auf CUDA-GPUs und lief auf H100-Karten mit 80 GB; der Schnellstart braucht eine 80-GB-GPU und lädt etwa 25 GB an Modellen. Das veröffentlichte Gedächtnismodul ist für Qwen3-8B trainiert, andere Modelle brauchen also eigenes Training, und das arXiv-Paper ist nicht begutachtet.

Wo es sich lohnt

  • Ein ML-Ingenieur, der einen persönlichen Assistenten baut

    Prüfen, ob verdichtetes Gedächtnis Retrieval bei echten Chatverläufen schlägt

    Führe das PersonaMem-v2-Beispiel aus und trainiere dann mit den dokumentierten Konfigurationen auf eigenen Daten; plane eine 80-GB-GPU ein.

  • Eine Forschungsgruppe, die an Agenten arbeitet

    Einen Agenten aus seinen eigenen früheren Episoden lernen lassen

    Starte mit dem Reinforcement-Learning-Aufbau für TextWorld, bei dem Memorilla den Erfolg von 18,6% auf 24,2% hob.

Bevor du dich festlegst

Einrichtung
Klonen, mit uv eine Python-3.11-Umgebung anlegen, pip install -e . ausführen, optional FlashAttention-2; der erste Lauf lädt etwa 25 GB an Modellen.
Integrationen
vLLM über einen MemoryVLLM-Wrapper, Qwen3-8B, optional Weights & Biases, TextWorld.
Daten und Datenschutz
Läuft auf deinen eigenen GPUs; Apache 2.0.
Kosten im großen Maßstab
Kostenloser Code; Training und Evaluation liefen auf H100-GPUs mit 80 GB.
Grenzen
Nur CUDA-GPUs; veröffentlichtes Modul an Qwen3-8B gebunden; Code auf Forschungsniveau.

Was gut ist

  • Feste 16 Speicher-Tokens unabhängig von der Sammlungsgröße
  • Schlägt laut Paper Mem0 und MemoRAG im Schnitt
  • 108-mal weniger Tokens als voller Kontext bei FactKG
  • Trainings- und Evaluationscode plus veröffentlichtes Modell

Was nicht

  • Schnellstart braucht eine 80-GB-GPU
  • Veröffentlichtes Modul nur für Qwen3-8B
  • Forschungscode, keine Produktionsbibliothek
  • Preprint, nicht begutachtet

Am besten für

Forscher und ML-Ingenieure, die Langzeitgedächtnis für Assistenten und Agenten erkunden und große GPUs zum Experimentieren haben.

Memorilla: häufige Fragen

Lohnt sich Memorilla?
Memorilla ist eine kluge Antwort auf Langzeitgedächtnis und schlägt Retrieval-Methoden mit einem Bruchteil der Tokens, ist aber vorerst Forschungscode, der eine 80-GB-GPU braucht. Wir bewerten es mit 3.8 von 5.
Was kostet Memorilla?
Kostenlos und Open Source (Apache 2.0).
Welche Nachteile hat Memorilla?
Schnellstart braucht eine 80-GB-GPU; Veröffentlichtes Modul nur für Qwen3-8B; Forschungscode, keine Produktionsbibliothek; Preprint, nicht begutachtet.
Für wen eignet sich Memorilla?
Forscher und ML-Ingenieure, die Langzeitgedächtnis für Assistenten und Agenten erkunden und große GPUs zum Experimentieren haben.
Was kostet Memorilla für ein Team oder im Produktivbetrieb?
Kostenloser Code; Training und Evaluation liefen auf H100-GPUs mit 80 GB.
Ist Memorilla sicher für Firmendaten?
Läuft auf deinen eigenen GPUs; Apache 2.0.

Antworten geprüft am 15. Nov. 2026.