Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Memorilla

Código de investigación de Stanford que comprime toda una colección de documentos o un historial de chats en 16 tokens de memoria para un LLM congelado.

Reseña de ReviewRamble editors · Actualizado

Ver en GitHub Código abierto

Comparte esta página:XLinkedInFacebookRedditWhatsAppCorreo

Nuestra nota

3.8/5

Memorilla es una respuesta ingeniosa a la memoria a largo plazo, que supera a los métodos de recuperación con una fracción de los tokens, pero por ahora es código de investigación que necesita una GPU de 80 GB.

¿Qué es Memorilla?

Memorilla es un sistema de memoria del grupo SNAP de Stanford. En lugar de recuperar fragmentos de texto, lee una colección entera, como los chats anteriores de un usuario, un libro largo o un conjunto de documentos, y entrega a un modelo de lenguaje congelado 16 tokens de memoria fijos, moldeados por la pregunta que se hace.

El artículo informa de los mejores resultados medios frente a métodos de memoria como Mem0 y MemoRAG, y en FactKG supera incluso a darle al modelo todos los documentos, 84,33% frente a 80,43%, usando 108 veces menos tokens. También subió la tasa de éxito de un agente en juegos de TextWorld del 18,6% al 24,2%. El repositorio incluye código de entrenamiento y evaluación y un modelo publicado para Qwen3-8B, con licencia Apache 2.0.

¿Merece la pena Memorilla?

Memorilla aborda el problema de la memoria desde un lado distinto al de la recuperación. En vez de buscar los fragmentos más parecidos, lo lee todo, las conversaciones anteriores de un usuario, un libro, un conjunto de documentos, y condensa lo que importa para la pregunta actual en 16 tokens de memoria que el modelo congelado recibe junto al prompt.

El ejemplo del README lo demuestra. Un usuario tenía 107 conversaciones previas, unos 32.000 tokens; al pedir ideas de desayuno, el Qwen3-8B con Memorilla las adaptó a un historial familiar de diabetes tipo 2 mencionado una sola vez en un chat anterior, mientras que el Qwen3-8B normal dio una lista genérica. En las pruebas, el artículo informa de la mejor media frente a Mem0 y MemoRAG, y en FactKG es más preciso que darle al modelo todos los documentos, 84,33% frente a 80,43%, con 108 veces menos tokens.

Todavía no es una biblioteca para meter en un producto. El código está pensado para GPU CUDA y se ejecutó en tarjetas H100 de 80 GB; el inicio rápido necesita una GPU de 80 GB y descarga unos 25 GB de modelos. El módulo de memoria publicado está entrenado para Qwen3-8B, así que otros modelos necesitan su propio entrenamiento, y el artículo de arXiv no ha pasado revisión por pares.

Dónde se gana su sitio

  • Un ingeniero de ML que crea un asistente personal

    Comprobar si la memoria comprimida supera a la recuperación con historiales de chat reales

    Ejecuta el ejemplo de PersonaMem-v2 y luego entrena con tus datos usando las configuraciones documentadas; cuenta con una GPU de 80 GB.

  • Un grupo de investigación que trabaja con agentes

    Que un agente aprenda de sus propios episodios anteriores

    Parte de la configuración de aprendizaje por refuerzo en TextWorld, donde Memorilla subió el éxito del 18,6% al 24,2%.

Antes de decidirte

Puesta en marcha
Clona, crea un entorno de Python 3.11 con uv, ejecuta pip install -e . y, si quieres, FlashAttention-2; la primera ejecución descarga unos 25 GB de modelos.
Integraciones
vLLM mediante un envoltorio MemoryVLLM, Qwen3-8B, Weights & Biases opcional, TextWorld.
Datos y privacidad
Se ejecuta en tus propias GPU; Apache 2.0.
Coste a escala
Código gratuito; el entrenamiento y la evaluación se hicieron en GPU H100 de 80 GB.
Límites
Solo GPU CUDA; módulo publicado ligado a Qwen3-8B; código de nivel investigación.

Lo bueno

  • 16 tokens de memoria fijos sea cual sea el tamaño de la colección
  • Supera de media a Mem0 y MemoRAG, según el artículo
  • 108 veces menos tokens que el contexto completo en FactKG
  • Código de entrenamiento y evaluación más un modelo publicado

Lo malo

  • El inicio rápido necesita una GPU de 80 GB
  • El módulo publicado solo funciona con Qwen3-8B
  • Código de investigación, no una biblioteca de producción
  • Preprint, sin revisión por pares

Ideal para

Investigadores e ingenieros de ML que exploran la memoria a largo plazo para asistentes y agentes y tienen GPU grandes para experimentar.

Memorilla: preguntas frecuentes

¿Merece la pena Memorilla?
Memorilla es una respuesta ingeniosa a la memoria a largo plazo, que supera a los métodos de recuperación con una fracción de los tokens, pero por ahora es código de investigación que necesita una GPU de 80 GB. Le damos un 3.8 sobre 5.
¿Cuánto cuesta Memorilla?
Gratis y de código abierto (Apache 2.0).
¿Qué inconvenientes tiene Memorilla?
El inicio rápido necesita una GPU de 80 GB; el módulo publicado solo funciona con Qwen3-8B; código de investigación, no una biblioteca de producción; preprint, sin revisión por pares.
¿Para quién es Memorilla?
Investigadores e ingenieros de ML que exploran la memoria a largo plazo para asistentes y agentes y tienen GPU grandes para experimentar.
¿Cuánto cuesta Memorilla para un equipo o en producción?
Código gratuito; el entrenamiento y la evaluación se hicieron en GPU H100 de 80 GB.
¿Es Memorilla seguro para los datos de la empresa?
Se ejecuta en tus propias GPU; Apache 2.0.

Respuestas comprobadas el 15 nov 2026.