Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Noticias e investigación de IA

Noticias ·

Edge0 asegura que su modelo de 145B funciona en un portátil con 29GB de memoria

Edge0 ha lanzado Edge0-145B, un modelo de mezcla de expertos con unos 10B de parámetros activos que reparte los expertos entre GPU, RAM del sistema y SSD, además de un hermano de 120B. Declara un pico de memoria de 29GB, más de 80 tokens por segundo en decodificación y 86.52 en Terminal-Bench 2.1. Todas las puntuaciones, incluidas las de los rivales, proceden de pruebas de la propia Edge0, y no se indica ninguna licencia.

Ejecutar un modelo grande y capaz en tu propio portátil ha significado o un modelo pequeño o una máquina carísima. Edge0, cuyo modelo de 35B para móviles hemos analizado, afirma ahora tener un modelo de 145.000 millones de parámetros que funciona en un portátil bien equipado con un pico de memoria medido de 29GB, y publica en abierto los pesos y el código de inferencia. Si las cifras se sostienen, lleva agentes de programación locales serios a equipos que muchos desarrolladores ya tienen.

El diseño explica cómo es posible esa cifra de memoria. Edge0-145B es un modelo de mezcla de expertos en el que cada grupo de 64 expertos comparte dos grandes matrices y cada experto conserva solo un pequeño conjunto de parámetros propios; unos 10B parámetros se activan en cada paso. El motor reparte el modelo en tres niveles: los expertos más usados se quedan en la memoria de la GPU, una biblioteca de expertos de unos 40GB está en la memoria del sistema y unos 48GB de datos de vocabulario residen en el SSD y se leen bajo demanda. La CPU y la GPU trabajan en paralelo, y la decodificación especulativa comprueba varios tokens candidatos a la vez. Edge0 informa de más de 80 tokens por segundo.

Las cifras de rendimiento son ambiciosas. Edge0 declara 64,6 en DeepSWE 1.1, 86,52 en Terminal-Bench 2.1, 90,4 en GPQA-Diamond y 80,6 en IFBench, y una media de 72,8 en seis pruebas frente a 71,7 de Qwen3.8-Flash-Next, cuyo despliegue estándar en 4 bits estima en 70GB. Eso sitúa a Edge0 en torno al 40% de esa memoria y convierte un portátil de 48GB en el mínimo práctico. El soporte inicial cubre macOS, Windows y Linux, incluidos los chips Apple de la serie M y las tarjetas NVIDIA RTX.

Para quien ejecuta modelos locales con llama.cpp, Ollama o LM Studio, lo interesante es el diseño por flujo más que el número de parámetros. Mantener la mayoría de los expertos fuera de la GPU y leer el vocabulario desde el SSD es un equilibrio distinto de cuantizar más a fondo, y depende de un almacenamiento rápido. Edge0 asegura además que publica toda la pila para que los resultados puedan reproducirse.

Las dudas son importantes. Los resultados de Qwen, DeepSeek y Claude proceden de evaluaciones internas de Edge0, las cifras de memoria de los rivales son estimaciones aún no medidas y el informe técnico con la configuración completa todavía no ha salido. Los datos de velocidad y memoria vienen de pruebas propias de Edge0 en un portátil sin especificar. Nuestro análisis de su versión de 35B encontró una ingeniería cuidadosa con casi todas las cifras de velocidad aportadas por sus creadores, y esa cautela vale aquí hasta que haya pruebas independientes.

Nuestra opinión: Ejecutar un modelo de este tamaño en un portátil de 48GB importaría para el trabajo privado y sin conexión, pero las cifras son autodeclaradas y los datos de memoria no cuadran del todo. Conviene esperar a pruebas independientes y a una licencia explícita antes de tratarlo como 'código abierto'.

Nuestras reseñas:edge0

Fuente: Hacker News

Más historias