Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Noticias e investigación de IA

Noticias ·

PyTorch 2.15 trae FP8 y una decodificación MoE mucho más rápida al Mac

PyTorch 2.15 añade FP8 al backend MPS de Apple y un matmul agrupado nativo que hace que los modelos de mezcla de expertos decodifiquen de 5 a 6.5 veces más rápido que en 2.14: Qwen3.6-35B-A3B pasa de 9.4 a 61.3 tokens por segundo en un M3 Ultra. El softmax sobre el vocabulario es unas 8 veces más rápido, y la decodificación de vídeo de Wan2.2 alcanza un máximo de 8 GiB de memoria en lugar de 270 GiB.

A principios de 2026, ejecutar en un Mac incluso modelos pequeños con PyTorch obligaba a menudo a sortear operaciones que faltaban, frenazos repentinos y memoria que crecía sin aviso. PyTorch 2.15, con buena parte del trabajo para Apple hecho por el equipo de PyTorch de Hugging Face, cierra mucho de ese hueco. Para quien ejecuta modelos en local en Apple silicon con Transformers, Diffusers o herramientas como ComfyUI, es la versión para Mac con más consecuencias en bastante tiempo.

Lo principal es la velocidad en modelos de mezcla de expertos, que activan solo parte de sus pesos en cada token y se han convertido en el diseño habitual de los modelos abiertos capaces. Una multiplicación de matrices agrupada nativa con su propia vía de decodificación, y menos pausas mientras la GPU espera a la CPU, hacen que decodifiquen entre 5 y 6,5 veces más rápido que en la 2.14. En un M3 Ultra con torch.compile, Qwen3.6-35B-A3B pasa de 9,4 a 61,3 tokens por segundo y LFM2.5-8B-A1B de 23,6 a 123,6. Los modelos densos también ganan: las capas de decodificación usan ahora kernels específicos de matriz por vector, con una mejora media de 1,23 veces en 96 formas de capa reales, y el softmax sobre un vocabulario grande es unas 8 veces más rápido.

Otras correcciones importan tanto como la velocidad. Los tensores FP8 llegan al backend MPS de Apple, guardan los valores en la mitad de espacio que BF16 y se multiplican directamente en la GPU. Decodificar un vídeo con la VAE por mosaicos de Wan2.2 llevaba la memoria a unos 270 GiB; ahora el máximo ronda los 8 GiB. Y se corrige un fallo de relleno que en la 2.14 corrompía en silencio las imágenes al editar con Qwen-Image-2.1: un ciclo de codificación y decodificación coincide ahora con la CPU a 29,95 dB, frente a 10,06 dB.

Para los usuarios de Mac, esto reduce los motivos para dar el rodeo por MLX, el framework específico de Apple que también reseñamos, cuando un modelo ya funciona en PyTorch. Eso no hace innecesario MLX, pero el código escrito para PyTorch tiene ahora un camino mucho menos penoso para ir bien en un Mac.

Dos advertencias antes de actualizar. Los nuevos mínimos son macOS 15 y Python 3.11, lo que romperá configuraciones antiguas. Las cifras de velocidad son mediciones de Hugging Face, sobre todo en un M3 Ultra, lo más alto de la gama de Apple, así que en un portátil básico las mejoras serán menores en términos absolutos. La atención sigue pasando en parte por la capa MPSGraph, más antigua; la atención completamente en Metal se promete para la 2.16 y no está en esta versión.

Nuestra opinión: El Mac se está convirtiendo en un sitio serio para ejecutar modelos de PyTorch sin pasar por MLX. Antes de actualizar, ten en cuenta los nuevos mínimos: macOS 15 y Python 3.11.

Nuestras reseñas:PyTorchMLX

Fuente: Hugging Face

Más historias