Los chips Trainium de Amazon llevan tiempo siendo, sobre el papel, un sitio más barato para entrenar modelos y, en la práctica, uno incómodo, porque había que adaptar el código de PyTorch para ejecutarlo en ellos. TorchNeuron, un backend nativo de PyTorch para Trainium, pretende eliminar esa fricción. Entró en beta pública el 20 de octubre de 2026, se instala con pip install torch-neuronx y, según Hugging Face, Transformers, Diffusers, Accelerate, PEFT y TRL ya funcionan directamente sobre él.
Hasta ahora, la vía de Hugging Face hacia Trainium e Inferentia, los chips de entrenamiento e inferencia de AWS, pasaba por Optimum Neuron, basado en un paquete de PyTorch/XLA. Eso obligaba a pensar como un compilador: tensores perezosos en lugar de ejecución inmediata, solo formas estáticas y una recompilación cada vez que cambiaba el grafo. TorchNeuron presenta el chip como un dispositivo neuron normal, con ejecución eager, torch.compile y las herramientas distribuidas propias de PyTorch, como FSDP2 y DTensor. Hugging Face recomienda ahora usar sus bibliotecas directamente en lugar de pasar por Optimum Neuron.
Las cifras de cobertura son lo útil. Con TorchNeuron funcionan de entrada el 89% de las 100 arquitecturas de generación de texto más usadas, frente al 46% con Optimum Neuron v0.4.5. El ajuste fino usa un script estándar de TRL con unos pocos ajustes específicos de Neuron, y el punto de control resultante es un archivo normal de Transformers que puede subirse al Hub y cargarse en cualquier hardware. En el ejemplo detallado, 32 procesos en una instancia reparten cada modelo entre cuatro núcleos con paralelismo de tensores y distribuyen el resto con FSDP. En Diffusers, modelos de imagen como FLUX.1-dev, FLUX.2 y Qwen-Image-2.1 admiten también paralelismo de tensores, y se pueden escribir kernels propios con la Neuron Kernel Interface de AWS y compartirlos en el Hub.
Junto con TorchTPU para los chips de Google la misma semana, es un cambio notable para quien calcule el coste de entrenar fuera de Nvidia. Ambos backends hacen que los aceleradores alternativos parezcan un dispositivo más de PyTorch para las bibliotecas que reseñamos, entre ellas PyTorch y Transformers, lo que abarata probarlos.
Es una beta, y se notan las asperezas. Las formas aún deben mantenerse estáticas para evitar recompilaciones, así que los scripts de entrenamiento desactivan las formas dinámicas automáticas y rellenan los lotes; la carga asíncrona de pesos de Transformers todavía no funciona; y una cobertura del 89% significa que algunas arquitecturas populares siguen sin funcionar. El artículo no da comparaciones de velocidad ni de coste con GPU, que es la cifra que necesitará la mayoría de equipos. Conviene probar una carga representativa antes de planear un cambio.