Durante años, ejecutar PyTorch en las TPU de Google obligaba a portar el código a PyTorch/XLA o a aprender JAX. TorchTPU, un backend nativo de PyTorch, elimina ese rodeo: una TPU pasa a ser un dispositivo más, como una GPU. Hugging Face dice que sus bibliotecas Transformers, Diffusers y Kernels ya funcionan directamente sobre él, así que cargar un modelo del Hub en una TPU requiere un solo ajuste.
La vía antigua tenía costes reales. PyTorch/XLA usaba tensores perezosos, de modo que el código no siempre se ejecutaba cuando uno esperaba, y pequeños cambios podían provocar nuevas compilaciones del grafo difíciles de depurar. Hugging Face creó Optimum TPU para suavizarlo; con TorchTPU ya no hace falta para Transformers ni Diffusers. El nuevo backend funciona en modo eager por defecto, admite torch.compile cuando se busca velocidad, gestiona el entrenamiento distribuido e incluye kernels escritos en Pallas, el lenguaje de kernels de bajo nivel de Google. Los modelos demasiado grandes para un chip pueden repartirse entre varios al cargarse. En un ejemplo, un kernel de mezcla de expertos de la biblioteca Tokamax hizo la decodificación 21,5 veces más rápida en Qwen3-30B-A3B y 12,8 veces más rápida en Gemma 4 26B-A4B con un tamaño de lote de 64.
Lo que más importa es el coste. Las TPU son chips propios de Google, diseñados para el cálculo matricial en el que las redes neuronales pasan su tiempo, y están disponibles en Google Cloud desde un solo chip hasta pods de miles. Los equipos que siguieron con GPU de Nvidia en parte por PyTorch pueden ahora valorar la capacidad TPU como alternativa real sin reescribir su código. Llega a la vez que un backend nativo similar para AWS Trainium, TorchNeuron, y que un acuerdo que lleva los modelos de OpenAI a Google Cloud, y juntos apuntan a un mercado menos centrado en Nvidia para herramientas que reseñamos, como PyTorch, Transformers y Diffusers.
No está terminado. Hugging Face dice que el 96,5% de las pruebas de Transformers que se ejecutan en TPU salen bien, que ha comunicado 34 problemas al proyecto TorchTPU hasta ahora y que las pruebas nocturnas aún se están montando. Las mejoras de velocidad citadas son para kernels concretos con un tamaño de lote grande, no comparaciones completas con configuraciones CUDA maduras. La pregunta pendiente para quien presupueste un cambio es cómo se comparan rendimiento y precio de las TPU con los de las GPU en sus propias cargas, y eso habrá que medirlo en lugar de suponerlo.