TPU
Una TPU (tensor processing unit, unidad de procesamiento tensorial) es el chip propio de Google para machine learning, construido en torno a grandes unidades de multiplicación de matrices y memoria de gran ancho de banda. Google ofrece las TPU a otras empresas como servicio de alquiler en Google Cloud.
También llamado: tensor processing unit, Cloud TPU
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
La mayor parte del trabajo de IA se ejecuta en GPU, que nacieron como chips gráficos. Google diseñó la TPU como un chip de aplicación específica que hace un solo trabajo: el cálculo matricial que está en el centro de las redes neuronales. Su núcleo es una unidad matricial construida como systolic array, una cuadrícula de celdas de multiplicación y suma que pasan datos a sus vecinas, junto con memoria de gran ancho de banda en el propio chip.
Cómo se usa
No puedes comprar una TPU de centro de datos. La alquilas en Google Cloud, ya sea como máquinas individuales o como "slices" de muchos chips unidos por una interconexión rápida para grandes entrenamientos. El código se compila para la TPU con el compilador XLA, al que pueden apuntar JAX, PyTorch (mediante PyTorch/XLA) y TensorFlow.
Por qué importa
Las TPU son una de las pocas alternativas a gran escala al hardware de NVIDIA. Para un desarrollador, son una opción cuando escasean las GPU o cuando el precio de las TPU encaja con una carga de trabajo, sobre todo para equipos que ya trabajan con JAX.
TPU frente a GPU y NPU
Una GPU es un procesador paralelo de uso general con un enorme ecosistema de software construido en torno a CUDA. Una TPU es más específica y está ligada a Google Cloud y a XLA, así que algunas bibliotecas y kernels personalizados escritos para GPU no funcionarán en ella sin trabajo adicional. Una NPU es el equivalente pequeño y de bajo consumo que se encuentra en teléfonos y portátiles para la inferencia en el dispositivo.
Límites
La depuración y el ajuste de rendimiento siguen reglas distintas a las de las GPU, y el soporte de modelos es más limitado en algunas herramientas de código abierto. Comprueba que tu framework y tu modelo funcionan en TPU antes de decidir.
Términos relacionados
- GPU
- Una GPU (unidad de procesamiento gráfico) es un procesador con muchos núcleos pequeños diseñado para ejecutar muchos cálculos en paralelo. Su velocidad con las operaciones de matrices la convierte en el hardware estándar para entrenar y ejecutar modelos de IA.
- NPU
- Una NPU (neural processing unit, unidad de procesamiento neuronal) es un chip, o un bloque dentro de un chip mayor, diseñado para ejecutar los cálculos de redes neuronales rápido y con poco consumo. Los teléfonos y portátiles usan NPU para ejecutar pequeños modelos de IA en el propio dispositivo.
- Nube de GPU
- Una nube de GPU (GPU cloud) es un servicio que alquila máquinas con GPU por horas o por segundos para entrenamiento, fine-tuning e inferencia de IA. Los proveedores especializados, a veces llamados neoclouds, se centran en las GPU y a menudo cobran menos que las grandes nubes generalistas.
- Serving de modelos
- El serving de modelos (model serving) consiste en ejecutar un modelo entrenado como un servicio al que las aplicaciones llaman por la red, con software que carga los pesos en las GPU, pone en cola y agrupa las peticiones, gestiona la memoria y devuelve los resultados.
- Inferencia
- La inferencia (inference) es ejecutar un modelo ya entrenado para producir una salida a partir de una entrada nueva, como un LLM que genera una respuesta a un prompt. Es la fase que los usuarios pagan cada vez que llaman a un modelo, a diferencia del entrenamiento.