Precisión numérica (FP16, BF16, FP8)
La precisión numérica es el formato de número que se usa para guardar los pesos de un modelo y hacer sus cálculos, como FP32, FP16, BF16, FP8 o INT4. Menos bits por número significa menos memoria e inferencia más rápida, con cierto riesgo para la precisión de los resultados.
También llamado: FP8, BF16, FP16, FP4, INT8, INT4, FP32, bfloat16
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
Cada peso de un modelo es un número, y el formato de ese número decide cuánta memoria ocupa el modelo. Un formato de 16 bits usa dos bytes por peso, uno de 8 bits un byte y uno de 4 bits medio byte. Por eso la precisión es lo primero que hay que mirar cuando calculas si un modelo cabe en tu VRAM; la calculadora de GPU hace esta cuenta por ti.
Los formatos habituales
FP32 es la precisión simple completa, usada sobre todo en entrenamiento. FP16 reduce el tamaño a la mitad pero tiene un rango estrecho, así que valores muy grandes o muy pequeños pueden desbordarse. BF16 (bfloat16, diseñado en Google) conserva los mismos 8 bits de exponente que FP32 y elimina bits de mantisa, de modo que tiene el rango de FP32 con menos detalle. Por eso es el formato por defecto habitual para entrenar y servir modelos modernos.
FP8 baja a un byte. El estándar FP8 define dos variantes: E4M3, con más precisión, y E5M2, con más rango. Las GPU recientes para centros de datos ejecutan FP8 de forma nativa. Los formatos FP4 van más allá en el hardware más nuevo.
INT8 e INT4 son formatos enteros. Los pesos se asignan a un pequeño conjunto de números enteros más un factor de escala. Esto es lo que suele significar cuantización en la práctica, y es lo que guardan archivos como GGUF para uso local.
Contrapartidas
Una precisión menor ahorra memoria y a menudo aumenta los tokens por segundo, pero cada escalón hacia abajo pierde algo de información. El efecto depende del modelo y del método: 8 bits suele quedar cerca del original, mientras que 4 bits o menos puede perjudicar el razonamiento o las tareas de contexto largo. El soporte del hardware también cuenta; un formato que tu GPU no puede calcular de forma nativa puede convertirse sobre la marcha y aportar poca mejora de velocidad.
Términos relacionados
- Cuantización
- La cuantización (quantization) es una técnica que guarda los pesos de un modelo, y a veces las activaciones, con menos bits, como 8 o 4 en lugar de 16, para que el modelo necesite menos memoria y a menudo funcione más rápido, a costa de cierta precisión.
- VRAM
- La VRAM es la memoria de una tarjeta gráfica. En el trabajo con IA contiene los pesos del modelo, la KV cache y los datos de trabajo, y que un modelo quepa o no en la VRAM suele decidir qué GPU necesitas para ejecutarlo.
- GGUF
- GGUF es un formato de archivo binario que guarda en un solo archivo los pesos, el tokenizador y los metadatos de un modelo, pensado para una carga rápida y para la inferencia local con herramientas basadas en GGML como llama.cpp, a menudo en forma cuantizada.
- Pesos del modelo
- Los pesos del modelo (model weights) son los números aprendidos dentro de una red neuronal, fijados durante el entrenamiento, que deciden cómo convierte la entrada en salida. Un checkpoint es un archivo o conjunto de archivos guardado que contiene esos pesos.
- GPU
- Una GPU (unidad de procesamiento gráfico) es un procesador con muchos núcleos pequeños diseñado para ejecutar muchos cálculos en paralelo. Su velocidad con las operaciones de matrices la convierte en el hardware estándar para entrenar y ejecutar modelos de IA.