Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Precisión numérica (FP16, BF16, FP8)

La precisión numérica es el formato de número que se usa para guardar los pesos de un modelo y hacer sus cálculos, como FP32, FP16, BF16, FP8 o INT4. Menos bits por número significa menos memoria e inferencia más rápida, con cierto riesgo para la precisión de los resultados.

También llamado: FP8, BF16, FP16, FP4, INT8, INT4, FP32, bfloat16

Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas

Cada peso de un modelo es un número, y el formato de ese número decide cuánta memoria ocupa el modelo. Un formato de 16 bits usa dos bytes por peso, uno de 8 bits un byte y uno de 4 bits medio byte. Por eso la precisión es lo primero que hay que mirar cuando calculas si un modelo cabe en tu VRAM; la calculadora de GPU hace esta cuenta por ti.

Los formatos habituales

FP32 es la precisión simple completa, usada sobre todo en entrenamiento. FP16 reduce el tamaño a la mitad pero tiene un rango estrecho, así que valores muy grandes o muy pequeños pueden desbordarse. BF16 (bfloat16, diseñado en Google) conserva los mismos 8 bits de exponente que FP32 y elimina bits de mantisa, de modo que tiene el rango de FP32 con menos detalle. Por eso es el formato por defecto habitual para entrenar y servir modelos modernos.

FP8 baja a un byte. El estándar FP8 define dos variantes: E4M3, con más precisión, y E5M2, con más rango. Las GPU recientes para centros de datos ejecutan FP8 de forma nativa. Los formatos FP4 van más allá en el hardware más nuevo.

INT8 e INT4 son formatos enteros. Los pesos se asignan a un pequeño conjunto de números enteros más un factor de escala. Esto es lo que suele significar cuantización en la práctica, y es lo que guardan archivos como GGUF para uso local.

Contrapartidas

Una precisión menor ahorra memoria y a menudo aumenta los tokens por segundo, pero cada escalón hacia abajo pierde algo de información. El efecto depende del modelo y del método: 8 bits suele quedar cerca del original, mientras que 4 bits o menos puede perjudicar el razonamiento o las tareas de contexto largo. El soporte del hardware también cuenta; un formato que tu GPU no puede calcular de forma nativa puede convertirse sobre la marcha y aportar poca mejora de velocidad.

Términos relacionados

Cuantización
La cuantización (quantization) es una técnica que guarda los pesos de un modelo, y a veces las activaciones, con menos bits, como 8 o 4 en lugar de 16, para que el modelo necesite menos memoria y a menudo funcione más rápido, a costa de cierta precisión.
VRAM
La VRAM es la memoria de una tarjeta gráfica. En el trabajo con IA contiene los pesos del modelo, la KV cache y los datos de trabajo, y que un modelo quepa o no en la VRAM suele decidir qué GPU necesitas para ejecutarlo.
GGUF
GGUF es un formato de archivo binario que guarda en un solo archivo los pesos, el tokenizador y los metadatos de un modelo, pensado para una carga rápida y para la inferencia local con herramientas basadas en GGML como llama.cpp, a menudo en forma cuantizada.
Pesos del modelo
Los pesos del modelo (model weights) son los números aprendidos dentro de una red neuronal, fijados durante el entrenamiento, que deciden cómo convierte la entrada en salida. Un checkpoint es un archivo o conjunto de archivos guardado que contiene esos pesos.
GPU
Una GPU (unidad de procesamiento gráfico) es un procesador con muchos núcleos pequeños diseñado para ejecutar muchos cálculos en paralelo. Su velocidad con las operaciones de matrices la convierte en el hardware estándar para entrenar y ejecutar modelos de IA.

Fuentes