Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Requisitos de GPU de MiniCPM-V 4.7 (35B-A3B and 1B): VRAM y GPU más barata

MiniCPM-V 4.7 (35B-A3B and 1B) tiene 35,2 mil M parámetros, publicados en BF16. Es un modelo de mezcla de expertos: 8 de sus 256 expertos trabajan en cada token, unos 3000 M parámetros, así que genera más o menos a la velocidad de un modelo de ese tamaño. Aun así, todos los expertos tienen que estar en la memoria de la GPU, por eso las cifras de memoria de abajo son las del modelo completo. Se publica con licencia apache-2.0, que permite el uso comercial.

Parámetros
35,2 mil M
Mínimo de memoria (INT4)
unos 22 GB
GPU más barata por hora (FP16)
0,50 US$
Tipo
Visión
  • Parámetros 35,2 mil M
  • Activos por token 3000 M
  • Tipo Visión
  • Tarea image-text-to-text
  • Contexto máximo 256K
  • Licencia apache-2.0
  • Descargas 876,3 mil
  • Me gusta 1,1 mil

Cálculo para MiniCPM-V 4.7 (35B-A3B and 1B)

Precisión
Uso
Más ajustes
Motor de inferencia
Peticiones simultáneas

MiniCPM-V 4.7 (35B-A3B and 1B) necesita unos 79 GB de memoria de GPU

Inferencia (vLLM), FP16 / BF16, contexto de 8K tokens, una petición a la vez.

En qué se va la memoria

  • Pesos 70 GB
  • Caché KV 0,17 GB
  • Sobrecarga del motor 8,1 GB
  • Total 79 GB

El número de GPU deja libre un 10 % de cada tarjeta para picos. Prevé más si esperas prompts largos o muchos usuarios a la vez.

GPU que caben, de la más barata a la más caraCada tipo de GPU que seguimos capaz de alojar esta configuración en un nodo, ordenado por coste total por hora
PuestoConfiguraciónPor GPU / hGPU necesariasTotal / hTotal / mes (24/7)Proveedor
11 × RTX PRO 6000 96GBMás barataBlackwell · GDDR70,50 US$10,50 US$365 US$RunPod (se abre en una pestaña nueva)1x RTX PRO 6000 MaxQ
24 × RTX 3090 24GBAmpere · GDDR6X0,24 US$40,96 US$702 US$Vast.ai (se abre en una pestaña nueva)4x RTX 3090 (median of 9 offers)
32 × A40 48GBAmpere · GDDR60,59 US$21,18 US$861 US$RunPod (se abre en una pestaña nueva)2x A40
42 × RTX A6000 48GBAmpere · GDDR60,69 US$21,38 US$1007 US$RunPod (se abre en una pestaña nueva)2x RTX A6000
52 × L40S 48GBAda Lovelace · GDDR60,80 US$21,60 US$1169 US$Vast.ai (se abre en una pestaña nueva)2x L40S (median of 6 offers)
61 × GH200 96GBHopper · HBM31,99 US$11,99 US$1453 US$Vultr (se abre en una pestaña nueva)vbm-72c-480gb-gh200-gpu (bare metal)
72 × RTX 6000 Ada 48GBAda Lovelace · GDDR61,09 US$22,18 US$1591 US$RunPod (se abre en una pestaña nueva)2x RTX 6000 Ada
84 × RTX 4090 24GBAda Lovelace · GDDR6X0,58 US$42,32 US$1696 US$Vast.ai (se abre en una pestaña nueva)4x RTX 4090 (median of 12 offers)
91 × MI300X 192GBCDNA 3 · HBM32,39 US$12,39 US$1745 US$RunPod (se abre en una pestaña nueva)1x MI300X
102 × A100 80GBAmpere · HBM2e1,20 US$22,40 US$1754 US$Vast.ai (se abre en una pestaña nueva)2x A100 SXM4 (median of 12 offers)
113 × A100 40GBAmpere · HBM20,62 US$3se vende con 4 GPU; necesitas 32,46 US$1799 US$Vast.ai (se abre en una pestaña nueva)4x A100 SXM4 (median of 5 offers)
124 × L4 24GBAda Lovelace · GDDR60,69 US$42,76 US$2015 US$RunPod (se abre en una pestaña nueva)4x L4
131 × H200 141GBHopper · HBM3e2,90 US$12,90 US$2117 US$Lium (se abre en una pestaña nueva)1x H200 NVL
141 × H100 NVL 94GBHopper · HBM33,19 US$13,19 US$2329 US$RunPod (se abre en una pestaña nueva)1x H100 NVL
153 × RTX 5090 32GBBlackwell · GDDR70,80 US$3se vende con 4 GPU; necesitas 33,20 US$2338 US$Vast.ai (se abre en una pestaña nueva)4x RTX 5090 (median of 35 offers)
162 × H100 80GBHopper · HBM32,14 US$24,27 US$3119 US$Vast.ai (se abre en una pestaña nueva)2x H100 SXM (median of 5 offers)
171 × B200 180GBBlackwell · HBM3e5,60 US$15,60 US$4088 US$Lium (se abre en una pestaña nueva)1x B200
184 × A10 24GBAmpere · GDDR61,42 US$45,67 US$4141 US$AWS (se abre en una pestaña nueva)g5.12xlarge
196 × V100 16GBVolta · HBM20,79 US$6se vende con 8 GPU; necesitas 66,32 US$4614 US$Lambda (se abre en una pestaña nueva)8x Tesla V100
206 × T4 16GBTuring · GDDR60,98 US$6se vende con 8 GPU; necesitas 67,82 US$5712 US$AWS (se abre en una pestaña nueva)g4dn.metal
211 × B300 288GBBlackwell Ultra · HBM3e8,00 US$18,00 US$5840 US$Lium (se abre en una pestaña nueva)1x B300 SXM6
221 × GB200 186GBBlackwell · HBM3e10,50 US$1se vende con 4 GPU; necesitas 142,00 US$30.660 US$CoreWeave (se abre en una pestaña nueva)GB200 NVL72
Coste por nubeOferta más barata que cabe, por proveedor. Aproximado, precios recogidos el 16 nov 2026.
ProveedorInstanciaPor GPU / hGPU necesariasTotal / hTotal / mes (24/7)
RunPod (se abre en una pestaña nueva)Más barata1x RTX PRO 6000 MaxQus0,50 US$1 × RTX PRO 6000 96GB unos 0,50 US$unos 365 US$
Vast.ai (se abre en una pestaña nueva)4x RTX 3090 (median of 9 offers)mercado mundial0,24 US$4 × RTX 3090 24GB unos 0,96 US$unos 702 US$
Lium (se abre en una pestaña nueva)1x RTX PRO 6000 Blackwell Server Editionmercado mundial1,19 US$1 × RTX PRO 6000 96GB unos 1,19 US$unos 869 US$
Nebius (se abre en una pestaña nueva)1x RTX PRO 6000 96GBeu/us1,80 US$1 × RTX PRO 6000 96GB unos 1,80 US$unos 1314 US$
Vultr (se abre en una pestaña nueva)vbm-72c-480gb-gh200-gpu (bare metal)us1,99 US$1 × GH200 96GB unos 1,99 US$unos 1453 US$
Lambda (se abre en una pestaña nueva)2x A6000us1,09 US$2 × RTX A6000 48GB unos 2,18 US$unos 1591 US$
AWS (se abre en una pestaña nueva)g7e.2xlargeus-east-13,36 US$1 × RTX PRO 6000 96GB unos 3,36 US$unos 2455 US$
Google Cloud (se abre en una pestaña nueva)g2-standard-48us-central11,00 US$4 × L4 24GB unos 4,00 US$unos 2921 US$
CoreWeave (se abre en una pestaña nueva)GH200us6,50 US$1 × GH200 96GB unos 6,50 US$unos 4745 US$
Azure (se abre en una pestaña nueva)NC40ads_H100_v5eastus6,98 US$1 × H100 NVL 94GB unos 6,98 US$unos 5095 US$

Precios recogidos el 16 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai y Lium son mundiales).

Memoria por precisión y uso

Con un contexto de 8K tokens y una petición a la vez. LoRA y el ajuste completo parten de pesos de 16 bits y QLoRA de 4 bits, así que las demás celdas quedan vacías.
PrecisiónInferenciaAjuste LoRAAjuste QLoRAAjuste completo
FP16 / BF1679 GB93 GB–623 GB
INT842 GB–––
INT422 GB–36 GB–

La GPU más barata por precisión

Inferencia con contexto de 8K y una petición a la vez.

FP16 / BF16

unos 79 GB · 8K tokens

Los pesos tal como se publican. Sin pérdidas, pero ocupa más.

1 × RTX PRO 6000 96GB

RunPod (se abre en una pestaña nueva) · 1x RTX PRO 6000 MaxQ

Por GPU / h
0,50 US$
GPU necesarias
1
Total / h
unos 0,50 US$
al mes, 24/7, aprox.
365 US$

INT8

unos 42 GB · 8K tokens

Pesos a la mitad de tamaño. En chat y RAG apenas se nota.

1 × RTX A6000 48GB

Lium (se abre en una pestaña nueva) · 1x RTX A6000

Por GPU / h
0,42 US$
GPU necesarias
1
Total / h
unos 0,42 US$
al mes, 24/7, aprox.
307 US$

INT4

unos 22 GB · 8K tokens

Pesos a una cuarta parte. Las pequeñas pérdidas aparecen antes en matemáticas y código.

1 × RTX 3090 24GB

Lium (se abre en una pestaña nueva) · 1x RTX 3090 Ti

Por GPU / h
0,16 US$
GPU necesarias
1
Total / h
unos 0,16 US$
al mes, 24/7, aprox.
117 US$

Inferencia frente a ajuste fino

  • Inferencia (FP16)

    1×

    de la memoria que pide la inferencia

    79 GB

    1 × RTX PRO 6000 96GB · unos 0,50 US$

  • Ajuste LoRA

    1,2×

    de la memoria que pide la inferencia

    93 GB

    3 × A40 48GB · unos 2,36 US$

  • Ajuste QLoRA

    0,5×

    de la memoria que pide la inferencia

    36 GB

    1 × RTX A6000 48GB · unos 0,42 US$

  • Ajuste completo

    7,9×

    de la memoria que pide la inferencia

    623 GB

    4 × MI300X 192GB · unos 9,56 US$

Para servirlo en FP16 basta con 1 × RTX PRO 6000 96GB (RunPod). LoRA necesita 3 × A40 48GB (RunPod), QLoRA 1 × RTX A6000 48GB (Lium) y un ajuste completo 4 × MI300X 192GB (RunPod). Entrenar guarda en memoria las activaciones y el estado del optimizador además de los pesos; por eso suele pedir más GPU que servir el mismo modelo.

¿Funciona en un Mac o en una sola RTX 4090?

RTX 4090 (24 GB)

Sí, en INT4 con contexto de 8K: unos 22 GB caben en los 24 GB de la tarjeta.

Mac con Apple silicon

Sí, con memoria suficiente. En INT4 necesita unos 22 GB, así que un Mac con 32 GB o más de memoria unificada (macOS deja a la GPU usar unas tres cuartas partes). La generación será más lenta que en una GPU de centro de datos.

¿Ejecutarlo tú o pagar por token?

Ejecutarlo tú

La configuración más barata que encontramos en FP16 es 1 × RTX PRO 6000 96GB en RunPod, unos 365 US$ al mes si funciona sin parar. Compensa con tráfico constante o si los datos deben quedarse en tus máquinas.

Usar una API alojada

Nuestra reseña de MiniCPM-V 4.7 (35B-A3B and 1B) explica dónde usarlo mediante una API y cuánto cuesta. Pagar por token suele salir más barato con tráfico ligero o irregular.

Lee nuestra reseña

Modelos parecidos

Modelos abiertos de tamaño parecido.

Calcular otro modelo

MiniCPM-V 4.7 (35B-A3B and 1B): preguntas frecuentes

¿Cuánta VRAM necesita MiniCPM-V 4.7 (35B-A3B and 1B)?

Unos 79 GB en FP16, 42 GB en INT8 y 22 GB en INT4, con contexto de 8K y una petición a la vez. Los contextos más largos y más peticiones en paralelo añaden caché KV.

¿Cuál es la GPU más barata para ejecutar MiniCPM-V 4.7 (35B-A3B and 1B)?

1 × RTX PRO 6000 96GB (unos 0,50 US$ por GPU / hora) en RunPod, por unos 0,50 US$ la hora para inferencia en FP16 / BF16 con contexto de 8K. Precios recogidos el 16 nov 2026; cambian a menudo.

¿Puedo hacer ajuste fino de MiniCPM-V 4.7 (35B-A3B and 1B) en una sola GPU?

Sí, con QLoRA: necesita unos 36 GB, que caben en una GPU de 80 GB. LoRA necesita unos 93 GB y un ajuste completo unos 623 GB.

¿Cómo se calculan estas cifras?

Los pesos son los parámetros por los bytes por parámetro (2 en FP16, 1 en INT8, 0,5 en INT4). La caché KV sale de las capas, las cabezas KV, el tamaño de cabeza y la longitud de contexto del modelo. Añadimos un 10 % más 1 GB para el motor y llenamos cada GPU hasta el 90 %. Los precios son de lista bajo demanda en regiones de EE. UU., tomados de la página pública de cada proveedor.

¿Funciona MiniCPM-V 4.7 (35B-A3B and 1B) en una GPU de consumo como la RTX 4090?

Sí, en INT4 con contexto de 8K: unos 22 GB caben en los 24 GB de la tarjeta.

¿Cabe MiniCPM-V 4.7 (35B-A3B and 1B) en una sola H100 de 80 GB?

Sí, en INT8, INT4 con contexto de 8K.

¿Cuántas GPU necesito para MiniCPM-V 4.7 (35B-A3B and 1B)?

En FP16 con contexto de 8K: 2 × 80 GB, 2 × 48 GB o 4 × 24 GB. En INT4 los pesos ocupan más o menos la cuarta parte.

¿Cuánta VRAM necesita MiniCPM-V 4.7 (35B-A3B and 1B) en INT8?

Unos 42 GB: 37 GB para los pesos, 0,17 GB para una caché KV de 8K y 4,7 GB de sobrecarga del motor.

¿Cuánto cuesta tener MiniCPM-V 4.7 (35B-A3B and 1B) funcionando 24/7 durante un mes?

Unos 365 US$ con la configuración más barata que encontramos (1 × RTX PRO 6000 96GB (unos 0,50 US$ por GPU / hora), 0,50 US$ la hora durante 730 horas). Lo más barato en AWS, Google Cloud o Azure ronda los 2455 US$ al mes.

FP16, INT8 o INT4: ¿cuál uso?

FP16 conserva toda la calidad y necesita más memoria (unos 79 GB aquí). INT8 reduce los pesos a la mitad con poca pérdida para la mayoría de usos de chat. INT4 (AWQ, GPTQ o GGUF Q4) los deja en una cuarta parte, unos 22 GB en total, con una pequeña pérdida de calidad que se nota sobre todo en matemáticas y código.

¿Funciona MiniCPM-V 4.7 (35B-A3B and 1B) en un Mac?

Sí, con memoria suficiente. En INT4 necesita unos 22 GB, así que un Mac con 32 GB o más de memoria unificada (macOS deja a la GPU usar unas tres cuartas partes). La generación será más lenta que en una GPU de centro de datos.

¿vLLM o llama.cpp?

vLLM está pensado para servir muchas peticiones a la vez en GPU de NVIDIA y AMD y reserva casi toda la memoria de la GPU para la caché KV. llama.cpp ejecuta archivos GGUF casi en cualquier equipo, incluidos Mac y CPU, y va bien para una persona o un equipo pequeño. Con la misma precisión, la memoria necesaria es parecida.

Precios recogidos el 16 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai y Lium son mundiales).

Cómo calculamos

  • Pesos. Parámetros por bytes por parámetro: 2 en FP16, 1 en INT8, 0,5 en INT4, más un 5 % aproximado para las escalas de cuantización en INT8 e INT4.
  • Caché KV. 2 × capas × cabezas KV × tamaño de cabeza × contexto × peticiones × 2 bytes, según el config.json del modelo. Si falta un dato, lo estimamos y lo indicamos.
  • Sobrecarga. Alrededor de un 10 % más 1 GB para el motor, en línea con lo que reserva vLLM.
  • Ajuste fino. LoRA mantiene los pesos en 16 bits y añade un adaptador pequeño, su optimizador y las activaciones. QLoRA hace lo mismo sobre pesos de 4 bits. Un ajuste completo necesita unos 16 bytes por parámetro con Adam en precisión mixta (pesos, gradientes y estados del optimizador), más las activaciones.
  • GPU. Llenamos cada GPU hasta el 90 % de su memoria y paramos en 8 por nodo. Los costes son precios de lista bajo demanda en regiones de EE. UU.; en las nubes tipo mercado mostramos la oferta mediana.