Requisitos de GPU de multilingual e5 large instruct: VRAM y GPU más barata
multilingual e5 large instruct tiene 559,9 M parámetros, publicados en FP16. Se publica con licencia mit, que permite el uso comercial.
- Parámetros
- 559,9 M
- Mínimo de memoria (INT4)
- unos 1,3 GB
- GPU más barata por hora (FP16)
- 0,16 US$
- Tipo
- Embeddings
intfloat/multilingual-e5-large-instruct
- Parámetros 559,9 M
- Tipo Embeddings
- Tarea feature-extraction
- Contexto máximo 514
- Licencia mit
- Descargas 1,8 M
- Me gusta 660
Cálculo para multilingual e5 large instruct
Más ajustes
multilingual e5 large instruct necesita unos 2,2 GB de memoria de GPU
Inferencia (vLLM), FP16 / BF16, contexto de 514 tokens, una petición a la vez.
En qué se va la memoria
- Pesos 1,1 GB
- Sobrecarga del motor 1,1 GB
- Total 2,2 GB
El número de GPU deja libre un 10 % de cada tarjeta para picos. Prevé más si esperas prompts largos o muchos usuarios a la vez.
| Puesto | Configuración | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) | Proveedor |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX 3090 24GBMás barataAmpere · GDDR6X | 0,16 US$ | 1 | 0,16 US$ | 117 US$ | Lium (se abre en una pestaña nueva)1x RTX 3090 Ti |
| 2 | 1 × RTX 4090 24GBAda Lovelace · GDDR6X | 0,30 US$ | 1 | 0,30 US$ | 219 US$ | Lium (se abre en una pestaña nueva)1x RTX 4090 |
| 3 | 1 × RTX 5090 32GBBlackwell · GDDR7 | 0,40 US$ | 1 | 0,40 US$ | 292 US$ | Lium (se abre en una pestaña nueva)1x RTX 5090 |
| 4 | 1 × RTX A6000 48GBAmpere · GDDR6 | 0,42 US$ | 1 | 0,42 US$ | 307 US$ | Lium (se abre en una pestaña nueva)1x RTX A6000 |
| 5 | 1 × L4 24GBAda Lovelace · GDDR6 | 0,45 US$ | 1 | 0,45 US$ | 326 US$ | Vast.ai (se abre en una pestaña nueva)1x L4 (median of 3 offers) |
| 6 | 1 × RTX PRO 6000 96GBBlackwell · GDDR7 | 0,50 US$ | 1 | 0,50 US$ | 365 US$ | RunPod (se abre en una pestaña nueva)1x RTX PRO 6000 MaxQ |
| 7 | 1 × A40 48GBAmpere · GDDR6 | 0,52 US$ | 1 | 0,52 US$ | 381 US$ | Vast.ai (se abre en una pestaña nueva)1x A40 (median of 5 offers) |
| 8 | 1 × T4 16GBTuring · GDDR6 | 0,53 US$ | 1 | 0,53 US$ | 384 US$ | AWS (se abre en una pestaña nueva)g4dn.xlarge |
| 9 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | 0,75 US$ | 1 | 0,75 US$ | 548 US$ | Lium (se abre en una pestaña nueva)1x RTX 6000 Ada Generation |
| 10 | 1 × L40S 48GBAda Lovelace · GDDR6 | 0,80 US$ | 1 | 0,80 US$ | 585 US$ | Vast.ai (se abre en una pestaña nueva)1x L40S (median of 7 offers) |
| 11 | 1 × A100 40GBAmpere · HBM2 | 0,80 US$ | 1 | 0,80 US$ | 586 US$ | Vast.ai (se abre en una pestaña nueva)1x A100 SXM4 (median of 15 offers) |
| 12 | 1 × A10 24GBAmpere · GDDR6 | 1,01 US$ | 1 | 1,01 US$ | 734 US$ | AWS (se abre en una pestaña nueva)g5.xlarge |
| 13 | 1 × A100 80GBAmpere · HBM2e | 1,12 US$ | 1 | 1,12 US$ | 820 US$ | Vast.ai (se abre en una pestaña nueva)1x A100 SXM4 (median of 16 offers) |
| 14 | 1 × H100 80GBHopper · HBM3 | 1,39 US$ | 1 | 1,39 US$ | 1015 US$ | Lium (se abre en una pestaña nueva)1x H100 80GB HBM3 |
| 15 | 1 × GH200 96GBHopper · HBM3 | 1,99 US$ | 1 | 1,99 US$ | 1453 US$ | Vultr (se abre en una pestaña nueva)vbm-72c-480gb-gh200-gpu (bare metal) |
| 16 | 1 × MI300X 192GBCDNA 3 · HBM3 | 2,39 US$ | 1 | 2,39 US$ | 1745 US$ | RunPod (se abre en una pestaña nueva)1x MI300X |
| 17 | 1 × H200 141GBHopper · HBM3e | 2,90 US$ | 1 | 2,90 US$ | 2117 US$ | Lium (se abre en una pestaña nueva)1x H200 NVL |
| 18 | 1 × V100 16GBVolta · HBM2 | 3,06 US$ | 1 | 3,06 US$ | 2234 US$ | AWS (se abre en una pestaña nueva)p3.2xlarge |
| 19 | 1 × H100 NVL 94GBHopper · HBM3 | 3,19 US$ | 1 | 3,19 US$ | 2329 US$ | RunPod (se abre en una pestaña nueva)1x H100 NVL |
| 20 | 1 × B200 180GBBlackwell · HBM3e | 5,60 US$ | 1 | 5,60 US$ | 4088 US$ | Lium (se abre en una pestaña nueva)1x B200 |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | 8,00 US$ | 1 | 8,00 US$ | 5840 US$ | Lium (se abre en una pestaña nueva)1x B300 SXM6 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | 10,50 US$ | 1se vende con 4 GPU; necesitas 1 | 42,00 US$ | 30.660 US$ | CoreWeave (se abre en una pestaña nueva)GB200 NVL72 |
| Proveedor | Instancia | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) |
|---|---|---|---|---|---|
| Lium (se abre en una pestaña nueva)Más barata | 1x RTX 3090 Timercado mundial | 0,16 US$ | 1 × RTX 3090 24GB | unos 0,16 US$ | unos 117 US$ |
| Vast.ai (se abre en una pestaña nueva) | 1x RTX 3090 (median of 32 offers)mercado mundial | 0,26 US$ | 1 × RTX 3090 24GB | unos 0,26 US$ | unos 186 US$ |
| RunPod (se abre en una pestaña nueva) | 1x RTX 3090 Tius | 0,46 US$ | 1 × RTX 3090 24GB | unos 0,46 US$ | unos 336 US$ |
| AWS (se abre en una pestaña nueva) | g4dn.xlargeus-east-1 | 0,53 US$ | 1 × T4 16GB | unos 0,53 US$ | unos 384 US$ |
| Azure (se abre en una pestaña nueva) | NC4as_T4_v3eastus | 0,53 US$ | 1 × T4 16GB | unos 0,53 US$ | unos 384 US$ |
| Google Cloud (se abre en una pestaña nueva) | g2-standard-4us-central1 | 0,71 US$ | 1 × L4 24GB | unos 0,71 US$ | unos 516 US$ |
| Lambda (se abre en una pestaña nueva) | 1x A6000us | 1,09 US$ | 1 × RTX A6000 48GB | unos 1,09 US$ | unos 796 US$ |
| Nebius (se abre en una pestaña nueva) | 1x L40S 48GBeu/us | 1,55 US$ | 1 × L40S 48GB | unos 1,55 US$ | unos 1132 US$ |
| Vultr (se abre en una pestaña nueva) | vcg-l40s-16c-180g-48vramus | 1,67 US$ | 1 × L40S 48GB | unos 1,67 US$ | unos 1220 US$ |
| CoreWeave (se abre en una pestaña nueva) | GH200us | 6,50 US$ | 1 × GH200 96GB | unos 6,50 US$ | unos 4745 US$ |
Precios recogidos el 16 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai y Lium son mundiales).
Memoria por precisión y uso
| Precisión | Inferencia | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 2,2 GB | 2,5 GB | – | 11 GB |
| INT8 | 1,6 GB | – | – | – |
| INT4 | 1,3 GB |