w2v bert 2.0 GPU 요구 사항: VRAM과 가장 저렴한 GPU
w2v bert 2.0의 파라미터는 5.8억개이며 FP32로 공개되었습니다. mit 라이선스로 공개되어 상업적 사용이 허용됩니다.
- 파라미터
- 5.8억
- 최소 메모리(INT4)
- 약 1.3 GB
- 가장 저렴한 GPU 시간당 요금(FP16)
- US$0.16
- 유형
- 임베딩
facebook/w2v-bert-2.0
- 파라미터 5.8억
- 유형 임베딩
- 작업 feature-extraction
- 라이선스 mit
- 다운로드 112.3만
- 좋아요 244
w2v bert 2.0 계산 결과
추가 설정
w2v bert 2.0에 필요한 GPU 메모리는 약 2.3 GB
추론(vLLM), FP16 / BF16, 컨텍스트 8K토큰, 동시 요청 1건.
메모리 구성
- 가중치 1.2 GB
- 런타임 오버헤드 1.1 GB
- 합계 2.3 GB
GPU 수는 순간적인 부하에 대비해 각 카드의 10%를 비워 두고 계산합니다. 긴 프롬프트나 많은 동시 사용자가 예상되면 여유를 더 두세요.
| 순위 | 구성 | GPU당 / 시간 | 필요한 GPU 수 | 합계 / 시간 | 합계 / 월(24시간 가동) | 제공업체 |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX 3090 24GB최저가Ampere · GDDR6X | US$0.16 | 1 | US$0.16 | US$117 | Lium (새 탭에서 열림)1x RTX 3090 Ti |
| 2 | 1 × RTX 4090 24GBAda Lovelace · GDDR6X | US$0.30 | 1 | US$0.30 | US$219 | Lium (새 탭에서 열림)1x RTX 4090 |
| 3 | 1 × RTX 5090 32GBBlackwell · GDDR7 | US$0.40 | 1 | US$0.40 | US$292 | Lium (새 탭에서 열림)1x RTX 5090 |
| 4 | 1 × RTX A6000 48GBAmpere · GDDR6 | US$0.42 | 1 | US$0.42 | US$307 | Lium (새 탭에서 열림)1x RTX A6000 |
| 5 | 1 × L4 24GBAda Lovelace · GDDR6 | US$0.45 | 1 | US$0.45 | US$326 | Vast.ai (새 탭에서 열림)1x L4 (median of 3 offers) |
| 6 | 1 × RTX PRO 6000 96GBBlackwell · GDDR7 | US$0.50 | 1 | US$0.50 | US$365 | RunPod (새 탭에서 열림)1x RTX PRO 6000 MaxQ |
| 7 | 1 × A40 48GBAmpere · GDDR6 | US$0.52 | 1 | US$0.52 | US$381 | Vast.ai (새 탭에서 열림)1x A40 (median of 5 offers) |
| 8 | 1 × T4 16GBTuring · GDDR6 | US$0.53 | 1 | US$0.53 | US$384 | AWS (새 탭에서 열림)g4dn.xlarge |
| 9 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | US$0.75 | 1 | US$0.75 | US$548 | Lium (새 탭에서 열림)1x RTX 6000 Ada Generation |
| 10 | 1 × L40S 48GBAda Lovelace · GDDR6 | US$0.80 | 1 | US$0.80 | US$585 | Vast.ai (새 탭에서 열림)1x L40S (median of 7 offers) |
| 11 | 1 × A100 40GBAmpere · HBM2 | US$0.80 | 1 | US$0.80 | US$586 | Vast.ai (새 탭에서 열림)1x A100 SXM4 (median of 15 offers) |
| 12 | 1 × A10 24GBAmpere · GDDR6 | US$1.01 | 1 | US$1.01 | US$734 | AWS (새 탭에서 열림)g5.xlarge |
| 13 | 1 × A100 80GBAmpere · HBM2e | US$1.12 | 1 | US$1.12 | US$820 | Vast.ai (새 탭에서 열림)1x A100 SXM4 (median of 16 offers) |
| 14 | 1 × H100 80GBHopper · HBM3 | US$1.39 | 1 | US$1.39 | US$1,015 | Lium (새 탭에서 열림)1x H100 80GB HBM3 |
| 15 | 1 × GH200 96GBHopper · HBM3 | US$1.99 | 1 | US$1.99 | US$1,453 | Vultr (새 탭에서 열림)vbm-72c-480gb-gh200-gpu (bare metal) |
| 16 | 1 × MI300X 192GBCDNA 3 · HBM3 | US$2.39 | 1 | US$2.39 | US$1,745 | RunPod (새 탭에서 열림)1x MI300X |
| 17 | 1 × H200 141GBHopper · HBM3e | US$2.90 | 1 | US$2.90 | US$2,117 | Lium (새 탭에서 열림)1x H200 NVL |
| 18 | 1 × V100 16GBVolta · HBM2 | US$3.06 | 1 | US$3.06 | US$2,234 | AWS (새 탭에서 열림)p3.2xlarge |
| 19 | 1 × H100 NVL 94GBHopper · HBM3 | US$3.19 | 1 | US$3.19 | US$2,329 | RunPod (새 탭에서 열림)1x H100 NVL |
| 20 | 1 × B200 180GBBlackwell · HBM3e | US$5.60 | 1 | US$5.60 | US$4,088 | Lium (새 탭에서 열림)1x B200 |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | US$8.00 | 1 | US$8.00 | US$5,840 | Lium (새 탭에서 열림)1x B300 SXM6 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | US$10.50 | 14개 단위로 판매; 필요한 수는 1개 | US$42.00 | US$30,660 | CoreWeave (새 탭에서 열림)GB200 NVL72 |
| 제공업체 | 인스턴스 | GPU당 / 시간 | 필요한 GPU 수 | 합계 / 시간 | 합계 / 월(24시간 가동) |
|---|---|---|---|---|---|
| Lium (새 탭에서 열림)최저가 | 1x RTX 3090 Ti전 세계 마켓플레이스 | US$0.16 | 1 × RTX 3090 24GB | 약 US$0.16 | 약 US$117 |
| Vast.ai (새 탭에서 열림) | 1x RTX 3090 (median of 32 offers)전 세계 마켓플레이스 | US$0.26 | 1 × RTX 3090 24GB | 약 US$0.26 | 약 US$186 |
| RunPod (새 탭에서 열림) | 1x RTX 3090 Tius | US$0.46 | 1 × RTX 3090 24GB | 약 US$0.46 | 약 US$336 |
| AWS (새 탭에서 열림) | g4dn.xlargeus-east-1 | US$0.53 | 1 × T4 16GB | 약 US$0.53 | 약 US$384 |
| Azure (새 탭에서 열림) | NC4as_T4_v3eastus | US$0.53 | 1 × T4 16GB | 약 US$0.53 | 약 US$384 |
| Google Cloud (새 탭에서 열림) | g2-standard-4us-central1 | US$0.71 | 1 × L4 24GB | 약 US$0.71 | 약 US$516 |
| Lambda (새 탭에서 열림) | 1x A6000us | US$1.09 | 1 × RTX A6000 48GB | 약 US$1.09 | 약 US$796 |
| Nebius (새 탭에서 열림) | 1x L40S 48GBeu/us | US$1.55 | 1 × L40S 48GB | 약 US$1.55 | 약 US$1,132 |
| Vultr (새 탭에서 열림) | vcg-l40s-16c-180g-48vramus | US$1.67 | 1 × L40S 48GB | 약 US$1.67 | 약 US$1,220 |
| CoreWeave (새 탭에서 열림) | GH200us | US$6.50 | 1 × GH200 96GB | 약 US$6.50 | 약 US$4,745 |
가격은 2026년 11월 16일 기준. 모든 비용은 대략적인 값입니다(온디맨드, 미국 달러, 주로 미국 리전. Vast.ai와 Lium 같은 마켓플레이스는 전 세계).
정밀도와 용도별 메모리
| 정밀도 | 추론 | LoRA 파인튜닝 | QLoRA 파인튜닝 |
|---|