Qwen2.5 VL 3B Instruct GPU 요구 사항: VRAM과 가장 저렴한 GPU
Qwen2.5 VL 3B Instruct의 파라미터는 37.5억개이며 BF16로 공개되었습니다. 최대 125K토큰의 컨텍스트를 받습니다. 그 길이에서는 KV 캐시만으로 요청당 약 4.7 GB를 차지하므로, 긴 프롬프트는 필요한 GPU를 바꿀 수 있습니다.
- 파라미터
- 37.5억
- 최소 메모리(INT4)
- 약 3.5 GB
- 가장 저렴한 GPU 시간당 요금(FP16)
- US$0.16
- 유형
- 비전
Qwen/Qwen2.5-VL-3B-Instruct
- 파라미터 37.5억
- 유형 비전
- 작업 image-text-to-text
- 최대 컨텍스트 125K
- 다운로드 189.1만
- 좋아요 755