2026년 11월의 AI 하드웨어: 책상에서 데이터센터까지

오픈 모델을 내 하드웨어에서 돌리고 싶다면 거의 모든 것을 메모리가 결정합니다. 어떤 모델이 아예 올라가는지를 정하고, 그 속도가 응답 속도를 정합니다. 이 가이드는 NVIDIA가 2026년 11월에 판매하거나 대여하는 것을 책상 위에 올라가는 상자부터 랙 전체까지 다룹니다. 각 머신은 저희가 리뷰한 모델에 비추어 가늠했습니다. 메모리 칩이 부족해 올해 가격이 크게 올랐으니, 사기 전에 여기 수치를 실시간 견적과 대조하십시오.

DGX Spark와 GB10 상자: 책상 위의 128 GB

DGX Spark는 NVIDIA의 GB10 칩으로 만든 미니 PC입니다. CPU와 GPU가 하나의 메모리 풀을 공유하고, Linux로 돌아갑니다. NVIDIA의 사양 페이지에 따르면 그 풀은 273 GB/s의 LPDDR5x 128 GB입니다. NVIDIA는 최대 1 페타플롭스의 FP4 연산을 내세우는데, 이는 희소성을 가정한 이론상 수치이며, 한 대로 최대 2,000억 매개변수 모델을 다룬다고 말합니다. Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI가 자체 GB10 버전을 판매합니다. 칩은 모두 같으므로 케이스, 저장 장치, 보증에 돈을 내는 셈입니다.

핵심은 가격입니다. Spark는 2025년 10월 $3,999에 출시되었습니다. NVIDIA는 2월에 메모리 공급을 이유로 $4,699로 올렸습니다. 10월에는 128 GB 모델이 $6,950이 되었는데, The Register에 따르면 1년 전보다 거의 75% 오른 가격입니다. ServeTheHome에 따르면 파트너사의 64 GB 버전이 10월 23일 $4,999에 판매를 시작했습니다. 200 Gbps 네트워크 포트는 그대로라서 최대 네 대를 연결할 수 있습니다.

자매 칩인 RTX Spark는 이제 Windows 노트북에 탑재되어 나옵니다. Tom’s Hardware에 따르면 10월 16일 $2,599부터 판매를 시작했지만, 그 가격으로는 24 GB를 삽니다. 128 GB 모델은 약 $5,100에서 $7,000입니다.

128 GB에 들어가는 것: gpt-oss-120b(4.0)는 Ollama에서 65 GB 다운로드입니다. 약 75 GB인 Nemotron 3.5 Super VL(4.1)의 4비트 빌드는 정확히 DGX Spark를 겨냥합니다. Qwen3.8-27B(4.5)와 Gemma 4(4.4)는 여유 있게 들어갑니다. 64 GB 모델은 생각보다 빠듯합니다. gpt-oss-120b는 더 이상 들어가지 않습니다. 48 GB가 필요한 Flint(3.9)는 여전히 들어갑니다.

DGX Station과 HP ZGX Fury: 책상 옆의 748 GB

DGX Station은 한 단계 위입니다. Blackwell Ultra GPU와 72코어 Grace CPU를 짝지은 GB300 칩으로 만든 책상 옆 타워입니다. NVIDIA는 두 칩이 모두 접근할 수 있는 748 GB 메모리를 두 계층으로 나열합니다. GPU 자체의 HBM3e 252 GB는 7.1 TB/s로 돌아갑니다. 나머지 496 GB는 CPU에 붙은 LPDDR5X로 396 GB/s입니다. NVIDIA는 최대 20 페타플롭스의 AI 연산을 내세웁니다. NVIDIA는 보드를 설계하지만 완성된 Station을 팔거나 가격을 공개하지 않습니다. ASUS, Dell, Exxact, GIGABYTE, HP, MSI, Supermicro가 머신을 만듭니다. Exxact 모델 하나는 $94,930에 올라왔습니다.

HP ZGX Fury G1n은 별도의 칩이 아니라 HP판 DGX Station입니다. HP의 제품 페이지와 QuickSpecs는 같은 GB300 칩과 748 GB 메모리에, 최대 20 페타플롭스의 FP4 연산과 두 대를 연결하는 400 Gb 네트워크 포트 두 개를 나열합니다. HP는 Fury 한 대로 FP4에서 최대 1조 매개변수 모델을 올릴 수 있다고 말합니다. Ubuntu 24.04가 설치되어 출고됩니다. Windows는 10월 7일 공개 시연되었지만, HP는 Windows 버전의 가격이나 출시일을 발표하지 않았습니다.

Linux 모델은 HP 영업팀을 통해 주문할 수 있으며, HP는 정가를 공개하지 않습니다. 수랭식이고 무게는 41 kg부터이며 1,600 W 전원 공급 장치를 갖췄습니다. HP는 200에서 240 V 전용 회로가 필요하다고 하니, 주문하기 전에 어디에 꽂을지 계획하십시오.

748 GB에 들어가는 것: 약 250 GB인 MiniMax-M3.1-Flash(4.0)와 NVFP4로 273 GiB인 Beam(3.8)입니다. GLM-5.3-Flash(4.3)의 FP8 웨이트는 약 330 GB, Muse Spark Open(4.0)의 NVFP4 웨이트는 약 537 GB인데, 모델 카드는 긴 대화를 담는 메모리까지 치면 700 GB를 권합니다. 모두 총량에는 들어가지만, 빠른 GPU 메모리에 놓이는 것은 처음 252 GB뿐입니다. 그보다 넘치는 부분은 더 느린 CPU 메모리 속도로 돌아갑니다.

데이터센터의 Grace Blackwell Ultra: GB300 NVL72와 B300

대부분의 팀은 이 계층을 사지 않고 빌립니다. GB300 NVL72는 Blackwell Ultra GPU 72개와 Grace CPU 36개를 하나의 시스템으로 묶은 수랭식 랙으로, HBM3E가 20 TB입니다. NVIDIA는 희소성 없이 1,080 페타플롭스의 FP4 연산을 내세우며 지금 구매 가능하다고 표시합니다. 더 흔한 단위는 HGX B300 서버로, GPU 8개에 총 2.1 TB 메모리를 갖췄고 NVIDIA는 출하 중이라고 말합니다.

시간 단위로 보면 B300 한 장은 Runpod의 가격표에 따라 커뮤니티 클라우드에서 $6.94, 보안 클라우드에서 $8.99입니다. Verda는 B300에 $11.35, GB300에 $13.05를 받습니다. 그러면 GPU 8개 서버는 시간당 대략 $55에서 $90입니다. 규모를 가늠하자면, Spark 한 대 값인 $6,950으로 Runpod의 가장 싼 B300을 약 1,000시간 쓸 수 있습니다.

가장 큰 오픈 모델에는 이 계층이 필요합니다. Kimi K3(4.3)는 1.56 TB 체크포인트이며, vLLM 레시피는 최소 GB300 GPU 8개를 요구합니다. Hy4 preview(4.2)는 FP8로 B300 8개에서 돌아갑니다. 약 753 GB인 GLM-5.3(4.4)과 약 865 GB인 DeepSeek-V4-Pro(4.3)도 GPU 8개 서버 한 대 전체가 필요합니다.

Vera Rubin: 출하 중이지만 소량으로는 살 수 없음

Vera Rubin은 Blackwell 다음 세대입니다. NVIDIA의 새 Rubin GPU를 자체 Vera CPU와 짝지었습니다. 주력 랙은 Vera Rubin NVL72로, ServeTheHome의 설명에 따르면 NVIDIA는 패키지마다 GPU 다이 두 개를 따로 세어 이전에는 NVL144라고 불렀습니다. NVIDIA의 페이지는 HBM4 288 GB를 단 Rubin GPU 72개, 랙당 20.7 TB를 나열합니다. 모델 실행에 3,600 페타플롭스, 학습에 2,520 페타플롭스의 FP4를 내세웁니다.

현황을 순서대로 정리합니다. 5월에 NVIDIA는 Vera Rubin이 본격 양산에 들어가고 있으며 가을부터 출하한다고 밝혔습니다. 8월 실적 발표에서는 CoreWeave, Google Cloud, Microsoft Azure, Oracle, Nebius에서 랙이 가동 중이라고 했습니다. Tom’s Hardware는 NVIDIA가 Rubin이 이번 분기 데이터센터 매출의 약 20%가 될 것으로 본다고 보도했습니다. CoreWeave는 9월 30일 제한적 제공을 시작했고, Oracle은 10월 27일 정식 제공을 발표했습니다. 저희가 확인한 가격표 어디에도 공개 시간당 요금은 없습니다.

NVIDIA가 긴 프롬프트를 읽기 위해 발표한 더 저렴한 칩인 Rubin CPX는 위의 NVIDIA 발표 어느 쪽에도 나오지 않습니다. Rubin Ultra도 마찬가지입니다. NVIDIA가 확인하기 전까지 이들에 대해 보이는 날짜는 모두 소문으로 여기십시오.

비교

시스템	메모리	FP4(업체 수치)	가격	상태
DGX Spark / GB10 상자	64 또는 128 GB 통합 메모리, 273 GB/s	최대 1 PF, 희소성 포함	$4,999(64 GB), $6,950(128 GB)	출하 중
DGX Station / HP ZGX Fury	748 GB(252 GB HBM3e + 496 GB LPDDR5X)	최대 20 PF	정가 없음, Exxact가 $94,930에 등록	파트너를 통해 주문 가능
HGX B300(GPU 8개)	2.1 TB HBM3e	밀집 108 PF	대여 시 GPU 시간당 $6.94에서 $11.35	출하 중
GB300 NVL72 랙	20 TB HBM3E	밀집 1,080 PF	영업팀 문의, Verda에서 GB300 GPU 시간당 $13.05	구매 가능
Vera Rubin NVL72 랙	20.7 TB HBM4(GPU당 288 GB)	모델 실행 3,600 PF	공개되지 않음	초기 클라우드 제공

NVIDIA 바깥

알아 둘 만한 대안이 두 가지 있습니다. AMD의 Ryzen AI Halo는 Ryzen AI Max+ 395에 128 GB 통합 메모리를 짝지어 최대 256 GB/s로 $3,999입니다. 메모리 크기와 속도가 Spark와 거의 같고 더 싸지만, NVIDIA의 CUDA 소프트웨어는 돌아가지 않습니다.

Apple의 M5 Ultra를 탑재한 Mac Studio는 1.2 TB/s로 최대 512 GB까지 올라가며, 이는 Spark 메모리 속도의 네 배가 넘습니다. 512 GB 구성은 최소 $22,299입니다. 214 GB인 Qwen3.5-397B(3.6)의 4비트 빌드를 여유 있게 담을 수 있습니다.

주의할 점: 표의 FP4 수치는 NVIDIA 자체의 최대치로, 어떤 것은 희소성을 포함하고 어떤 것은 포함하지 않으므로 모델이 실제로 얼마나 빨리 답할지에 대한 지침이 되지 못합니다. 책상 위에서 모델을 돌릴 때는 대개 메모리 속도가 더 중요하며, Spark의 273 GB/s는 이 목록에서 가장 느립니다. 소프트웨어가 또 다른 한계입니다. 모델의 4비트 NVFP4 빌드에는 Blackwell 세대 GPU가 필요합니다. vLLM(4.7)과 SGLang(4.4)은 대형 모델 가이드가 전제하는 서버입니다. llama.cpp(4.8)와 Ollama(4.6)는 Spark, Halo, Mac에서 쉬운 길이고, MLX(4.4)는 Mac의 기본 선택입니다.

결론: 연산 수치를 보기 전에 모델에 메모리가 얼마나 필요한지부터 계산하십시오. 약 100 GB 미만이라면 128 GB Spark나 Halo로 돌릴 수 있습니다. 빠르지는 않을 수 있습니다. 대략 200에서 500 GB 사이라면 Mac Studio나 DGX Station이 책상 하나에 담을 수 있지만, 자동차나 작은 집 한 채 값이 듭니다. 그보다 크면 대여해야 하며, GPU 시간당 $10 미만이라면 B300 몇백 시간이 $95,000짜리 타워보다 더 많은 것을 알려 줄 것입니다.