Nemotron 3 Ultra의 개요
Nemotron 3 Ultra는 NVIDIA의 가장 큰 오픈 언어 모델이자 미국 기업의 가장 큰 오픈 가중치 공개로, 2026년 6월 4일 Hugging Face에 올라왔습니다. 파라미터 5,500억 개 중 토큰당 550억 개가 활성화되는 mixture-of-experts 모델로, Mamba-2 층(긴 시퀀스를 위한 어텐션의 빠른 대안)과 소수의 어텐션 층을 섞고 더 빠른 출력을 위해 다중 토큰 예측을 더했습니다. 4비트 NVFP4 정밀도로 사전 학습했고, 최대 100만 토큰 컨텍스트를 받으며, 추론은 켜고 끌 수 있습니다. 10개 언어로 텍스트를 읽고 씁니다.
가중치는 상업적 사용을 허용하는 OpenMDW-1.1이며, NVIDIA는 사전 학습과 사후 학습 데이터셋과 레시피도 공개합니다. BF16 체크포인트에는 B200, GB200, H200 중 8개 또는 H100 16개가 필요하고, NVFP4 버전은 Blackwell용입니다. Hugging Face에서 BF16 저장소는 좋아요 383개, 최근 30일 다운로드 1,122,228회를 기록했습니다.
OpenRouter에서는 DeepInfra가 입력 100만 토큰당 $0.40, 출력 100만 토큰당 $1.76부터 제공하며 $0.50/$2.20 등급도 있고, Baseten은 $0.60/$2.40, Venice는 $0.625/$3.125입니다.
Nemotron 3 Ultra의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | OpenMDW-1.1, 학습 데이터 공개 |
| DeepInfra | $0.40 in / $1.76 out per 1M tokens | $0.50/$2.20 엔드포인트도 있음 |
| Baseten | $0.60 in / $2.40 out per 1M tokens | |
| Venice | $0.625 in / $3.125 out per 1M tokens |
OpenMDW-1.1 무료 가중치. OpenRouter 기준 입력/출력 100만 토큰당 DeepInfra $0.40/$1.76 또는 $0.50/$2.20, Baseten $0.60/$2.40, Venice $0.625/$3.125.
Nemotron 3 Ultra, 쓸 만한 가치가 있습니까?
Nemotron 3 Ultra는 추론과 에이전트 작업에 유능한 모델이며, 진짜 강점은 개방성입니다. 출시 때 Artificial Analysis는 Intelligence Index v4.0에서 47.7점을 주어 Gemma 4 31B(39.2)와 gpt-oss-120b(33.3)를 앞서 미국 오픈 모델 1위가 되었지만, Kimi K2.6(53.9)에는 뒤졌습니다. NVIDIA는 학습 데이터와 레시피도 공개하므로 무엇이 들어갔는지 확인할 수 있습니다.
가장 좋은 점은 속도와 절제입니다. Artificial Analysis는 출시 전 배포에서 초당 400개가 넘는 출력 토큰을 측정했는데, 이는 크기가 4배 넘게 큰데도 gpt-oss-120b보다 빠른 것이며, 비환각 테스트에서는 71%를 기록했습니다. 답을 지어내기보다 거절하는 경향이 있다는 뜻입니다. NVIDIA 자체 표에서는 OmniScience 비환각 78.7(DeepSeek-V4-Pro는 5.7), 100만 토큰 RULER 94.7입니다.
주의할 점: 최고의 코딩 모델도, 최고의 지식 모델도 아닙니다. NVIDIA는 Terminal-Bench 2.1에 서 56.4(Kimi K2.6은 67.2), Humanity's Last Exam에서 26.7(DeepSeek-V4-Pro는 37.7)을 보고했으며, Poolside의 118B 모델 Laguna S 2.1은 같은 Terminal-Bench에서 70.2입니다. 호스팅 컨텍스트는 모델이 지원하는 100만보다 작아, DeepInfra에서 262,144토큰에 출력 16,384토큰입니다.
결론: Nemotron 3 Ultra는 감사 담당자가 모델의 출처를 물을 때 찾게 되는 모델입니다. 순수한 가성비로는 GLM-5.3과 Kimi K3가 여전히 앞서지만, 둘 다 학습 데이터를 함께 주지는 않습니다.
제 역할을 하는 곳
모델 출처 규정이 있는 미국 의료·국방 공급업체
학습 데이터를 감사할 수 있는 최첨단급 오픈 모델 도입하기
NVFP4 가중치를 Blackwell GPU 8개에 직접 호스팅하고, NVIDIA가 공개한 사전 학습·사후 학습 데이터셋을 검토자에게 넘깁니다. OpenMDW-1.1은 상업적 사용을 허용합니다.
긴 보고서에 대한 애널리스트 질문에 답하는 리서치 데스크
문서에 사실이 없으면 없다고 말하는 답변 얻기
검색과 함께 DeepInfra에서 $0.50/$2.20로 호출합니다. 환각률이 낮아 이 작업에 맞으며, 입력 100K, 출력 2K 토큰 질문 1,000건이 약 $54입니다.
도입 전 확인할 점
- 설정
- OpenRouter, DeepInfra, Baseten, Venice에서 nvidia/nemotron-3-ultra-550b-a55b를 호출하거나 BF16 또는 NVFP4 가중치를 내려받습니다. 추론은 채팅 템플릿의 enable_thinking으로 켜고 끕니다.
- 연동
- OpenAI 호환 API. vLLM, SGLang, TensorRT-LLM. NVIDIA의 NeMo Evaluator 레시피로 벤치마크 수치를 재현할 수 있습니다.
- 데이터와 개인정보
- 오픈 가중치와 공개 학습 데이터셋. 사전 학습 데이터는 2025년 9월까지, 사후 학습 데이터는 2026년 5월까지입니다. 직접 호스팅하면 프롬프트가 사내에 남으며, OpenRouter는 EU 역내 라우팅을 지원하지 않는다고 밝힙니다.
- 대규모 사용 시 비용
- DeepInfra에서 100만 토큰당 $0.40/$1.76부터. BF16을 직접 호스팅하려면 B200, GB200, H200 중 8개 또는 H100 16개가 필요합니다.
- 제한
- 모델 자체는 최대 100만 토큰 컨텍스트. 호스팅 엔드포인트는 202,800~262,144토큰을 제공하며, DeepInfra는 출력을 16,384토큰으로 제한합니다.
좋은 점
- 가중치와 함께 학습 데이터와 레시피 공개
- 출시 때 Artificial Analysis 지수 47.7로 미국 오픈 모델 1위
- 출시 전 배포에서 초당 400개 넘는 출력 토큰
- 환각이 적음: Artificial Analysis 비환각 테스트 71%
아쉬운 점
- NVIDIA 표 기준 코드와 어려운 지식에서 Kimi K2.6과 DeepSeek-V4-Pro에 뒤짐
- 호스팅 엔드포인트는 컨텍스트를 262,144토큰 이하로 제한
- BF16에는 Blackwell 또는 H200 GPU 8개나 H100 16개가 필요
- DeepInfra의 출력 한도가 16,384토큰으로 짧음
추천 대상
학습 데이터가 문서화된 크고 빠른 오픈 추론 모델을 호스팅으로 또는 자체 GPU에서 쓰려는 기업.
Nemotron 3 Ultra 대안
Nemotron 3 Ultra: 자주 묻는 질문
- Nemotron 3 Ultra, 쓸 만한 가치가 있습니까?
- 대형 모델로서 더할 나위 없이 개방적이고 빠르며 지어내기를 꺼리지만, 추론력은 아직 중국의 선두 오픈 모델들이 앞섭니다. 평점은 5점 만점에 4.1점입니다.
- Nemotron 3 Ultra의 가격은 얼마입니까?
- OpenMDW-1.1 무료 가중치. OpenRouter 기준 입력/출력 100만 토큰당 DeepInfra $0.40/$1.76 또는 $0.50/$2.20, Baseten $0.60/$2.40, Venice $0.625/$3.125.
- Nemotron 3 Ultra의 단점은 무엇입니까?
- NVIDIA 표 기준 코드와 어려운 지식에서 Kimi K2.6과 DeepSeek-V4-Pro에 뒤짐; 호스팅 엔드포인트는 컨텍스트를 262,144토큰 이하로 제한; BF16에는 Blackwell 또는 H200 GPU 8개나 H100 16개가 필요; DeepInfra의 출력 한도가 16,384토큰으로 짧음.
- Nemotron 3 Ultra에 적합한 사람은 누구입니까?
- 학습 데이터가 문서화된 크고 빠른 오픈 추론 모델을 호스팅으로 또는 자체 GPU에서 쓰려는 기업.
- 팀이나 프로덕션 환경에서 Nemotron 3 Ultra의 비용은 얼마입니까?
- DeepInfra에서 100만 토큰당 $0.40/$1.76부터. BF16을 직접 호스팅하려면 B200, GB200, H200 중 8개 또는 H100 16개가 필요합니다.
- Nemotron 3 Ultra에 회사 데이터를 맡겨도 안전합니까?
- 오픈 가중치와 공개 학습 데이터셋. 사전 학습 데이터는 2025년 9월까지, 사후 학습 데이터는 2026년 5월까지입니다. 직접 호스팅하면 프롬프트가 사내에 남으며, OpenRouter는 EU 역내 라우팅을 지원하지 않는다고 밝힙니다.
- Nemotron 3 Ultra의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Kimi K3, GLM-5.3, DeepSeek-V4-Pro 및 Nemotron 3.5 Super VL입니다.
답변 확인일: 2026년 11월 7일.
Nemotron 3 Ultra 개발사입니까? 이 평점을 사이트에 표시하십시오
