SambaNova Cloud의 개요
SambaNova Cloud(SambaCloud라고도 함)는 자체 AI 칩인 Reconfigurable Dataflow Unit(RDU)을 설계하는 SambaNova Systems의 토큰 과금형 추론 API입니다. 2026년 11월 7일 공개 모델 목록에는 gpt-oss-120b, GLM-5.3, MiniMax-M3.1-Flash, Gemma 4 31B, Llama 3.3 70B 다섯 모델이 있었습니다. 가격은 100만 토큰당 gpt-oss-120b의 입력 $0.22, 출력 $0.59부터 GLM-5.3의 $2.80, $8.80까지입니다.
Artificial Analysis는 SambaNova의 gpt-oss-120b를 초당 약 417토큰으로 측정했습니다. Groq의 338보다 빠르고 Cerebras의 1,347에는 크게 못 미칩니다. 같은 하드웨어를 자체 데이터센터용 SambaStack, 재판매하려는 클라우드 사업자용 SambaManaged로도 판매합니다.
회사는 2025년 4월 AI 학습 사업을 접고 직원의 약 15%인 77명을 해고하며 추론에 집중했습니다. Intel은 2025년 말 약 $1.6 billion에 인수를 논의했지만, 실제로는 2026년 2월 $350 million 투자 라운드 참여와 다년간 제휴에 그쳤습니다. 2026년 7월 SambaNova는 $11 billion 기업가치로 $1 billion을 조달했습니다.
SambaNova Cloud의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Free | Free | 카드 미등록: 모델당 분당 20건, 하루 20건, 하루 200,000토큰 |
| gpt-oss-120b | $0.22 in / $0.59 out per 1M tokens | |
| GLM-5.3 | $2.80 in / $8.80 out per 1M tokens | 캐시된 입력 100만 토큰당 $0.14 |
| MiniMax-M3.1-Flash | $0.30 in / $1.20 out per 1M tokens | 프리뷰 모델, 컨텍스트 100만 토큰. 캐시된 입력 100만 토큰당 $0.03 |
| Enterprise | Quote | 프로덕션 한도, 요청 시 제공 모델, 자체 체크포인트 반입을 포함한 구독 |
100만 토큰당 종량제: gpt-oss-120b 입력 $0.22 / 출력 $0.59, Gemma 4 31B $0.38 / $1.15, MiniMax-M3.1-Flash $0.30 / $1.20(캐시된 입력 $0.03), Llama 3.3 70B $0.60 / $1.20, GLM-5.3 $2.80 / $8.80(캐시된 입력 $0.14). 카드 없는 무료 등급은 모델당 하루 20건 요청을 허용합니다. Enterprise 구독은 견적제입니다.
SambaNova Cloud, 쓸 만한 가치가 있습니까?
오픈 모델을 어디서 돌릴지 고르다 보면 속도 차트는 Groq와 Cerebras의 양자 대결처럼 보입니다. 토큰을 파는 세 번째 칩 제조사가 있고, 일부 모델에서는 Groq보다 빠릅니다.
SambaNova Cloud는 SambaNova 자체 칩에서 오픈 모델을 실행합니다. 이 칩은 모델 전체를 프로세서 가까이에 두고 여러 모델을 빠르게 전환할 수 있습니다. Artificial Analysis는 이곳의 gpt-oss-120b를 초당 약 417토큰으로 측정했으며, Groq 338, Together AI 65보다 빠르지만 Cerebras는 1,347에 이릅니다. 100만 토큰당 입력 $0.22, 출력 $0.59로 Cerebras의 $0.35와 $0.75보다 싸고, 입력은 Groq의 $0.15보다 조금 비쌉니다. Artificial Analysis는 또 이곳의 gpt-oss-120b 답변 정확도를 기준 모델의 98.5%로 평가했는데, 고속 제공업체 중 가장 높은 수치입니다.
메뉴는 짧고 자주 바뀝니다. 2026년 11월 7일 실시간 모델 목록에는 다섯 모델이 있었고, $2.80와 $8.80의 GLM-5.3, 100만 토큰 컨텍스트의 프리뷰 MiniMax-M3.1-Flash가 포함됐습니다. 반면 문서에는 API가 더 이상 반환하지 않는 DeepSeek 모델이 남아 있었습니다. SambaNova에 따르면 프리뷰 모델은 "짧은 예고로 제거될 수 있으며", Llama 3.3 70B는 답변 하나를 3,072토큰으로 제한합니다.
주의할 점: 셀프서비스 용량이 작습니다. 카드를 등록한 Developer 등급도 대부분의 모델에서 분당 60건, 하루 12,000건, 모든 모델 합산 하루 2,000만 토큰까지입니다. 그 이상은 견적제 Enterprise 구독이 필요합니다. 데이터의 경우 제품 페이지는 프롬프트를 전혀 수집하지 않는다고 하지만, 라이선스 계약에는 보존 기간이 없고 서비스 개선을 위해 쿼리 로그를 쓸 수 있게 되어 있습니다. 공개된 SOC 2 보고서도 찾지 못했으니 약속은 계약서에 넣어 받으십시오.
결론: SambaNova는 직접 소유한 하드웨어에서 빠른 추론을 원할 때 연락할 업체입니다. SambaStack은 같은 칩을 귀사 데이터센터에서, 필요하면 네트워크와 분리해 운영하며, JPMorgan Chase가 이 조건으로 도입하고 있습니다. 셀프서비스 API로서는 gpt-oss의 합리적인 두 번째 경로이지, 제품 전체를 올릴 곳은 아닙니다.
제 역할을 하는 곳
gpt-oss-120b로 고객 지원 챗봇을 만드는 5인 팀
Cerebras 가격을 내지 않고 빠른 예비 제공업체를 추가하기
주 제공업체가 오류를 반환하면 OpenAI 호환 클라이언트를 SambaNova로 돌립니다. 100만 토큰당 $0.22와 $0.59이면 월 입력 1억, 출력 2,000만 토큰에 약 $34로, Developer의 하루 2,000만 토큰 상한에 넉넉히 들어갑니다.
은행이나 공공기관의 인프라 책임자
프롬프트가 건물 밖으로 나가지 않게 오픈 모델을 빠르게 추론하기
SambaStack은 SambaNova 랙을 온프레미스에 설치하며, 2026년 3월 릴리스부터 네트워크 분리 배포도 지원합니다. JPMorgan Chase가 이 방식으로 SN40L과 SN50 시스템을 도입하고 있습니다. 가격은 견적제입니다.
긴 문서용 에이전트를 만드는 개발자
매우 긴 입력을 빠르고 싸게 읽기
MiniMax-M3.1-Flash는 최대 100만 토큰을 받고, 입력은 100만 토큰당 $0.30, 접두부가 캐시되면 $0.03입니다. 프리뷰 모델이므로 두 번째 제공업체를 준비해 두십시오.
도입 전 확인할 점
- 설정
- 계정과 API 키를 만든 뒤 아무 OpenAI SDK에서 기본 URL을 api.sambanova.ai/v1로 설정합니다. 카드를 등록하면 무료 등급에서 Developer 등급으로 올라갑니다.
- 연동
- OpenAI 호환 채팅 API, 2026년 7월부터 Anthropic Messages API, SambaNova SDK, OpenRouter, AWS PrivateLink.
- 데이터와 개인정보
- SambaNova는 프롬프트를 전혀 수집하지 않는다고 합니다. 라이선스는 서비스 제공에 필요한 범위에서만 콘텐츠 저장을 허용하지만 보존 기간은 없고, 쿼리 로그는 서비스 개선에 쓰일 수 있습니다. 공개된 SOC 2 보고서나 DPA는 찾지 못했습니다.
- 대규모 사용 시 비용
- gpt-oss-120b로 월 입력 20억, 출력 5억 토큰이면 약 $735로, Cerebras 약 $1,075, Groq $600과 비교됩니다. 다만 이 양은 Developer 등급의 하루 2,000만 토큰 상한을 넘으므로 Enterprise 구독이 필요합니다.
- 제한
- Developer 등급: 모델당 분당 60건, 하루 12,000건(Llama 3.3 70B는 240건과 48,000건), 전체 하루 2,000만 토큰. 컨텍스트는 대부분 모델에서 131,072토큰, MiniMax-M3.1-Flash는 100만 토큰.
좋은 점
- Artificial Analysis 기준 gpt-oss-120b 초당 약 417토큰
- gpt-oss-120b 100만 토큰당 입력 $0.22, 출력 $0.59
- Artificial Analysis에서 고속 제공업체 중 가장 높은 gpt-oss-120b 정확도 점수
- SambaStack으로 같은 칩을 온프레미스에서도 사용 가능
아쉬운 점
- Developer 등급은 하루 2,000만 토큰이 상한
- 모델은 다섯 개이며 문서와 실시간 목록이 다름
- 라이선스에 보존 기간이 없고 공개 SOC 2 보고서도 없음
- Llama 3.3 70B 답변은 3,072토큰이 상한
추천 대상
gpt-oss나 GLM의 빠른 추론을 두 번째 제공업체로 쓰려는 팀, 또는 자체 데이터센터 하드웨어에서 오픈 모델을 빠르게 돌리려는 팀.
SambaNova Cloud 대안
SambaNova Cloud: 자주 묻는 질문
- SambaNova Cloud, 쓸 만한 가치가 있습니까?
- SambaNova는 빠른 gpt-oss 토큰을 Cerebras보다 싸게 팔지만, 셀프서비스 한도가 작아서 실제 워크로드는 결국 영업팀과의 통화로 이어집니다. 평점은 5점 만점에 3.8점입니다.
- SambaNova Cloud의 가격은 얼마입니까?
- 100만 토큰당 종량제: gpt-oss-120b 입력 $0.22 / 출력 $0.59, Gemma 4 31B $0.38 / $1.15, MiniMax-M3.1-Flash $0.30 / $1.20(캐시된 입력 $0.03), Llama 3.3 70B $0.60 / $1.20, GLM-5.3 $2.80 / $8.80(캐시된 입력 $0.14). 카드 없는 무료 등급은 모델당 하루 20건 요청을 허용합니다. Enterprise 구독은 견적제입니다.
- SambaNova Cloud의 단점은 무엇입니까?
- Developer 등급은 하루 2,000만 토큰이 상한; 모델은 다섯 개이며 문서와 실시간 목록이 다름; 라이선스에 보존 기간이 없고 공개 SOC 2 보고서도 없음; Llama 3.3 70B 답변은 3,072토큰이 상한.
- SambaNova Cloud에 적합한 사람은 누구입니까?
- gpt-oss나 GLM의 빠른 추론을 두 번째 제공업체로 쓰려는 팀, 또는 자체 데이터센터 하드웨어에서 오픈 모델을 빠르게 돌리려는 팀.
- 팀이나 프로덕션 환경에서 SambaNova Cloud의 비용은 얼마입니까?
- gpt-oss-120b로 월 입력 20억, 출력 5억 토큰이면 약 $735로, Cerebras 약 $1,075, Groq $600과 비교됩니다. 다만 이 양은 Developer 등급의 하루 2,000만 토큰 상한을 넘으므로 Enterprise 구독이 필요합니다.
- SambaNova Cloud에 회사 데이터를 맡겨도 안전합니까?
- SambaNova는 프롬프트를 전혀 수집하지 않는다고 합니다. 라이선스는 서비스 제공에 필요한 범위에서만 콘텐츠 저장을 허용하지만 보존 기간은 없고, 쿼리 로그는 서비스 개선에 쓰일 수 있습니다. 공개된 SOC 2 보고서나 DPA는 찾지 못했습니다.
- SambaNova Cloud의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Cerebras, Groq, Together AI 및 Fireworks AI입니다.
답변 확인일: 2026년 11월 7일.