Baseten의 개요
Baseten은 AI 모델이 운영 환경에서 안정적으로 돌아가야 하는 기업을 위해 모델을 호스팅합니다. GPT OSS 120B, DeepSeek V4.1, GLM-5.3, Kimi K3 같은 오픈 모델을 토큰당 과금으로 쓰는 공유 API인 Model APIs와, 자체 모델이나 파인튜닝한 모델을 전용으로 예약된 GPU에서 실행하는 전용 배포를 제공합니다. 같은 하드웨어에서 학습 작업도 돌립니다.
Basic 요금제는 월 요금이 없고 사용량만큼 내며, 새 계정은 금액이 밝혀지지 않은 크레딧을 받습니다. Model APIs에서 GPT OSS 120B는 100만 토큰당 입력 $0.10, 출력 $0.50입니다. 전용 GPU는 분 단위로 청구되며, T4 시간당 약 $0.63부터 H100 약 $6.50, B200 약 $9.98까지입니다. Enterprise 고객은 자사 클라우드 계정에서 Baseten을 실행할 수 있습니다.
Baseten의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Basic | $0/month | 종량제 |
| Pro | By quote | |
| Enterprise | By quote |
Basic 월 $0, 종량제. Pro와 Enterprise는 견적제. Model APIs는 100만 토큰당, 예: GPT OSS 120B 입력 $0.10 / 출력 $0.50, Kimi K3 $3 / $15. 전용 GPU는 분 단위: T4 시간당 약 $0.63, A100 약 $4.00, H100 약 $6.50, B200 약 $9.98.
Baseten, 쓸 만한 가치가 있습니까?
직접 만든 모델이 실제 고객에게 답하기 시작하면 어려운 부분은 더 이상 모델이 아닙니다. 계속 돌아가게 하고, 데이터를 안전하게 지키고, 보안 승인권자를 통과시키는 일이 됩니다.
Baseten은 모델을 대신 운영합니다. 인기 오픈 모델을 공유 Model APIs로 호출하고 토큰당 낼 수도 있고, 자체 모델이나 파인튜닝한 모델을 전용 GPU에 올릴 수도 있습니다. 보안 정책은 두 방식 모두 데이터 무보관을 약속합니다. 동기식 입력과 출력은 로그에 남지 않고 영구 저장소에 쓰이지 않으며, 고객 콘텐츠는 학습에 쓰이지 않습니다. 예외는 비동기 요청으로, 입력은 처리가 끝날 때까지만 보관됩니다.
SOC 2 Type II와 HIPAA는 무료 Basic 요금제에도 적용됩니다. 드문 일이며, 의료나 금융 고객에게 판매한다면 중요합니다.
공유 API는 기본 선택으로 삼을 만큼 저렴합니다. GPT OSS 120B는 100만 토큰당 입력 $0.10, 출력 $0.50, DeepSeek V4.1 Flash는 $0.30와 $1.20로 호스팅 오픈 모델 가격의 낮은 쪽이며, 대부분의 모델에서 캐시된 입력은 일반 요금의 10분의 1로 청구됩니다. 2026년 8월부터 Baseten은 Hugging Face의 Inference Provider이기도 합니다.
자체 모델을 배포하는 일은 대부분 명령 하나로 끝납니다. Baseten의 오픈소스 설정 형식인 Truss로 모델을 기술하고, CLI로 올린 뒤, 버전 사이에서 안정적인 엔드포인트 URL로 승격합니다. Enterprise는 이 모든 것을 고객의 VPC나 두 클라우드를 섞 은 하이브리드에서 실행할 수 있고, 기존 클라우드 약정 금액을 쓸 수 있게 합니다. 이미 AWS나 Google에 선불을 낸 회사에게는 이것이 결정적인 경우가 많습니다.
주의할 점: 청구액이 커지는 곳은 전용 하드웨어입니다. H100은 분 단위 청구로 시간당 약 $6.50인데 Modal은 약 $3.95이고, A100은 $4.00로 Modal의 $2.50와 비교됩니다. H100 한 대를 24시간 돌리면 월 약 $4,680입니다. 귀한 GPU의 우선 접근에는 견적제 Pro 요금제가 필요하고, Model API 기본 한도는 넉넉하지 않습니다. 인증된 Basic 계정은 분당 요청 120건과 토큰 500,000개를 받고, Pro는 토큰 한도를 100만 개로 두 배 늘립니다.
결론: 공유 API는 범용품처럼 가격이 매겨져 있고, 전용 GPU는 규정 준수를 사는 것입니다. 그렇지 않으면 보안 검토에 몇 달이 걸린다면 그 웃돈은 쌉니다. 그렇지 않다면 필요 없는 서류를 위해 Modal보다 시간당 약 65% 더 내는 셈입니다.
제 역할을 하는 곳
40명 규모 헬스테크 스타트업의 ML 엔지니어
파인튜닝한 임상 기록 모델을 HIPAA 아래에서 서빙하기
Truss로 모델을 패키징하고 전용 H100에 올린 뒤 안정적인 엔드포인트로 승격합니다. Basic에서도 HIPAA와 SOC 2 Type II가 적용됩니다. H100 한 대를 계속 돌리면 월 약 $4,680이며, 트래픽에 따라 복제본이 줄면 더 적게 듭니다.
B2B 앱에 LLM 기능을 넣는 백엔드팀
GPU를 운영하지 않고 성능 좋은 오픈 모델 호출하기
GPT OSS 120B를 쓰는 Model APIs로, 월 입력 토큰 20억 개와 출력 5억 개에 약 $450이 들며, 동기 호출에는 데이터 무보관이 적용됩니다.
AWS 약정이 있는 은행의 인프라 책임자
데이터가 은행의 클라우드 계정을 떠나지 않게 오픈 모델을 호스팅하기
Enterprise는 Baseten을 은행 자체 VPC에 배포하고 기존 클라우드 약정에서 차감합니다. 가격은 견적제이며 공개되지 않았습니다.
도입 전 확인할 점
- 설정
- Truss CLI를 설치하고 config.yaml에 모델을 기술한 뒤 baseten model push를 실행합니다. 실시간 리로드가 되는 개발 배포가 먼저 올라오고, 그다음 승격하는 운영 배포가 생깁니다.
- 연동
- Truss는 기존 vLLM, SGLang, Triton 컨테이너도 감쌉니다. Model APIs는 Hugging Face Inference Providers를 통해서도 쓸 수 있습니다.
- 데이터와 개인정보
- 동기식 Model API와 전용 추론 호출에 데이터 무보관, 고객 콘텐츠로 학습하지 않음. 모든 요금제에 SOC 2 Type II와 HIPAA. 데이터 상주 통제와 자체 호스팅은 Enterprise. 내 데이터로 학습하는 AI 도구는 무엇입니까?
- 대규모 사용 시 비용
- 분당 $0.10833인 H100 한 대는 쉬지 않으면 월 약 $4,680로, Modal의 약 $2,844와 비교됩니다. 유휴 시간에 요금이 없는 분 단위 청구는 들쭉날쭉한 트래픽에서 그 격차를 줄입니다.
- 제한
- Basic은 Baseten Cloud에서만 실행되며 GPU 우선 접근이 없습니다. 기본 Model API 한도는 미인증 Basic 계정에서 분당 요청 15건과 토큰 100,000개, 인증 후 120건과 500,000개, Pro에서 120건과 100만 개입니다.
좋은 점
- Model APIs와 전용 추론에서 데이터 무보관
- 무료 Basic을 포함한 모든 요금제에 SOC 2 Type II와 HIPAA
- GPT OSS 120B가 100만 토큰당 $0.10 / $0.50
- Enterprise는 고객 VPC에서 실행되고 기존 클라우드 약정을 씁니다
아쉬운 점
- 전용 H100이 Modal보다 시간당 약 65% 비쌉니다
- 무료 크레딧 금액이 공개되지 않았고 Basic Model API 한도가 낮습니다
- GPU 우선 접근에는 견적제 Pro 요금제가 필요합니다
- 비동기 요청은 입력을 일시적으로 저장합니다
추천 대상
데이터 무보관, HIPAA, 자체 클라우드 실행 옵션이 필요하며 맞춤 모델이나 파인튜닝 모델을 운영 환경에서 서빙하는 기업.
Baseten 대안
Baseten: 자주 묻는 질문
- Baseten, 쓸 만한 가치가 있습니까?
- Baseten은 규정 준수 서류가 이미 갖춰진 상태로 모델을 운영 환경에서 돌려 줍니다. 다만 전용 GPU는 다른 곳에서 빌릴 때보다 눈에 띄게 비쌉니다. 평점은 5점 만점에 4.2점입니다.
- Baseten의 가격은 얼마입니까?
- Basic 월 $0, 종량제. Pro와 Enterprise는 견적제. Model APIs는 100만 토큰당, 예: GPT OSS 120B 입력 $0.10 / 출력 $0.50, Kimi K3 $3 / $15. 전용 GPU는 분 단위: T4 시간당 약 $0.63, A100 약 $4.00, H100 약 $6.50, B200 약 $9.98.
- Baseten의 단점은 무엇입니까?
- 전용 H100이 Modal보다 시간당 약 65% 비쌉니다; 무료 크레딧 금액이 공개되지 않았고 Basic Model API 한도가 낮습니다; GPU 우선 접근에는 견적제 Pro 요금제가 필요합니다; 비동기 요청은 입력을 일시적으로 저장합니다.
- Baseten에 적합한 사람은 누구입니까?
- 데이터 무보관, HIPAA, 자체 클라우드 실행 옵션이 필요하며 맞춤 모델이나 파인튜닝 모델을 운영 환경에서 서빙하는 기업.
- 팀이나 프로덕션 환경에서 Baseten의 비용은 얼마입니까?
- 분당 $0.10833인 H100 한 대는 쉬지 않으면 월 약 $4,680로, Modal의 약 $2,844와 비교됩니다. 유휴 시간에 요금이 없는 분 단위 청구는 들쭉날쭉한 트래픽에서 그 격차를 줄입니다.
- Baseten에 회사 데이터를 맡겨도 안전합니까?
- 동기식 Model API와 전용 추론 호출에 데이터 무보관, 고객 콘텐츠로 학습하지 않음. 모든 요금제에 SOC 2 Type II와 HIPAA. 데이터 상주 통제와 자체 호스팅은 Enterprise.
- Baseten의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Modal, Together AI, Fireworks AI 및 Replicate입니다.
답변 확인일: 2026년 10월 26일.
Baseten 개발사입니까? 이 평점을 사이트에 표시하십시오
