본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Modal

GPU에서 Python과 AI 작업을 돌리는 서버리스 클라우드입니다. 초 단위로 청구하며 매달 $30의 무료 연산을 줍니다.

리뷰어: Andrew Miller · 업데이트

Modal 방문 사용량 기반

평점

4.5/5

Modal은 우리가 읽어 본 어떤 클라우드보다 적은 절차로 Python 함수를 GPU 서비스로 바꾸며, 보장이 필요해지는 순간 웃돈을 받습니다.

Modal의 개요

Modal은 서버를 관리하지 않고 클라우드 CPU와 GPU에서 Python 코드를 돌리게 합니다. 함수가 어떤 하드웨어와 패키지를 필요로 하는지 코드에 몇 줄 더하면, Modal이 요청이 오면 컨테이너를 띄우고 멈추면 내립니다. 팀들은 이를 자체 모델 서비스, 배치 작업, 파인튜닝, AI 에이전트용 코드 샌드박스 호스팅에 씁니다.

Starter 요금제는 무료이며 최대 3명에게 매달 $30의 연산을 줍니다. Team은 월 $250에 사용량이 더해지며 $100의 연산이 포함됩니다. GPU는 초 단위로 청구되며, H100은 시간당 약 $3.95, A100 80GB는 약 $2.50, B200은 약 $6.25입니다. Modal은 토큰 단위로 청구하는 공유 추론 엔드포인트도 판매합니다.

Modal의 가격은 얼마입니까?

플랜가격포함 내용
Starter$0 + compute월 $30 크레딧, 좌석 3개, GPU 동시 10개
Team$250/month + compute$100 크레딧, 좌석 무제한, GPU 50개
EnterpriseCustom

Starter $0 + 연산(월 $30 크레딧, 좌석 3개, GPU 동시 10개), Team 월 $250 + 연산($100 크레딧, 좌석 무제한, GPU 50개), Enterprise 맞춤 견적. 초 단위: H100 시간당 약 $3.95, A100 80GB 시간당 약 $2.50, B200 시간당 약 $6.25.

Modal, 쓸 만한 가치가 있습니까?

AWS나 Google Cloud에서 GPU를 빌리려면 보통 클러스터를 설정하고, Dockerfile을 쓰고, 놀고 있는 기계값도 내야 합니다.

Modal은 그것을 건너뜁니다. 평범한 Python을 쓰고 GPU가 필요한 함수에 표시하면, Modal이 컨테이너를 빌드하고, 확장하고, 내리며, 초 단위로 청구하고 컨테이너가 0으로 줄면 아무것도 받지 않습니다. 남의 모델을 호출하는 것이 아니라 자기 코드를 돌리고 싶은 사람을 위한 도구입니다.

표시 요율은 경쟁력 있습니다. 가격 페이지로 계산하면 H100은 시간당 약 $3.95, A100 80GB는 $2.50입니다. 청구액이 커지는 곳은 배수입니다. 지역 고정은 1.15x에서 1.75x, 선점 불가 실행은 3x이며, 샌드박스와 노트북은 항상 3x 요율로 청구됩니다. 컨테이너는 기본으로 마지막 요청 뒤 60초 동안 떠 있고, 그 유휴 시간에도 돈을 냅니다.

요금제 단계에는 빈틈이 있습니다. Starter는 GPU 10개를 동시에 허용하고 로그를 하루 보관하며, 월 $250인 Team은 GPU 50개와 30일 로그로 올립니다. 감사 로그, Okta 싱글 사인온, HIPAA는 Enterprise 전용이지만, Modal은 모든 고객을 위해 SOC 2 Type II 보고서를 보유하고 컨테이너마다 별도 gVisor나 microVM 샌드박스에서 돌립니다. 함수 입력과 출력은 최대 7일 보관됩니다.

주의할 점: 큰 모델은 느리게 시작합니다. Modal 문서에 따르면 컨테이너는 약 1초 만에 부팅하지만, 가중치를 캐시하거나 메모리 스냅숏을 쓰지 않으면 수십 기가바이트짜리 모델을 불러오는 데 몇 분이 걸릴 수 있습니다. min_containers로 컨테이너를 데워 두면 유휴 GPU값을 내는 대신 기다림이 사라지는데, 트래픽이 꾸준하다면 초 단위 과금의 장점이 약해집니다.

결론: API 뒤에 인기 오픈 모델 하나만 필요하다면 Together AI나 Groq가 토큰 단위로 청구하고 조정할 컨테이너도 남기지 않습니다. 모델, 파이프라인, 에이전트 샌드박스가 내 것일 때 Modal은 웃돈의 값을 합니다.

제 역할을 하는 곳

  • 파인튜닝한 8B 모델을 서비스하는 2인 ML 스타트업

    DevOps를 고용하지 않고 맞춤 모델을 엔드포인트 뒤에 두기

    활성 시간 기준 시간당 약 $1.95인 L40S에 웹 엔드포인트를 배포합니다. 들쭉날쭉한 트래픽에는 0으로 줄이기가 맞고, 1초 안에 답해야 하는 모델은 데운 컨테이너가 필요한데, 720시간이면 월 약 $1,400입니다.

  • 분기마다 문서 5,000만 개를 임베딩하는 데이터 엔지니어

    GPU를 예약해 두지 않고 대규모 배치 작업 돌리기

    .map()으로 시간당 $1.10인 A10 여러 장에 작업을 나눕니다. Starter의 동시 GPU 10개 상한으로는 느려서, 대개 월 $250인 Team의 50 GPU 한도가 값을 합니다.

  • 신뢰할 수 없는 사용자 코드를 돌리는 AI 에이전트 회사

    에이전트 세션마다 격리된 샌드박스 주기

    Modal Sandboxes는 세션마다 gVisor나 microVM으로 격리하지만 CPU를 함수 요율의 3x, 코어 시간당 약 $0.142로 청구합니다. 입력과 출력이 최대 7일 보관되므로 고객 데이터라면 중요한 점입니다.

도입 전 확인할 점

설정
pip install modal 후 modal setup으로 인증하고 데코레이터를 단 함수에 modal run을 실행합니다. 첫 GPU 출력은 클러스터 빌드가 아니라 몇 분이면 나옵니다.
연동
Python SDK, 웹 엔드포인트, cron 작업, 볼륨, 비밀 값, Enterprise에서 클라우드 마켓플레이스를 통한 AWS나 GCP 약정 지출 결제.
데이터와 개인정보
SOC 2 Type II입니다. 함수 입력과 출력은 최대 7일 보관되고 엔드포인트 내용은 저장되지 않습니다. HIPAA는 Enterprise에서만 됩니다. 로그는 Starter 1일, Team 30일 보관됩니다.
대규모 사용 시 비용
H100 한 장을 24시간 돌리면 기본 요율로 월 약 $2,840이고, 선점 불가여야 하면 약 $8,530로 오르며, Team 요금 $250가 더해집니다.
제한
Starter는 컨테이너 100개와 GPU 10개, Team은 5,000개와 50개를 동시에 허용합니다. 유휴 컨테이너는 기본 60초 동안 청구됩니다. 공유 엔드포인트는 포함 크레딧 밖에서 토큰 단위로 청구됩니다.

좋은 점

  • Dockerfile과 클러스터 대신 평범한 Python 데코레이터
  • 유휴 시 0으로 떨어지는 초 단위 과금
  • H100 시간당 약 $3.95, A100 80GB 약 $2.50
  • SOC 2 Type II, 컨테이너마다 gVisor나 microVM 격리

아쉬운 점

  • 지역 고정, 선점 불가 실행, 샌드박스는 1.15x에서 3x
  • 스냅숏이나 데운 컨테이너 없이는 큰 모델 콜드 스타트가 몇 분 걸립니다
  • 동시 GPU 10개를 넘으려면 월 $250
  • SSO, 감사 로그, HIPAA는 Enterprise에만 있습니다

추천 대상

서버를 관리하지 않고 맞춤 모델을 서비스하거나 GPU 작업을 돌리고 싶은 Python 개발자와 ML 팀.

Modal 대안

Modal: 자주 묻는 질문

Modal, 쓸 만한 가치가 있습니까?
Modal은 우리가 읽어 본 어떤 클라우드보다 적은 절차로 Python 함수를 GPU 서비스로 바꾸며, 보장이 필요해지는 순간 웃돈을 받습니다. 평점은 5점 만점에 4.5점입니다.
Modal의 가격은 얼마입니까?
Starter $0 + 연산(월 $30 크레딧, 좌석 3개, GPU 동시 10개), Team 월 $250 + 연산($100 크레딧, 좌석 무제한, GPU 50개), Enterprise 맞춤 견적. 초 단위: H100 시간당 약 $3.95, A100 80GB 시간당 약 $2.50, B200 시간당 약 $6.25.
Modal의 단점은 무엇입니까?
지역 고정, 선점 불가 실행, 샌드박스는 1.15x에서 3x; 스냅숏이나 데운 컨테이너 없이는 큰 모델 콜드 스타트가 몇 분 걸립니다; 동시 GPU 10개를 넘으려면 월 $250; SSO, 감사 로그, HIPAA는 Enterprise에만 있습니다.
Modal에 적합한 사람은 누구입니까?
서버를 관리하지 않고 맞춤 모델을 서비스하거나 GPU 작업을 돌리고 싶은 Python 개발자와 ML 팀.
팀이나 프로덕션 환경에서 Modal의 비용은 얼마입니까?
H100 한 장을 24시간 돌리면 기본 요율로 월 약 $2,840이고, 선점 불가여야 하면 약 $8,530로 오르며, Team 요금 $250가 더해집니다.
Modal에 회사 데이터를 맡겨도 안전합니까?
SOC 2 Type II입니다. 함수 입력과 출력은 최대 7일 보관되고 엔드포인트 내용은 저장되지 않습니다. HIPAA는 Enterprise에서만 됩니다. 로그는 Starter 1일, Team 30일 보관됩니다.
Modal의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 Replicate, Together AI, Hugging Face 및 Fireworks AI입니다.

답변 확인일: 2026년 10월 22일.

Modal 개발사입니까? 이 평점을 사이트에 표시하십시오ReviewRamble 평점: Modal, 5점 만점에 4.5점