ScaleDown Constrained Decoding Models (Classify, Extract, Summarize) (2026)

ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)의 개요

Constrained Decoding Models(CDMs)는 ScaleDown의 단일 작업 호스팅 모델 제품군입니다. 공동 창업자이자 최고경영자 Neal Patel이 2026년 10월 13일 출시했습니다. Classify는 사용자가 정의한 라벨마다 확률을 돌려주고, Extract는 설명한 필드를 JSON으로 뽑아내며, Summarize는 최대 1,000토큰의 요약을 씁니다. 이전 모델인 Compress는 LLM 호출 전에 컨텍스트를 줄여 줍니다. 네 모델 모두 최대 1M 토큰 입력을 받고, CDM 세 가지는 이미지와 PDF도 읽습니다.

Classify에는 인터페이스가 두 개 있습니다. POST /classify는 루브릭이 붙은 라벨을 받고, 최대 50개 입력의 배치를 지원합니다. POST /v1/scaledown은 ScaleDown 문서가 "a drop-in replacement for the Jev Decisions API"라고 부르는 것입니다. TypeSafe의 Jev와 같은 요청 및 응답 형식을 따르며 choice, noul(예/아니오), score 질문을 지원합니다. ScaleDown은 별개 회사이고 Jev를 서비스하지 않습니다. 같은 요청 형식 뒤에 자체 모델을 만들어 두었습니다. Extract와 Summarize는 https://api.scaledown.xyz의 OpenAI 호환 /v1/chat/completions 엔드포인트로 호출합니다.

텍스트 입력은 토큰 100만 개당 $0.05, 이미지는 $0.15이며 출력은 무료입니다. OpenRouter에서는 Classify-1, Extract, Summarize가 20% 할인으로 $0.04에 올라 있습니다.

ScaleDown Constrained Decoding Models (Classify, Extract, Summarize), 쓸 만한 가치가 있습니까?

검증을 견디는 ScaleDown의 주장은 가격입니다. 출시 당시 내세운 계산은 대부분 그렇지 못합니다. 출시 글은 "200x faster, 467x cheaper than frontier LLM APIs"인 모델과 DecisionBench 77.2%를 약속했고, Jev는 72%라고 했습니다. ScaleDown 자체 벤치마크 문서는 훨씬 조심스럽습니다. 각 제공사 라인업 평균보다 2.2배에서 13.9배 빠르고, OpenAI 평균보다 89배, Anthropic 평균보다 161배 저렴하다는 것입니다. 한 독립 분석 글에 따르면 DecisionBench 77.2% 결과는 공개 기록이 나오지 않았고, Bitroot 스레드가 이 공백을 지적했습니다. ScaleDown의 비교는 모두 자체 보고입니다.

가장 나은 독립 근거는 DEV Community에 올라온 Ishank Choudhary의 1,000회 호출 테스트입니다. 동료 검토를 거친 평가가 아니라 엔지니어 한 명의 실험입니다. CLINC150 의도 300개에서 Jev 호환 Decisions 엔드포인트는 97.3%(95% 구간 94.8~98.6)를 기록했고, 로컬 Qwen3 1.7B는 90.7%였습니다. Bitext 지원 티켓 110건에서는 92.7% 대 62.7%였습니다. Extract는 SROIE 영수증 50장에서 필드 정확도 89.5%로 로컬 모델과 같았지만, 합계 금액은 매번 정확히 읽어 78%인 로컬 모델을 앞섰습니다. 모든 값에는 신뢰도 점수와 원문 내 문자 오프셋이 함께 돌아옵니다.

청구액은 프롬프트보다 큽니다. ScaleDown은 라벨 기준, 스키마, 내부 프롬프트까지 입력으로 셉니다. Choudhary의 classify 호출은 약 481토큰이 청구됐는데, 같은 작업을 일반 프롬프트로 하면 172토큰이었습니다. Decisions 엔드포인트에서는 질문마다 별도의 모델 호출로 따로 과금됩니다. Jev는 모든 질문을 한 번에 답합니다. 정가 기준으로 짧은 분류는 gpt-5-nano의 두 배 비용이었고(호출 1,000회당 $0.024 대 $0.012), 추출은 조금 더 비쌌습니다($0.069 대 $0.057). 큰 절감은 플래그십 모델과 비교할 때만 나옵니다. 같은 테스트에서 gpt-5.5 대비 45배에서 102배였습니다. /classify 배치 모드는 도움이 됩니다. 입력 50개가 과금되는 라벨 세트 하나를 공유하기 때문입니다.

Summarize는 셋 중 가장 약합니다. QMSum 회의 여섯 건에서 사실을 지어내지는 않았지만, 질문을 받으면 회의의 엉뚱한 부분을 요약하는 일이 잦았습니다. 369,000토큰 문서에서는 두 회의 시리즈 중 하나만 다뤘습니다. 1M 토큰 창은 입력을 받아들일 뿐, 모델이 전부 읽는다고 보장하지는 않습니다.

Jev 자체와 비교하면 호환은 실제로 되지만 부분적입니다. 문서에는 모델 이름이 두 개(classify와 classify-1)뿐이고, box 질문이 없으며, score 질문은 최대 10단계, choice 질문이 돌아가는 /classify는 라벨이 20개로 제한됩니다. Jev는 선택지 255개를 받습니다. 긴 선택지 목록이나 요청당 질문이 많은 Jev 라우팅 계층은 같은 비용으로 옮겨지지 않습니다.

제 역할을 하는 곳

Jev 라우팅 계층을 운영 중인 플랫폼 엔지니어
가격과 장애 대비를 위해 같은 결정 질문을 두 번째 업체에서도 실행
기존 Jev 요청 형식을 /v1/scaledown으로 보내고 기록된 트래픽에서 답을 비교합니다. 질문이 여러 개인 요청은 질문마다 호출 한 번으로 과금되고, 선택지가 20개를 넘는 choice 질문은 쪼개야 하므로 전환 전에 청구액을 측정해야 합니다.
주당 영수증 5,000장을 스캔하는 중견 유통사의 매입 채무 담당 리드
사진에서 가맹점, 날짜, 합계를 뽑아 감사 추적과 함께 원장에 넣기
Extract가 이미지를 읽고 각 필드를 신뢰도 및 텍스트 오프셋과 함께 돌려주며, 신뢰도가 낮은 행은 직원에게 넘깁니다. 독립 테스트에서 영수증 합계를 50번 중 50번 맞혔고, 비용은 호출 1,000회당 약 $0.069였습니다.
과거 티켓을 태깅하는 은행의 지원 운영 분석가
티켓 1,000만 건의 적체분을 하룻밤에 15개 의도로 분류
/classify 요청 하나에 티켓 50건을 보내면 15개 루브릭이 티켓마다가 아니라 배치마다 한 번만 과금됩니다. 배치 요청은 한 문장 추론 호출을 건너뜁니다. 단건 요청에서는 이 호출이 루브릭을 두 배 입력 가격으로 다시 보냅니다.

도입 전 확인할 점

설정: 사이트에서는 카드 없이 무료 토큰 1M개로 가입할 수 있습니다. 하지만 문서의 소개 부분은 여전히 신규 사용자에게 키를 받으려면 영업 상담을 하라고 안내합니다. 요청은 https://api.scaledown.xyz에 x-api-key 헤더를 붙여 보냅니다. api.scaledown.ai는 API 호스트가 아닙니다.
연동: 자체 /classify 및 /compress/raw/ 엔드포인트, Jev 형식의 POST /v1/scaledown, extract와 summarize용 OpenAI 호환 chat completions가 있습니다. OpenRouter(Decisions API를 통한 Classify-1), LiteLLM, LangChain의 langchain-scaledown 미들웨어에서도 쓸 수 있습니다.
데이터와 개인정보: ScaleDown 홈페이지는 데이터 무보존, 고객 데이터 미학습, 자체 호스팅을 내세우며 SOC 2, HIPAA, GDPR, ISO 27001 기준에 맞춰 만들었다고 밝히고 SOC 2 Type 1 배지를 달고 있습니다. 문서에는 어떤 요금제에 무보존이 적용되는지, 보존 기간이 얼마인지 나와 있지 않습니다.
대규모 사용 시 비용: 독립 테스트에서 측정한 토큰 수 기준으로 classify 호출 100만 회는 약 $24, extract 호출 100만 회는 약 $69, 6K 토큰 요약 100만 건은 약 $317입니다. 출시 기간의 무료 토큰 50M개 제공은 끝났고, 지금 신규 계정은 1M개를 받습니다.
제한: 입력 1M 토큰. 요약은 출력 1,000토큰이 상한입니다. /classify는 라벨 최대 20개(multi-label은 16개)와 청크 50개까지 받습니다. score 질문은 2~10단계입니다. 크레딧이 없으면 402 Insufficient credits를 반환합니다. 속도 제한은 공개되지 않았습니다.

좋은 점

독립 1,000회 호출 테스트에서 CLINC150 97.3%, Bitext 92.7%
입력 토큰 1M개당 $0.05, 출력 무료, 네 모델 모두 같은 단일 요금
Extract가 모든 값에 신뢰도와 문자 오프셋을 함께 반환
Classify, Extract, Summarize에서 이미지와 PDF 읽기 지원

아쉬운 점

467배 저렴, DecisionBench 77.2%라는 출시 주장에 공개된 기준선이 없음
과금 입력에 라벨 기준과 스키마가 포함돼 실제 프롬프트보다 많음
Decisions 질문은 하나하나 별도 호출로 과금되고 /classify는 라벨 20개가 상한
Summarize는 질문에서 벗어나고, 369K 토큰 입력의 절반을 건너뜀

ScaleDown Constrained Decoding Models (Classify, Extract, Summarize) 대안

Jev

TypeSafe AI의사결정 모델

3.8/5

TypeSafe AI의 호스팅 결정 모델입니다. 타입이 정해진 선택, 점수, 예/아니요 확률을 입력 100만 토큰당 $0.042에 제공하며, 출력은 무료입니다.

Perplexity Decider (pplx-decider)

Perplexity의사결정 모델오픈 웨이트

4.5/5

Perplexity의 오픈 27B, 4B 결정 모델입니다. 100만 토큰당 $0.02의 API로도 판매하며, 텍스트와 이미지를 넣으면 확률을 내놓습니다.

Laya

Convai Innovations의사결정 모델오픈 웨이트

3.4/5

ModernBERT 기반의 Apache 2.0 의사결정 모델입니다. 타입이 정해진 질문에 수십 밀리초 만에 답하지만, 정확해지려면 파인튜닝이 필요합니다.

GLiNER2.5-Decide

Fastino의사결정 모델오픈 웨이트

3.6/5

Fastino의 10억 파라미터 미만 zero-shot 분류기입니다. 호출할 때 아무 레이블이나 넘기면 CPU에서 하나를 돌려주며, 프롬프트나 생성은 필요 없습니다.

d3 (vLLM Semantic Router)

vLLM Semantic Router의사결정 모델오픈 웨이트

4.0/5

비디오 입력과 기본 vLLM 서빙을 지원하는 vLLM Semantic Router의 오픈 27B 판정 모델입니다. 이미 자신의 d3-turbo에 추월당했습니다.

ScaleDown Constrained Decoding Models (Classify, Extract, Summarize): 자주 묻는 질문

ScaleDown Constrained Decoding Models (Classify, Extract, Summarize), 쓸 만한 가치가 있습니까?: 가격은 사실이고 분류기도 좋습니다. 다만 출시 수치는 근거를 앞질렀고, Jev 호환은 보기보다 비용이 더 듭니다. 평점은 5점 만점에 3.7점입니다.
ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)의 가격은 얼마입니까?: 텍스트 입력 토큰 1M개당 $0.05, 이미지 입력 토큰 1M개당 $0.15, 출력 무료. 신규 계정에 무료 토큰 1M개. OpenRouter: 20% 할인으로 $0.04. Enterprise: 전용 인스턴스 또는 자체 호스팅 라이선스, 견적 기준.
ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)의 단점은 무엇입니까?: 467배 저렴, DecisionBench 77.2%라는 출시 주장에 공개된 기준선이 없음; 과금 입력에 라벨 기준과 스키마가 포함돼 실제 프롬프트보다 많음; Decisions 질문은 하나하나 별도 호출로 과금되고 /classify는 라벨 20개가 상한; Summarize는 질문에서 벗어나고, 369K 토큰 입력의 절반을 건너뜀.
ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)에 적합한 사람은 누구입니까?: 라우팅, 태깅, 필드 추출에 플래그십 모델 가격을 내고 있으며, 싸게 대체할 호스팅 모델을 원하고 먼저 자체 라벨 데이터로 시험해 볼 팀.
팀이나 프로덕션 환경에서 ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)의 비용은 얼마입니까?: 독립 테스트에서 측정한 토큰 수 기준으로 classify 호출 100만 회는 약 $24, extract 호출 100만 회는 약 $69, 6K 토큰 요약 100만 건은 약 $317입니다. 출시 기간의 무료 토큰 50M개 제공은 끝났고, 지금 신규 계정은 1M개를 받습니다.
ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)에 회사 데이터를 맡겨도 안전합니까?: ScaleDown 홈페이지는 데이터 무보존, 고객 데이터 미학습, 자체 호스팅을 내세우며 SOC 2, HIPAA, GDPR, ISO 27001 기준에 맞춰 만들었다고 밝히고 SOC 2 Type 1 배지를 달고 있습니다. 문서에는 어떤 요금제에 무보존이 적용되는지, 보존 기간이 얼마인지 나와 있지 않습니다.
ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)의 가장 좋은 대안은 무엇입니까?: 저희가 리뷰한 것 중 가장 가까운 대안은 Jev, Perplexity Decider (pplx-decider), Laya, GLiNER2.5-Decide 및 d3 (vLLM Semantic Router)입니다.

답변 확인일: 2026년 10월 26일.