Perplexity Decider (pplx-decider)의 개요
pplx-decider는 Perplexity의 결정 모델 제품군입니다. 2026년 10월 Decisions API(POST /v1/decisions)와 함께 입력 100만 토큰당 $0.04로 출시되었고, 이후 두 번 업데이트되었습니다. v1.1에서 가격이 $0.02로 내려갔고, 10월 15일 공개된 v1.2에는 더 작은 pplx-decider-flash-v1.2가 추가되었습니다. 27B 모델은 Qwen3.8-27B를, 4B Flash는 Qwen3.5-4B를 파인튜닝한 것입니다. 가중치는 Hugging Face에 Apache 2.0으로 공개되어 있습니다.
텍스트, JSON, 최대 1.6메가픽셀 이미지에 대해 세 가지 유형의 질문(choice, noul이라는 예/아니오 유형, score)에 답하며, 질문당 선택지는 1개에서 255개입니다. 버전 1.2는 상태와 모든 질문을 한 시퀀스로 읽으므로, 질문이 여러 개여도 비용은 하나일 때보다 조금 더 드는 정도입니다. 모델은 최대 262,144토큰을 받지만, 카드에 따르면 학습에는 약 32K 길이의 시퀀스를 썼고 그 안에서 쓰기를 권장합니다.
Perplexity API에서 v1.2는 입력 100만 토큰당 $0.02, Flash는 $0.01이며, 출력은 무료이고 요청당 요금은 없습니다. 이전 v1과 v1.1 모델 이름으로 보낸 요청은 이제 v1.2가 처리합니다.
Perplexity Decider (pplx-decider)의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| pplx-decider-v1.2 | $0.02 per 1M input tokens | 출력 무료, 요청당 요금 없음 |
| Flash | $0.01 per 1M input tokens | 출력 무료 |
| Weights | Free | Apache 2.0 |
API: pplx-decider-v1.2는 입력 1M 토큰당 $0.02, Flash는 $0.01입니다. 출력은 무료이고 요청당 요금은 없습니다. 가중치는 Apache 2.0으로 무료입니다.
Perplexity Decider (pplx-decider), 쓸 만한 가치가 있습니까?
Perplexity의 Decider는 정해진 형식의 결정에서 오픈 진영이 Jev를 앞질렀다는 가장 분명한 신호입니다. 이제 비공개 테스트만 반영하는(동일 기술 60%, 새 분야 40%) 커뮤니티 Decision Index 0.4.1에서 v1.2는 229개 항목 중 67.98로 4위입니다. Jev 1.14는 60.24로 41위입니다. 지수는 약 0.9점 이내의 차이를 동점으로 보고, 4위부터 8위까지는 서로 0.5 이내에 있습니다. 따라서 순위보다 Jev와의 약 8점 차이가 더 중요합니다.
카드는 어떻게 이 결과에 도달했는지 솔직하게 밝힙니다. 공식 벤치마크의 학습 분할을 테스트 세트와 겹치지 않게 정리한 뒤 데이터에 추가했습니다. 그래서 공개 스위트에서 Perplexity가 직접 낸 68.09보다 비공개 테스트 결과가 더 무게를 가집니다. 확률은 여전히 약간 과신하는 경향이 있고(기대 보정 오차 약 0.05), 카드는 이를 바로잡는 온도 값 1.382를 공개합니다.
직접 돌리는 것은 노트북이 아니라 본격적인 GPU 작업입니다. BF16 가중치는 약 52 GB이고, 243K 토큰 요청은 GB200에서 최대 107 GiB를 썼습니다. 모델이 비인과적 어텐션과 255행 판독 헤드를 쓰기 때문에, 올바른 결과를 얻으려면 동봉된 pplx_decider 패키지가 필요합니다. 기본 서버에서 일반적인 인과적 추론을 하면 결과가 재현되지 않습니다. 카드에 따르면 GB200 1장에서 요청 중앙값은 96 ms이고 초당 약 20건을 처리합니다.
질문을 함께 묶는 설계에는 측정 가능한 이점과 측정 가능한 비용이 있습니다. 한 결정의 여러 측면을 묶으면 SATA-Bench에서 11.3포인트가 올랐지만, 경쟁 후보를 묶으면 ToolRet에서 최대 4.8포인트가 떨어졌습니다. 따라서 재순위화에서는 여전히 요청 하나에 후보 하나를 보내야 합니다. 4B인 Flash는 54.29로 71위까지 내려가며, 절반 가격이 시사하는 것보다 하락 폭이 큽니다.
제 역할을 하는 곳
하루 100만 건의 사용자 게시물을 검토하는 신뢰 및 안전 엔지니어
각 게시물에 고정된 정책 목록 기준 라벨을 글이 아닌 확률로 붙이기
Decisions API로 게시물당 choice 질문 하나를 입력 약 600토큰으로 보냅니다. 월 3,000만(30 million) 건이면 180억(18 billion) 토큰으로, v1.2에서 $360, Flash에서 $180입니다. 출력은 무료이고, 선택지별 확률이 있어 임계값 조정이 간단합니다.
쿼리당 후보 50개를 재순위화하는 검색 엔지니어
생성 전에 검색된 단락의 관련성 점수 매기기
후보마다 별도 요청으로 보냅니다. 카드에 따르면 경쟁 후보를 한 시퀀스로 묶으면 정확도가 최대 4.8포인트 떨어집니다. 100만 토큰당 $0.02이면 400토큰짜리 후보 50개는 쿼리당 $0.0004입니다.
청구 사진을 미국 API로 보낼 수 없는 유럽 보험사의 컴플라이언스 책임자
사내 하드웨어에서 파손 사진과 서류 분류
pplx_decider 패키지를 써서 여유 메모리가 52 GB를 넘는 GB200이나 비슷한 GPU에서 Apache 2.0 가중치를 돌립니다. 토큰당 요금이 없고 데이터가 건물 밖으로 나가지 않습니다. 비용은 GPU, 그리고 릴리스를 따라가는 엔지니어링입니다.
도입 전 확인할 점
- 설정
- API: model을 pplx-decider-v1.2 또는 pplx-decider-flash-v1.2로 지정해 POST /v1/decisions를 호출합니다. 자체 호스팅: 동봉된 pplx_decider 패키지를 pip로 설치하고 Decider.from_pretrained로 불러옵니다. 빠른 경로는 컴파일에 약 1분이 걸리므로 먼저 warmup()을 호출합니다.
- 연동
- usage.input_tokens로 요청별 토큰 수를 알려 주는 Perplexity API. Hugging Face 가중치. 기본 vLLM이나 SGLang 서빙은 문서화되어 있지 않고, 인과적 추론으로는 체크포인트가 재현되지 않습니다.
- 데이터와 개인정보
- Perplexity는 API 고객 콘텐츠를 생성 모델 학습에 쓰지 않는다고 밝힙니다. 보관 기간은 모델마다 다르고, 데이터 무보관은 서면 계약으로만 가능합니다. SOC 2 Type II. 가중치는 Apache 2.0이며 사용 제한이 없습니다.
- 대규모 사용 시 비용
- 600토큰짜리 결정 100만 건은 v1.2에서 $12, Flash에서 $6이며, Jev에서는 약 $25입니다. 자체 호스팅에서는 GB200 1장이 빠른 경로로 초당 약 20건(선택적 FP8 사용 시 25건), 최대 부하에서 하루 약 170만(1.7 million) 건을 처리합니다.
- 제한
- 질문당 선택지 1개에서 255개. 이미지는 1.6 MP까지(각각 약 1,600개 위치). 학습은 약 32K 토큰까지이며, 너무 긴 요청은 분할되어 질문들이 더 이상 함께 읽히지 않습니다. Decisions API 요청 한도는 공개되어 있지 않습니다.
좋은 점
- 비공개 테스트 기반 Decision Index에서 229개 중 4위, Jev 1.14보다 약 8점 높음
- 27B와 4B 모델 모두 Apache 2.0 가중치
- 최대 1.6 MP 이미지 판독
- 입력 1M 토큰당 $0.02, 출력 무료
아쉬운 점
- 자체 호스팅에 가중치용 약 52 GB와 Perplexity 자체 추론 패키지 필요
- 약 32K 시퀀스로 학습했고 더 긴 입력은 일부만 확인됨
- 이전 모델 이름이 버전 고정 없이 v1.2로 연결됨
- Flash는 같은 지수에서 71위로 점수가 훨씬 낮음
추천 대상
저렴한 API나 자체 GPU로 텍스트와 이미지에 대해 정해진 형식의 결정을 잘 내리고 싶은 팀.
Perplexity Decider (pplx-decider) 대안
Perplexity Decider (pplx-decider): 자주 묻는 질문
- Perplexity Decider (pplx-decider), 쓸 만한 가치가 있습니까?
- 내려받을 수 있고, 이미지를 읽으며, Jev의 절반도 안 되는 가격에 돌릴 수 있는 결정 모델입니다. 아무도 학습에 쓸 수 없는 테스트에서 Jev보다 훨씬 높은 점수를 냅니다. 평점은 5점 만점에 4.5점입니다.
- Perplexity Decider (pplx-decider)의 가격은 얼마입니까?
- API: pplx-decider-v1.2는 입력 1M 토큰당 $0.02, Flash는 $0.01입니다. 출력은 무료이고 요청당 요금은 없습니다. 가중치는 Apache 2.0으로 무료입니다.
- Perplexity Decider (pplx-decider)의 단점은 무엇입니까?
- 자체 호스팅에 가중치용 약 52 GB와 Perplexity 자체 추론 패키지 필요; 약 32K 시퀀스로 학습했고 더 긴 입력은 일부만 확인됨; 이전 모델 이름이 버전 고정 없이 v1.2로 연결됨; Flash는 같은 지수에서 71위로 점수가 훨씬 낮음.
- Perplexity Decider (pplx-decider)에 적합한 사람은 누구입니까?
- 저렴한 API나 자체 GPU로 텍스트와 이미지에 대해 정해진 형식의 결정을 잘 내리고 싶은 팀.
- 팀이나 프로덕션 환경에서 Perplexity Decider (pplx-decider)의 비용은 얼마입니까?
- 600토큰짜리 결정 100만 건은 v1.2에서 $12, Flash에서 $6이며, Jev에서는 약 $25입니다. 자체 호스팅에서는 GB200 1장이 빠른 경로로 초당 약 20건(선택적 FP8 사용 시 25건), 최대 부하에서 하루 약 170만(1.7 million) 건을 처리합니다.
- Perplexity Decider (pplx-decider)에 회사 데이터를 맡겨도 안전합니까?
- Perplexity는 API 고객 콘텐츠를 생성 모델 학습에 쓰지 않는다고 밝힙니다. 보관 기간은 모델마다 다르고, 데이터 무보관은 서면 계약으로만 가능합니다. SOC 2 Type II. 가중치는 Apache 2.0이며 사용 제한이 없습니다.
- Perplexity Decider (pplx-decider)의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 d3 (vLLM Semantic Router), Jev, Clef, GLiNER2.5-Decide, Laya 및 ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)입니다.
답변 확인일: 2026년 10월 22일.
Perplexity Decider (pplx-decider) 개발사입니까? 이 평점을 사이트에 표시하십시오
