앱 안에서 AI가 하는 일의 상당 부분은 글쓰기가 아니라 고르기입니다. 이 질의를 어떤 모델이 처리할지, 이 이미지가 규칙을 어기는지, 이 불만이 얼마나 심각한지 같은 판단입니다. Google의 새 Gemini Decisions API는 바로 이런 일을 위해 만들어졌습니다. 답을 단어 하나씩 생성하는 대신, 이 API의 모델 Gemini Decision 1이 정해진 선택지를 한 번에 채점해 확률을 돌려주므로 채팅 모델에 묻는 것보다 빠르고 훨씬 저렴합니다.
작동 방식은 간단합니다. 텍스트, 이미지, 오디오, 동영상, PDF를 섞어 최대 256K 토큰까지 담은 입력 하나를 보내고, 독립적인 질문을 최대 1,000개까지 붙입니다. 질문은 세 가지 유형 중 하나로, 예/아니요 확인, 2~255개 선택지 중 고르기, 순서가 있는 기준에 따른 점수 매기기입니다. 모든 답에는 0에서 1 사이의 신뢰도 점수가 붙어 개발자가 애매한 경우를 사람이나 더 강한 모델에 넘길 수 있습니다. Google은 전체 지연 시간이 150-250 ms이며, 입력이 16K 토큰 이하라면 요청당 질문이 1개든 100개든 거의 변하지 않는다고 밝혔습니다.
핵심은 가격입니다. Decision 1은 입력 100만 토큰당 0.10달러이고 출력은 무료이며, 공유 입력은 질문 수와 상관없이 한 번만 과금되고, AI Studio에는 시제품 제작용 무료 등급도 있습니다. Google은 자사 벤치마크 묶음에서 일반 API로 Gemini 3.5 Flash-Lite를 쓰는 것보다 5배 가까이 싸고, 보정 오차도 가장 낮다고 주장합니다. Google 내부에서는 이미 Gemini Notebook에서 질의를 라우팅하는 데 쓰여 일상적인 질문의 지연을 최대 40% 줄였다고 하며, Google Labs의 CC에서는 200개가 넘는 선택지 중 이모지 반응을 고르는 데 쓰입니다.
우리가 이미 추적하는 분야입니다. 우리가 리뷰한 TypeSafe AI의 Jev는 같은 개념의 타입이 정해진 선택과 확률을 입력 100만 토큰당 0.042달러, 출력 무료로 제공해 Google 가격의 절반도 되지 않습니다. Google의 강점은 기본 멀티모달 입력과 OpenRouter, LangChain, Vercel, LiteLLM 등과의 연동이고, Jev의 강점은 비용입니다. 대규모로 분류 작업을 하는 팀이라면 자기 데이터로 비교해 볼 만합니다.
단서는 늘 그렇듯 비슷합니다. 벤치마크 결과와 보정에 대한 주장은 Google 자체의 것이며, 발표에는 벤치마크 묶음이 자세히 설명되어 있지 않습니다. 판단 모델은 주어진 선택지 안에서만 고르므로 질문을 잘못 짜도 자신 있는 답이 돌아옵니다. 또 지연 시간 수치는 최대치인 256K보다 훨씬 짧은 입력을 전제로 합니다.