AI 에이전트가 하루 종일 하는 일의 상당 부분은 글쓰기가 아니라 판단입니다. 이 티켓을 어느 팀에 보낼 지, 이 메시지가 환불 요청인지, 다음 단계가 확인 질문이어야 할지 상부 보고여야 할지 같은 것입니다. 하나하나는 사소하지만 수천 건이 쌓이면 지연과 비용이 커집니다. 정식 출시된 OpenAI의 Decisions API는 바로 이런 답이 정해진 질문을 위한 전용 엔드포인트입니다.
기반은 GPT-6 Luna입니다. 개발자가 질문과 허용되는 답을 정하고 텍스트, 이미지, JSON으로 맥락을 주면 확률, 목록 중 선택, 점수 세 가지 중 하나로 답이 돌아옵니다. OpenAI는 범용 Responses API로 Luna에게 같은 것을 묻는 것보다 최대 10배 빠르다고 말합니다. 공개 베타 이후 재사용하는 맥락을 위한 프롬프트 캐싱, 미국과 EU 내 추론 데이터 상주, JSON 기본 입력, 질문 지시 안의 이미지, 요청당 최대 400개 질문(이전 한도의 두 배)이 추가됐습니다. GPT-Live와의 새 연동으로 음성 앱은 통화를 돌릴지 확인 질문을 할지 같은 판단을 대화 도중에 내릴 수 있습니다.
가격 구조는 독특합니다. 입력은 100만 토큰당 0.10달러, 캐시된 입력은 0.01달러이고 출력에는 전혀 요금이 없습니다. 답이 숫자 하나나 라벨 하나인 용도에 맞는 방식입니다. OpenAI는 사내 활용 사례로 개인 금융 거래 분류와 언론 보도를 주제별로 점수 매기는 일을 듭니다.
이 아이디어가 OpenAI만의 것은 아닙니다. 저희가 리뷰한 Liquid AI의 d1 모델도 이름을 붙인 여러 질문에 한 번에 보정된 확률로 답하며, API를 거치지 않고 기기에서 돌릴 만큼 작습니다. 이미 OpenAI API를 쓰는 팀에는 Decisions 엔드포인트가 쉬운 길이고, 데이터를 로컬에 두거나 호출당 요금을 피하고 싶다면 오픈 판단 모델과 비교해 봐야 합니다.
조심할 점도 있습니다. 속도 수치는 OpenAI가 낸 것이며, 경쟁사가 아니라 자사의 더 느린 엔드포인 트와 비교한 것입니다. 발표에는 정확도나 보정에 관한 자료가 없는데, 확률이 에이전트의 다음 행동을 정할 때는 이것이 중요합니다. 라벨이 붙은 예시가 많은 고정된 단일 작업이라면 작게 미세 조정한 분류기가 여전히 더 빠르고 쌀 수 있습니다. 이 엔드포인트는 질문이 자주 바뀌어 매번 새 모델을 학습시킬 가치가 없는 곳에서 가장 쓸모 있습니다.