AIエージェントが一日中していることの多くは、文章を書くことではなく判断することです。このチケットをどのチームに回すか、このメッセージは返金の依頼か、次の手順は確認の質問かエスカレーションか。1つ1つの選択は取るに足りませんが、何千も重なると遅延とコストがかさみます。OpenAIのDecisions APIは、こうした答えの範囲が決まった質問のための専用エンドポイントで、一般提供が始まりました。
基盤はGPT-6 Lunaです。開発者は質問と許される答えを定義し、テキスト、画像、JSONで文脈を渡すと、確率、リストからの選択、スコアの3種類のいずれかで答えが返ってきます。OpenAIによると、汎用のResponses APIを通じてLunaに同じことを尋ねるより最大10倍速いといいます。公開ベータ以降、再利用する文脈のためのプロンプトキャッシュ、米国とEUでの推論データの所在地指定、JSONのネイティブ入力、質問の指示への画像の埋め込み、1回のリクエストで最大400問（従来の2倍）が加わりました。GPT-Liveとの新しい連携により、音声アプリは通話を転送するか確認の質問をするかといった判断を会話の途中で行えます。
料金体系は珍しいものです。入力は100万トークンあたり0.10ドル、キャッシュ済み入力は0.01ドルで、出力には一切課金されません。答えが数字1つやラベル1つで済む用途に合っています。OpenAIは社内での利用例として、個人の家計の取引の分類や、報道をテーマ別に採点する作業を挙げています。
この発想はOpenAIだけのものでは ありません。私たちがレビューしているLiquid AIのd1モデルも、名前を付けた多くの質問に1回の処理で較正済みの確率で答え、APIを通さず端末上で動かせるほど小型です。すでにOpenAIのAPIを使っているチームにはDecisionsエンドポイントが手軽な選択肢であり、データを手元に置きたい、呼び出しごとの料金を避けたいという場合は、オープンな判定モデルと比べるべきです。
注意も必要です。速度の数字はOpenAI自身によるもので、競合ではなく自社のより遅いエンドポイントと比べたものです。発表には精度や較正のデータがなく、確率がエージェントの次の行動を決める場合にはこれが重要です。ラベル付きの例が豊富な固定の単一タスクなら、小型の微調整済み分類器のほうが速く安い可能性もあります。このエンドポイントが最も役立つのは、質問が頻繁に変わり、そのたびに新しいモデルを学習させる価値がない場面です。