Boa parte do que um agente de IA faz o dia todo não é escrever, e sim decidir: qual equipe recebe este chamado, se esta mensagem é um pedido de reembolso, se o próximo passo deve ser uma pergunta ou uma escalada. Cada escolha é trivial; milhares delas somam latência e custo. A Decisions API da OpenAI, agora disponível para todos, é um endpoint dedicado justamente a essas perguntas fechadas.
Ela roda no GPT-6 Luna. O desenvolvedor define uma pergunta e as respostas permitidas, fornece o contexto em texto, imagens ou JSON e recebe um de três tipos de resposta: uma probabilidade, uma escolha de uma lista ou uma nota. A OpenAI diz que isso é até 10 vezes mais rápido do que perguntar o mesmo ao Luna pela Responses API geral. Desde a beta pública, ganhou cache de prompt para contexto reutilizado, residência de inferência nos Estados Unidos e na UE, entrada JSON nativa, imagens dentro das instruções e até 400 perguntas por requisição, o dobro do limite anterior. Uma nova integração com o GPT-Live permite que apps de voz decidam no meio da conversa, por exemplo se devem transferir uma ligação ou pedir um esclarecimento.
O preço é incomum. A entrada custa US$ 0,10 por milhão de tokens e a entrada em cache US$ 0,01, e a saída não é cobrada, o que faz sentido quando a resposta é um único número ou rótulo. A OpenAI cita usos internos, como categorizar transações de finanças pessoais e pontuar a cobertura da imprensa por tema.
A ideia não é exclusiva da OpenAI. Os modelos d1 da Liquid AI, que analisamos, também respondem a muitas perguntas nomeadas numa única passada com probabilidades calibradas, e são pequenos o bastante para rodar no aparelho em vez de por uma API. Para equipes que já usam a API da OpenAI, o endpoint Decisions é o caminho mais fácil; para quem quer manter os dados locais ou evitar cobrança por chamada, a comparação certa é com um modelo de decisão aberto.
Vale alguma cautela. O número de velocidade é da própria OpenAI e foi medido contra o seu endpoint mais lento, não contra rivais. O anúncio não traz dados de precisão nem de calibração, o que importa quando uma probabilidade define o próximo passo de um agente. Para uma única tarefa fixa com muitos exemplos rotulados, um classificador pequeno ajustado ainda pode ser mais rápido e barato. O endpoint é mais útil quando as perguntas mudam com frequência e não compensa treinar um modelo novo a cada vez.