Buena parte de lo que hace un agente de IA durante el día no es escribir, sino decidir: a qué equipo va este ticket, si este mensaje es una petición de reembolso, si el siguiente paso debe ser una pregunta o una escalada. Cada elección es trivial; miles de ellas suman latencia y coste. La Decisions API de OpenAI, ya disponible para todos, es un punto de acceso dedicado justo a estas preguntas acotadas.
Funciona con GPT-6 Luna. El desarrollador define una pregunta y sus respuestas permitidas, aporta el contexto como texto, imágenes o JSON y recibe uno de tres tipos de respuesta: una probabilidad, una elección de una lista o una puntuación. OpenAI dice que es hasta 10 veces más rápido que preguntar lo mismo a Luna mediante la Responses API general. Desde la beta pública ha añadido caché de instrucciones para contexto reutilizado, residencia de inferencia en Estados Unidos y la UE, entrada JSON nativa, imágenes dentro de las instrucciones y hasta 400 preguntas en una sola petición, el doble del límite anterior. Una nueva conexión con GPT-Live permite a las aplicaciones de voz decidir en mitad de una conversación, por ejemplo si derivar una llamada o pedir una aclaración.
El precio es poco habitual. La entrada cuesta 0,10 dólares por millón de tokens y la entrada en caché 0,01, y la salida no se cobra, algo lógico cuando la respuesta es un solo número o una etiqueta. OpenAI cita usos internos, como clasificar transacciones de finanzas personales o puntuar la cobertura de prensa por temas.
La idea no es exclusiva de OpenAI. Los modelos d1 de Liquid AI, que reseñamos, también responden a muchas preguntas con nombre en una sola pasada con probabilidades calibradas, y son lo bastante pequeños para ejecutarse en un dispositivo en lugar de a través de una API. Para equipos que ya usan la API de OpenAI, el punto de acceso Decisions es el camino más fácil; para quien quiera mantener los datos en local o evitar pagar por llamada, la comparación que hay que hacer es con un modelo de decisiones abierto.
Conviene cierta cautela. La cifra de velocidad es de OpenAI y se mide frente a su propio punto de acceso más lento, no frente a rivales. El anuncio no publica datos de precisión ni de calibración, algo importante cuando una probabilidad decide lo siguiente que hace un agente. Para una sola tarea fija con muchos ejemplos etiquetados, un clasificador pequeño afinado puede seguir siendo más rápido y barato. El punto de acceso resulta más útil cuando las preguntas cambian a menudo y no compensa entrenar un modelo nuevo cada vez.