Vieles, was ein KI-Agent den ganzen Tag tut, ist nicht Schreiben, sondern Entscheiden: Welches Team bekommt dieses Ticket, ist diese Nachricht ein Erstattungswunsch, soll der nächste Schritt eine Rückfrage oder eine Eskalation sein. Jede einzelne Wahl ist trivial; Tausende davon summieren sich zu Wartezeit und Kosten. Die Decisions API von OpenAI, jetzt allgemein verfügbar, ist ein eigener Endpunkt genau für solche begrenzten Fragen.
Sie läuft auf GPT-6 Luna. Entwickler legen eine Frage und die erlaubten Antworten fest, liefern Kontext als Text, Bild oder JSON und erhalten eine von drei Antwortarten zurück: eine Wahrscheinlichkeit, eine Auswahl aus einer Liste oder eine Bewertung. Laut OpenAI ist das bis zu 10-mal schneller, als Luna dasselbe über die allgemeine Responses API zu fragen. Seit der öffentlichen Beta kamen Prompt-Caching für wiederverwendeten Kontext, Inferenz mit Datenstandort in den USA und der EU, native JSON-Eingaben, Bilder in den Frageanweisungen und bis zu 400 Fragen pro Anfrage hinzu, doppelt so viele wie zuvor. Eine neue Anbindung an GPT-Live erlaubt Sprach-Apps Entscheidungen mitten im Gespräch, etwa ob ein Anruf weitergeleitet oder nachgefragt werden soll.
Die Preisgestaltung ist ungewöhnlich. Eingaben kosten 0,10 Dollar pro Million Token, gecachte Eingaben 0,01 Dollar, und für Ausgaben fällt gar nichts an, was zu einer Antwort passt, die aus einer Zahl oder einem Etikett besteht. OpenAI nennt interne Anwendungen, etwa das Kategorisieren von Transaktionen in der persönlichen Finanzplanung und das Bewerten von Presseberichten nach Themen.
Die Idee ist nicht exklusiv. Die d1-Modelle von Liquid AI, die wir besprechen, beantworten ebenfalls viele benannte Fragen in einem Durchlauf mit kalibrierten Wahrscheinlichkeiten und sind klein genug, um auf dem Gerät statt über eine API zu laufen. Für Teams, die schon die OpenAI-API nutzen, ist der Decisions-Endpunkt der bequemere Weg; wer Daten lokal halten oder Gebühren pro Aufruf vermeiden will, sollte ihn mit einem offenen Entscheidungsmodell vergleichen.
Etwas Vorsicht ist angebracht. Die Geschwindigkeitsangabe stammt von OpenAI und wird am eigenen langsameren Endpunkt gemessen, nicht an Konkurrenten. Die Mitteilung enthält keine Daten zu Genauigkeit oder Kalibrierung, was wichtig ist, wenn eine Wahrscheinlichkeit bestimmt, was ein Agent als Nächstes tut. Für eine einzige feste Aufgabe mit vielen gelabelten Beispielen kann ein kleiner feinabgestimmter Klassifikator weiterhin schneller und günstiger sein. Am nützlichsten ist der Endpunkt dort, wo sich die Fragen oft ändern und sich ein neues Modell jedes Mal nicht lohnt.