Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Actualités et recherche IA

Actualités ·

La Decisions API d'OpenAI est disponible pour la classification rapide

La Decisions API, construite sur GPT-6 Luna, répond à des questions fermées comme l'aiguillage ou la classification et renvoie une probabilité, un choix ou un score. Selon OpenAI, elle est jusqu'à 10x plus rapide qu'un appel à Luna via la Responses API. La disponibilité générale ajoute la mise en cache des prompts, une inférence localisée aux États-Unis et dans l'UE, l'entrée JSON native et jusqu'à 400 questions par requête, le double de la bêta.

Une bonne part de ce que fait un agent d'IA dans la journée n'est pas d'écrire mais de décider : quelle équipe doit recevoir ce ticket, ce message est-il une demande de remboursement, la prochaine étape doit-elle être une question ou une escalade. Chaque choix est anodin ; des milliers finissent par peser en latence et en coût. La Decisions API d'OpenAI, désormais disponible pour tous, est un point d'accès dédié à ces questions fermées.

Elle repose sur GPT-6 Luna. Le développeur définit une question et ses réponses autorisées, fournit le contexte sous forme de texte, d'images ou de JSON, et reçoit l'un de trois types de réponse : une probabilité, un choix dans une liste ou un score. Selon OpenAI, c'est jusqu'à 10 fois plus rapide que de poser la même question à Luna via la Responses API généraliste. Depuis la bêta publique se sont ajoutés la mise en cache des requêtes pour le contexte réutilisé, l'inférence localisée aux États-Unis et dans l'UE, l'entrée JSON native, des images dans les consignes et jusqu'à 400 questions par requête, le double de l'ancienne limite. Une nouvelle liaison avec GPT-Live permet aux applications vocales de décider en pleine conversation, par exemple s'il faut transférer un appel ou demander une précision.

La tarification sort de l'ordinaire. L'entrée coûte 0,10 dollar par million de tokens et l'entrée en cache 0,01, et la sortie n'est pas facturée du tout, ce qui convient à une réponse réduite à un nombre ou une étiquette. OpenAI cite des usages internes, comme la catégorisation de transactions de finances personnelles ou la notation de la couverture presse par thème.

L'idée n'est pas propre à OpenAI. Les modèles d1 de Liquid AI, que nous testons, répondent eux aussi à de nombreuses questions nommées en une seule passe avec des probabilités calibrées, et sont assez petits pour tourner sur l'appareil plutôt que via une API. Pour les équipes déjà sur l'API d'OpenAI, le point d'accès Decisions est la voie la plus simple ; pour qui veut garder ses données en local ou éviter de payer à l'appel, c'est avec un modèle de décision ouvert qu'il faut comparer.

Quelques précautions s'imposent. Le chiffre de vitesse vient d'OpenAI et se mesure par rapport à son propre point d'accès plus lent, pas face aux concurrents. L'annonce ne publie aucune donnée de précision ni de calibrage, ce qui compte quand une probabilité décide de la suite des actions d'un agent. Pour une tâche fixe unique avec beaucoup d'exemples annotés, un petit classificateur affiné peut rester plus rapide et moins cher. Le point d'accès est surtout utile quand les questions changent souvent et qu'entraîner un nouveau modèle à chaque fois ne vaut pas la peine.

Notre avis : Les chaînes d'agents consomment beaucoup d'appels pour de petits choix binaires, et un point d'accès dédié a donc du sens. Si vous n'avez qu'une tâche fixe, comparez-le tout de même à un petit classificateur affiné, qui peut être encore plus rapide et moins cher.

Nos tests :OpenAI APIGPT-6 Luna

Source : OpenAI

Autres articles