Les publicités des moteurs de recherche répondent à une requête unique. Les conversations ChatGPT ne fonctionnent pas ainsi : quelqu'un parle de course à pied, demande quelques messages plus tard des chaussures, puis mentionne une semaine après une randonnée. OpenAI a publié une description technique du système publicitaire qu'il a conçu pour ce type d'intention mouvante, l'un des aperçus les plus détaillés jamais donnés par une entreprise d'IA sur la sélection de ses annonces.
Au cœur du dispositif se trouve un modèle de langage maison, post-entraîné, qu'OpenAI appelle l'orchestrateur. Il pilote tout le circuit publicitaire comme un agent, en appelant des outils en boucle. Il résume la conversation en une ou plusieurs requêtes commerciales, les convertit en embeddings, récupère dans plusieurs index un ensemble volontairement large d'annonces candidates, écarte celles qui échouent sur le ciblage, les règles, le budget ou le rythme de diffusion, et transmet les autres à des systèmes qui notent la pertinence et l'engagement prévu. Il propose ensuite des candidates plausibles à un outil d'enchères distinct, qui fixe le prix et désigne la gagnante ; l'orchestrateur ne choisit ni l'annonce finale ni son prix. Si une annonce paraît malgré tout déplacée, ou n'est pas prête avant la réponse de ChatGPT, elle n'est pas affichée, et OpenAI insiste sur le fait que ne renvoyer aucune annonce est un résultat normal.
Deux choix de conception comptent surtout pour les utilisateurs. Les sessions publicitaires ont une mémoire : elles retiennent le contexte d'un message à l'autre et d'une conversation à l'autre, et pour ceux qui acceptent la publicité personnalisée, l'orchestrateur peut utiliser des informations non sensibles issues d'échanges passés. Et la sélection des annonces tourne dans son propre service, avec des modèles et un code distincts, à côté de la génération des réponses et non à l'intérieur. Selon OpenAI, cela empêche les annonces d'influencer les réponses, et une panne du système publicitaire ne peut pas ralentir ChatGPT. Le système a aidé ChatGPT Ads à dépasser un rythme annualisé de 1 milliard de dollars de revenus moins de 200 jours après son lancement.
Pour les lecteurs qui comparent les offres Free et Go de ChatGPT aux offres payantes, cette séparation est la bonne architecture, et c'est plus que ce que révèlent la plupart des produits financés par la publicité.
Les limites relèvent de la confiance plus que de l'ingénierie. Aucun audit indépendant ne vérifie la frontière entre annonces et réponses ; les utilisateurs doivent croire OpenAI sur parole. La mémoire entre conversations est un vrai compromis sur la vie privée, et le billet ne définit pas ce qui est non sensible. OpenAI décrit aussi une boucle d'auto-amélioration où des modèles évaluent les diffusions et entraînent d'autres modèles publicitaires, ce qui rendra le comportement du système plus difficile à suivre de l'extérieur avec le temps.