OpenAI a réorganisé le Model Spec, le document public qui décrit comment ses modèles doivent se comporter, autour de cinq valeurs plutôt que d'une longue liste de règles. Ce changement pèse plus que la réécriture habituelle d'un texte de principe, car le Spec est ce vers quoi OpenAI entraîne ses modèles, et ceux qui font tourner ChatGPT et l'OpenAI API agissent de plus en plus pour le compte des gens au lieu de simplement répondre à des questions.
Les cinq valeurs sont la fidélité à l'intention humaine, la réduction des préjudices, l'honnêteté et la transparence, le soutien à l'autonomie humaine et l'attention aux autres. La fidélité en est le fondement. OpenAI la décrit comme le fait de comprendre ce que veulent réellement OpenAI, les développeurs et les utilisateurs, au lieu de suivre les instructions à la lettre, et d'agir avec discernement quand cette compréhension est incomplète. La chaîne de commandement existante continue de décider quelles instructions l'emportent : OpenAI fixe les limites extérieures, les développeurs travaillent à l'intérieur, et les utilisateurs dirigent le modèle dans ce que les développeurs autorisent. Les limites de sécurité fermes demeurent ; la plupart des autres consignes deviennent des réglages par défaut que développeurs et utilisateurs peuvent modifier.
La mise à jour ajoute des consignes dans trois domaines. Une nouvelle section indique au modèle comment se servir des conversations, des souvenirs et d'autres éléments de contexte pour comprendre ce que veut quelqu'un. L'exemple d'OpenAI est celui d'un modèle qui aide à comparer des offres d'emploi en tenant compte d'une préférence exprimée plus tôt, comme des horaires prévisibles, tout en rendant cette hypothèse visible et facile à corriger. De nouveaux réglages par défaut portent sur le soutien à la capacité des personnes à décider par elles-mêmes et sur le respect des normes sociales et professionnelles, et les consignes sur la maîtrise et le signalement des effets secondaires des actions du modèle sont étoffées. Dans le même temps, la plupart des règles de style détaillées disparaissent, au motif que le ton et la forme doivent s'adapter à chaque utilisateur. Le Spec appelle aussi désormais le modèle GPT plutôt que l'assistant, signe de la diversité de ses usages.
Pour les développeurs, ce virage signifie que le comportement est défini davantage par des objectifs affichés que par des règles fixes, ce qui se justifie pour des agents menant des tâches en plusieurs étapes mais rend les résultats plus difficiles à anticiper. Un modèle chargé de servir votre intention en déduira parfois une que vous n'aviez pas. Le Spec conserve toutefois un réglage par défaut plus ferme contre le fait de dire aux gens ce que le modèle pense qu'ils veulent entendre, sauf s'ils demandent explicitement un point de vue particulier.
La phrase la plus importante est l'aveu d'OpenAI lui-même : ses modèles ne reflètent pas encore pleinement le Spec. L'entreprise dit tester de nouvelles méthodes d'entraînement pour transmettre ces valeurs et promet des résultats plus tard, mais n'en a publié aucun pour l'instant. D'ici là, le document décrit ce que vise OpenAI, pas la façon dont ChatGPT se comporte aujourd'hui. OpenAI invite le public à donner son avis sur les valeurs et les arbitrages entre elles.