OpenAI hat die Model Spec, das öffentliche Dokument, das festlegt, wie sich seine Modelle verhalten sollen, um fünf Werte statt um eine lange Liste von Regeln neu geordnet. Die Änderung wiegt schwerer als die Überarbeitung eines Richtlinientextes sonst, denn auf die Spec hin trainiert OpenAI, und die Modelle hinter ChatGPT und der OpenAI API handeln zunehmend im Auftrag von Menschen, statt nur Fragen zu beantworten.
Die fünf Werte sind Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, Unterstützung menschlicher Selbstbestimmung und Fürsorge. Die Treue ist das Fundament. OpenAI beschreibt sie als das Verständnis dessen, was OpenAI, Entwickler und Nutzer tatsächlich beabsichtigen, statt Anweisungen nur wörtlich zu befolgen, und als vernünftiges Handeln, wenn dieses Verständnis lückenhaft ist. Die bestehende Befehlskette entscheidet weiterhin, wessen Anweisungen gelten: OpenAI setzt die äußeren Grenzen, Entwickler arbeiten darin, und Nutzer lenken das Modell in dem Rahmen, den Entwickler erlauben. Feste Sicherheitsgrenzen bleiben; die meisten übrigen Vorgaben werden zu Voreinstellungen, die Entwickler und Nutzer ändern können.
Das Update ergänzt Vorgaben in drei Bereichen. Ein neuer Abschnitt erklärt dem Modell, wie es Unterhaltungen, Erinnerungen und anderen Kontext nutzen soll, um abzuleiten, was jemand will. OpenAIs Beispiel ist ein Modell, das beim Vergleich von Jobangeboten eine früher genannte Vorliebe berücksichtigt, etwa planbare Arbeitszeiten, und diese Annahme dabei sichtbar und leicht korrigierbar macht. Neu sind Voreinstellungen dazu, die Fähigkeit von Menschen zu stärken, selbst zu entscheiden, und soziale wie berufliche Normen zu beachten, dazu ausführlichere Vorgaben, Nebenwirkungen der Handlungen des Modells zu begrenzen und offenzulegen. Zugleich entfallen die meisten detaillierten Stilregeln, weil Ton und Form sich jedem Nutzer anpassen sollen. Die Spec nennt das Modell nun GPT statt der Assistent, was die vielen Einsatzorte widerspiegelt.
Für Entwickler bedeutet der Wandel, dass Verhalten stärker über erklärte Ziele und weniger über feste Regeln bestimmt wird. Das ist für Agenten, die mehrstufige Arbeit erledigen, sinnvoll, macht Ergebnisse aber schwerer vorhersehbar. Ein Modell, das deiner Absicht dienen soll, wird manchmal eine Absicht ableiten, die du nicht hattest. Die Spec behält allerdings eine stärkere Voreinstellung dagegen, Menschen das zu sagen, was sie nach Einschätzung des Modells hören wollen, sofern sie nicht ausdrücklich eine bestimmte Sichtweise verlangen.
Der wichtigste Satz ist OpenAIs eigenes Eingeständnis: Seine Modelle setzen die Spec noch nicht vollständig um. OpenAI erprobt nach eigener Aussage neue Trainingsmethoden, um die Werte zu vermitteln, und will später Ergebnisse vorlegen, hat bislang aber keine veröffentlicht. Bis dahin beschreibt das Dokument, was OpenAI anstrebt, nicht, wie sich ChatGPT heute verhält. OpenAI bittet öffentlich um Rückmeldungen zu den Werten und den Abwägungen zwischen ihnen.