OpenAIは、自社モデルがどう振る舞うべきかを定めた公開文書Model Specを、長い規則の一覧ではなく5つの価値を軸に再編しました。Specは OpenAIがモデルを学習させる目標であり、ChatGPTやOpenAI APIの背後にあるモデルは、質問に答えるだけでなく人に代わって行動する場面が増えているため、この変更は方針文書の書き直しとしては異例に重要です。
5つの価値とは、人間の意図への忠実さ、害の最小化、誠実さと透明性、人間の主体性の支援、そして思いやりです。土台は忠実さです。OpenAIはこれを、指示を文字どおりに守るだけでなく、OpenAI、開発者、利用者が実際に何を意図しているかを理解し、その理解が不完全なときには賢明に行動することだと説明しています。どの指示が優先されるかは、これまでどおりの指揮系統で決まります。OpenAIが外枠を定め、開発者はその内側で作業し、利用者は開発者が許す範囲でモデルを導きます。厳格な安全上の境界は残り、それ以外の指針の多くは、開発者や利用者が変更できる既定値になります。
今回の更新では3つの分野に指針が加わりました。新しい節では、会話、記憶、その他の文脈を使って相手の望みを推し量る方法をモデルに示しています。OpenAIが挙げる例は、転職先の比較を手伝うモデルが、利用者が以前に話した「勤務時間が予測しやすいこと」といった好みを踏まえつつ、その前提を見えるようにして簡単に訂正できるようにする、というものです。人が自分で判断する力を支えることや、社会的・職業的な規範に従うことについての既定値が新たに加わり、モデルの行動がもたらす副作用を 抑え、伝えることについての指針も拡充されました。一方で、口調や形式は利用者ごとに合わせるべきだとして、細かな文体の規則の大半は廃止されています。またSpecでは、利用される場面の広がりを反映して、モデルを「アシスタント」ではなく「GPT」と呼ぶようになりました。
開発者にとってこの転換は、モデルの振る舞いが固定の規則よりも、示された目的によって決まるようになることを意味します。複数の手順を踏む作業をこなすエージェントには理にかなっていますが、結果を事前に予測しにくくなります。あなたの意図に沿うよう求められたモデルは、ときにあなたが持っていなかった意図を推測するでしょう。ただしSpecは、相手が特定の視点を明示的に求めない限り、相手が聞きたがっているとモデルが考えることを伝えないという既定値は、より強く維持しています。
最も重要な一文は、OpenAI自身の認める点です。同社のモデルはまだSpecを完全には反映していません。OpenAIはこれらの価値を教える新しい学習方法を試しており、結果は後で報告するとしていますが、今のところ何も公表していません。それまでは、この文書はOpenAIが目指すものを示すものであって、今日のChatGPTの振る舞いを示すものではありません。OpenAIは、各価値とその間の兼ね合いについて一般からの意見を募っています。