OpenAI가 자사 모델이 어떻게 행동해야 하는지 밝힌 공개 문서인 Model Spec을 긴 규칙 목록 대신 다섯 가지 가치를 중심으로 재편했습니다. Spec은 OpenAI가 모델을 학습시키는 목표이고, ChatGPT와 OpenAI API 뒤에 있는 모델들은 질문에 답하는 데 그치지 않고 점점 더 사람을 대신해 행동하기 때문에, 이번 변화는 보통의 정책 문서 개정보다 훨씬 중요합니다.
다섯 가지 가치는 인간의 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성 지원, 그리고 배려입니다. 그 토대는 충실성입니다. OpenAI는 이를 지시를 글자 그대로 따르는 데 그치지 않고 OpenAI, 개발자, 사용자가 실제로 의도하는 바를 이해하며, 그 이해가 불완전할 때는 현명하게 행동하는 것이라고 설명합니다. 누구의 지시가 우선하는지는 기존의 지휘 체계가 계속 정합니다. OpenAI가 바깥 경계를 정하고, 개발자는 그 안에서 작업하며, 사용자는 개발자가 허용하는 범위 안에서 모델을 이끕니다. 확고한 안전 경계는 그대로 남고, 나머지 지침 대부분은 개발자와 사용자가 바꿀 수 있는 기본값이 됩니다.
이번 개정은 세 영역에 지침을 더했습니다. 새 절은 모델이 대화, 기억, 기타 맥락을 활용해 상대가 원하는 바를 추론하는 방법을 설명합니다. OpenAI가 드는 예는 일자리 제안을 비교하도록 돕는 모델이 사용자가 앞서 언급한 예측 가능한 근무 시간 같은 선호를 반영하되, 그 가정을 드러내 쉽게 바로잡을 수 있게 하는 것입니다. 사람들이 스스로 결정하는 능력을 지원하는 것과 사회적·직업적 규범을 따르는 것에 관한 새 기본값이 생겼고, 모델의 행동이 낳는 부작용을 통제하고 알리는 것에 관한 지침도 늘었습니다. 동시에 어조와 형식은 사용자마다 맞춰야 한다는 판단에 따라 세부 문체 규칙 대부분이 사라졌습니다. 또한 Spec은 모델이 쓰이는 곳이 다양해진 점을 반영해 이제 모델을 어시스턴트가 아니라 GPT라고 부릅니다.
개발자에게 이 변 화는 모델의 행동이 고정된 규칙보다 명시된 목표에 따라 더 많이 정해진다는 뜻입니다. 여러 단계의 작업을 하는 에이전트에는 합리적이지만, 결과를 미리 예측하기는 더 어려워집니다. 당신의 의도를 따르라는 지시를 받은 모델은 때로 당신에게 없던 의도를 추론할 것입니다. 다만 Spec은 사용자가 특정 관점을 명시적으로 요청하지 않는 한, 모델이 상대가 듣고 싶어 한다고 생각하는 말을 해 주지 않도록 하는 기본값은 더 강하게 유지합니다.
가장 중요한 문장은 OpenAI 스스로의 인정입니다. 자사 모델이 아직 Spec을 완전히 반영하지 못한다는 것입니다. OpenAI는 이 가치들을 가르치기 위한 새로운 학습 방법을 시험 중이며 결과는 나중에 공개하겠다고 하지만, 아직 아무것도 발표하지 않았습니다. 그때까지 이 문서는 OpenAI가 지향하는 바를 설명할 뿐, 오늘날 ChatGPT가 어떻게 행동하는지를 설명하지는 않습니다. OpenAI는 각 가치와 그 사이의 균형에 대해 공개 의견을 요청했습니다.