A OpenAI reorganizou o Model Spec, o documento público que diz como seus modelos devem se comportar, em torno de cinco valores em vez de uma longa lista de regras. A mudança pesa mais do que a reescrita de um texto de política costuma pesar, porque o Spec é o alvo para o qual a OpenAI treina, e os modelos por trás do ChatGPT e da OpenAI API agem cada vez mais em nome das pessoas, em vez de só responder perguntas.
Os cinco valores são fidelidade à intenção humana, minimização de danos, honestidade e transparência, apoio à autonomia humana e cuidado. A fidelidade é a base. A OpenAI a descreve como entender o que a OpenAI, os desenvolvedores e os usuários realmente pretendem, e não apenas seguir instruções ao pé da letra, e agir com bom senso quando esse entendimento é incompleto. A cadeia de comando existente continua decidindo quais instruções prevalecem: a OpenAI define os limites externos, os desenvolvedores trabalham dentro deles e os usuários dirigem o modelo dentro do que os desenvolvedores permitem. Os limites firmes de segurança continuam; a maior parte das outras orientações vira padrão que desenvolvedores e usuários podem alterar.
A atualização acrescenta orientações em três áreas. Uma seção nova explica ao modelo como usar conversas, memórias e outro contexto para inferir o que alguém quer. O exemplo da OpenAI é um modelo que ajuda a comparar ofertas de emprego levando em conta uma preferência que o usuário citou antes, como horários previsíveis, deixando essa suposição visível e fácil de corrigir. Há novos padrões sobre apoiar a capacidade das pessoas de decidir por si mesmas e sobre seguir normas sociais e profissionais, além de orientações mais longas sobre controlar e comunicar os efeitos colaterais das ações do modelo. Ao mesmo tempo, quase todas as regras detalhadas de estilo saem, com a ideia de que tom e formato devem se adaptar a cada usuário. O Spec também passa a chamar o modelo de GPT em vez de o assistente, refletindo os muitos lugares em que ele é usado.
Para desenvolvedores, a mudança significa que o comportamento passa a ser definido mais por objetivos declarados e menos por regras fixas, o que faz sentido para agentes que executam trabalhos em várias etapas, mas torna os resultados mais difíceis de prever. Um modelo instruído a servir à sua intenção às vezes vai deduzir uma intenção que você não tinha. O Spec mantém, porém, um padrão mais firme contra dizer às pessoas o que o modelo acha que elas querem ouvir, a não ser que peçam explicitamente uma perspectiva específica.
A frase mais importante é a própria admissão da OpenAI: seus modelos ainda não refletem totalmente o Spec. A empresa diz que está testando novos métodos de treino para ensinar esses valores e que vai divulgar resultados depois, mas até agora não publicou nenhum. Até lá, o documento descreve o que a OpenAI pretende alcançar, não como o ChatGPT se comporta hoje. A OpenAI convidou o público a opinar sobre os valores e os equilíbrios entre eles.