OpenAI ha reorganizado el Model Spec, el documento público que dice cómo deben comportarse sus modelos, en torno a cinco valores en lugar de una larga lista de reglas. El cambio importa más de lo que suele importar la reescritura de un texto normativo, porque el Spec es aquello hacia lo que OpenAI entrena, y los modelos detrás de ChatGPT y de la OpenAI API actúan cada vez más en nombre de las personas en lugar de limitarse a responder preguntas.
Los cinco valores son la fidelidad a la intención humana, la minimización del daño, la honestidad y la transparencia, el apoyo a la autonomía humana y el cuidado. La fidelidad es la base. OpenAI la describe como entender lo que de verdad pretenden OpenAI, los desarrolladores y los usuarios, no solo seguir las instrucciones al pie de la letra, y actuar con sensatez cuando esa comprensión es incompleta. La cadena de mando existente sigue decidiendo qué instrucciones prevalecen: OpenAI fija los límites exteriores, los desarrolladores trabajan dentro de ellos y los usuarios dirigen el modelo dentro de lo que permiten los desarrolladores. Los límites de seguridad firmes se mantienen; la mayor parte del resto de la guía pasa a ser valores por defecto que desarrolladores y usuarios pueden cambiar.
La actualización añade orientaciones en tres áreas. Una sección nueva explica al modelo cómo usar las conversaciones, los recuerdos y otro contexto para deducir lo que alguien quiere. El ejemplo de OpenAI es un modelo que ayuda a comparar ofertas de trabajo y tiene en cuenta una preferencia que el usuario mencionó antes, como un horario previsible, a la vez que deja esa suposición a la vista y fácil de corregir. Hay nuevos valores por defecto sobre apoyar la capacidad de las personas de decidir por sí mismas y sobre seguir las normas sociales y profesionales, y una guía más extensa sobre controlar y comunicar los efectos secundarios de lo que hace el modelo. Al mismo tiempo, desaparecen casi todas las reglas detalladas de estilo, con la idea de que el tono y el formato deben adaptarse a cada usuario. El Spec llama ahora al modelo GPT en lugar de el asistente, reflejo de los muchos lugares en que se despliega.
Para los desarrolladores, el cambio implica que el comportamiento se define más por objetivos declarados y menos por reglas fijas, algo sensato para agentes que hacen trabajos de varios pasos, pero que hace los resultados más difíciles de prever. Un modelo al que se le pide servir a tu intención a veces deducirá una intención que no tenías. El Spec sí mantiene un valor por defecto más firme contra decir a la gente lo que el modelo cree que quiere oír, salvo que pida expresamente una perspectiva concreta.
La frase más importante es la propia admisión de OpenAI: sus modelos todavía no reflejan del todo el Spec. Dice que está probando nuevos métodos de entrenamiento para enseñar estos valores y que informará de los resultados más adelante, pero hasta ahora no ha publicado ninguno. Mientras no lleguen, el documento describe a qué aspira OpenAI, no cómo se comporta ChatGPT hoy. OpenAI ha pedido opiniones públicas sobre los valores y los equilibrios entre ellos.