OpenAI organiza Model Spec en cinco valores y amplía el margen de juicio del modelo

OpenAI publicó una nueva versión de Model Spec el 29 de octubre. El comportamiento deseado de GPT se organiza ahora en torno a la fidelidad a la intención humana, la minimización del daño, la honestidad y transparencia, la autonomía humana y el cuidado.

Cinco valores sustituyen a una colección de reglas aisladas

La nueva estructura pretende explicar por qué existe cada regla y cómo resolver sus conflictos. OpenAI añade pautas sobre el uso del contexto y la memoria, la supervisión humana, la capacidad de corrección y el control de efectos secundarios. El documento habla ahora de GPT en lugar de asistente porque los modelos intervienen en más productos y tareas.

También retira la mayor parte de las pautas detalladas de estilo. El estilo debe adaptarse al idioma, la cultura y las preferencias del usuario. La jerarquía de instrucciones se mantiene en lo esencial, con las reglas superiores de Model Spec por encima de las instrucciones del desarrollador y el usuario.

El agente debe entender la intención sin tomar el volante

La tensión práctica está entre cumplir literalmente una orden y estimar lo que una persona realmente quiere. GPT debe usar el contexto, señalar consecuencias ignoradas y pedir aclaraciones ante acciones ambiguas o irreversibles. Al mismo tiempo, no debe convertir su predicción sobre una preferencia futura en una decisión ya tomada.

Esto importa especialmente para los agentes con herramientas. El texto da más peso a los presupuestos, los efectos secundarios, la posibilidad de detener una acción y la capacidad del usuario para retomar el trabajo. Para los desarrolladores, Model Spec se parece cada vez más a una política operativa y menos a una guía de tono para chatbots.

Los valores atractivos no resuelven los casos difíciles

OpenAI reconoce expresamente que los modelos actuales aún no reflejan por completo la especificación. Zvi Mowshowitz señala además que muchos ejemplos nuevos tienen una respuesta correcta demasiado evidente. Muestran un punto medio deseable entre dos extremos malos, pero explican poco cómo encontrarlo en situaciones realmente discutibles.

Conceptos como cuidado, normas sociales o fortalecimiento de la autonomía humana también pueden apuntar en direcciones distintas. Sin evals que midan conflictos entre valores, el modelo recibe un mapa impresionante pero sin escala precisa.

Los evals deben mostrar cómo cambian los valores el comportamiento

OpenAI tendrá que demostrar la diferencia entre las versiones antigua y nueva con escenarios concretos. Los casos más reveladores enfrentarán una orden explícita con una preferencia a largo plazo, la velocidad con la reversibilidad y el contexto personal con la privacidad.

Model Spec es un compromiso público y un objeto útil para la crítica. Su peso dependerá del comportamiento medible de los modelos y de que el usuario entienda por qué un agente actuó, se detuvo o se negó a continuar.

El veredicto de Lilith

OpenAI ha dibujado cinco puntos cardinales para GPT. La brújula será útil cuando el agente pueda explicar por qué giró en una dirección concreta ante un cruce real.