OpenAI reorganiza las reglas de GPT en cinco valores porque los agentes ya no caben en una lista de prohibiciones

El 29 de octubre OpenAI publicó una nueva versión de Model Spec, su descripción pública del comportamiento previsto para los modelos GPT en ChatGPT y mediante la API. El documento organiza las reglas en torno a cinco valores y aborda dos tensiones de forma explícita: los intereses individuales frente a los colectivos y las instrucciones inmediatas frente a los objetivos a largo plazo.

Cinco valores sustituyen el catálogo de reglas por un marco común

Los cinco son fidelidad a la intención humana, reducción del daño, honestidad y transparencia, apoyo a la autonomía humana y cuidado de las personas afectadas por el trabajo de GPT. Por encima se mantiene una jerarquía de instrucciones en la que las reglas superiores prevalecen sobre las peticiones del desarrollador y del usuario.

La especificación afirma que ser fiel a la intención exige más que obedecer literalmente. GPT debe considerar el propósito, la fuente, el alcance y la vigencia del contexto. También debe actuar dentro de un nivel de autonomía acordado, admitir la corrección humana y comunicar los efectos secundarios de sus acciones.

Las reglas apuntan a agentes que actúan fuera de la ventana de chat

En un chatbot convencional, la frontera entre responder y actuar está clara. Un agente con herramientas puede difuminarla al enviar un mensaje, modificar un archivo o trasladar información entre conversaciones. Model Spec trata por ello la privacidad de la audiencia, el uso del contexto, la corrección humana y los límites de permisos como partes de un mismo sistema.

La consecuencia práctica para los desarrolladores es directa. Un prompt por sí solo no produce un comportamiento seguro. La aplicación debe definir qué puede hacer el agente, qué pasos requieren consentimiento y qué podrá inspeccionar después el usuario. La especificación pública describe expectativas, pero el producto y su sistema de permisos también deben hacerlas cumplir.

Los valores exigen criterio y también permiten resultados dispares

Los cinco valores pueden entrar en conflicto. El documento reconoce que los intereses individuales y colectivos, o los objetivos inmediatos y futuros, no siguen siempre un orden fijo. Es una postura más honesta que una lista interminable de ejemplos, pero deposita más peso en el criterio del modelo y en cómo OpenAI equilibra esos valores durante el entrenamiento.

Model Spec describe el comportamiento deseado, no garantiza cada ejecución. El público puede ver reglas y ejemplos, pero no todo el entrenamiento ni los evals internos. La distancia entre una constitución bien redactada y la práctica cotidiana sigue siendo una cuestión empírica.

Los evals dirán si los cinco valores resisten el contacto con las herramientas

Las pruebas útiles cubrirán tareas agentivas largas con una intención ambigua, contexto sensible, instrucciones cambiantes y acciones con efectos secundarios. También importará que los desarrolladores reciban controles de consentimiento más precisos, trazas de auditoría y formas de revertir una intervención del agente.

Conviene comparar además los cambios entre versiones con el comportamiento real de la API. Si un mismo conflicto se resuelve de forma distinta según el producto o la versión, los cinco valores serán una estructura editorial y no un contrato operativo.

El veredicto de Lilith

OpenAI ha escrito cinco valores en el boletín de GPT. El examen de verdad empieza cuando el agente empuña una herramienta, el usuario cambia el encargo y no existe el botón Deshacer.