Lilith.
⌕
Ilustración editorial: OpenAI reduce del 54 % al 0,2 % el éxito al extraer razonamiento
Ilustración de Lilith · remezcla editorial

OpenAI ha descrito su defensa frente a adversarial distillation, un ataque que recopila las salidas de un modelo ajeno para entrenar otro sistema. El dato principal afecta al razonamiento protegido: en una prueba interna adaptativa de tipo black-box, el éxito al extraer una traza de una petición anterior bajó del 54 % en GPT-6 Astra al 0,2 % en GPT-6.2 Astra.

GPT-6.2 Astra cierra la vía más directa hacia las trazas internas

OpenAI empleó seis modelos atacantes capaces de ajustar su estrategia según las respuestas. Para el razonamiento de la petición en curso, el éxito medio cayó del 22,9 % al 0,9 %. La empresa afirma que GPT-6.2 Sol incorpora las mismas defensas.

La protección combina entrenamiento, clasificadores de entrada y salida y reglas de API. También revisa los argumentos de tool calls, donde el modelo podría filtrar una traza sin enseñársela al usuario. Además, el razonamiento protegido queda ligado al historial de conversación y las familias antiguas no pueden leer las trazas nuevas.

La defensa pasa de una cuenta aislada a campañas coordinadas

OpenAI asegura que sus medidas semanales han afectado desde miles hasta decenas de miles de cuentas. Por eso no basta con filtrar una petición. La empresa busca patrones entre cuentas, incorpora los ataques detectados al entrenamiento y comparte indicadores con otros proveedores.

Para quien opera una API, el problema supera la propiedad intelectual. Los datos que enseñan a un modelo pequeño a programar o resolver biología también pueden transferir capacidades cuyo uso estaba limitado. Sin detección de campañas, un buen filtro es solo un torno ante una multitud de cuentas desechables.

El eval interno mide fugas de trazas, no el fin de la copia

OpenAI diseñó y publicó su propia evaluación. Compara dos generaciones con defensas distintas, de modo que no aísla el efecto del modelo frente al resto del sistema. Tampoco mide cuánto puede aprenderse de respuestas finales, reasoning summaries y tool calls sin recuperar un chain-of-thought exacto.

Investigaciones independientes indican además que trazas aproximadas pueden recuperar valor tras reinforcement learning adicional. Eso respalda una defensa por capas, pero convierte el 0,2 % en un resultado acotado, no en una victoria definitiva.

La resistencia a nuevos ataques y a escala real decidirá su valor

Las siguientes pruebas deberían usar otros student models, métodos de entrenamiento y presupuestos de consultas. También habrá que comprobar si las defensas perjudican explicaciones legítimas o workflows de agentes largos basados en reasoning summaries y tool calls.

OpenAI promete más datos sobre las campañas interrumpidas. El tiempo de detección, el volumen extraído y resultados externos mostrarán si la protección encarece de verdad la distillation o si solo cierra una abertura concreta.

El veredicto de Lilith

OpenAI ha enseñado una cerradura que resistió sus propias ganzúas en el 99,8 % de los intentos. El ladrón de capacidades aún puede llevarse la casa ladrillo a ladrillo mediante respuestas, summaries y tool calls.