OpenAI marcará los textos en la UE, pero dosificará el acceso al detector

OpenAI empezará a añadir durante las próximas semanas una marca de agua invisible a las salidas de texto aptas de ChatGPT y Codex en la Unión Europea. Los clientes de la API de todo el mundo ya pueden activarla para determinados modelos, aunque seguirá desactivada por defecto en la API.

El usuario de la UE recibe la marca automáticamente y el desarrollador de API la elige

La empresa establece regímenes distintos para los productos de consumo y la API. Determinadas respuestas de ChatGPT y Codex en la UE llevarán la marca en todos los planes. En la API, la función será opcional a escala mundial para modelos seleccionados.

La marca altera el patrón estadístico de selección de palabras, no el aspecto del documento. OpenAI denomina textGrain a la tecnología. El detector puede indicar que un sistema de OpenAI generó o procesó parte de un texto, pero no identifica al usuario, no mide la aportación humana, no establece la propiedad ni determina si el contenido es cierto.

Una huella obligatoria con lector restringido desplaza el poder

Las organizaciones pueden solicitar acceso al detector, pero el grupo inicial se limitará a investigadores y entidades especializadas que hayan sido aprobados. La capacidad de leer la marca queda así en menos manos que su aplicación. Un centro educativo, una redacción o una empresa pueden querer evaluar la procedencia, mientras que el usuario corriente no podrá comprobar el resultado por su cuenta.

Esta cuestión de gobernanza pesa más que el mecanismo técnico por sí solo. Una herramienta de procedencia puede influir en disputas de autoría y necesita reglas claras para el acceso, los recursos y los resultados inciertos. El artículo 50 de la AI Act impulsa el marcado legible por máquinas, pero no crea automáticamente un proceso justo alrededor de la señal.

La edición debilita la señal y un negativo demuestra muy poco

El informe técnico de OpenAI muestra que la fiabilidad depende de la longitud y de las modificaciones. En una prueba, con una tasa objetivo de falsos positivos del 1 %, la detección alcanzó cerca del 80 % con 200 tokens y del 95 % con 400 tokens. En un texto de 400 tokens, sustituir el 25 % de las palabras por sinónimos redujo la detección a alrededor del 17 %.

La marca no puede decidir por sí sola un expediente disciplinario o laboral. La traducción, la paráfrasis y una edición rutinaria pueden debilitar la huella. Un resultado negativo tampoco demuestra que el texto sea humano.

Las pruebas independientes y las vías de recurso decidirán su utilidad

Habrá que observar quién obtiene realmente acceso al detector, si investigadores externos pueden reproducir los resultados de la empresa y cómo gestionan las instituciones los casos discutidos. También importará el rendimiento entre idiomas, después de una traducción y tras una edición normal.

La obligación europea introducirá una huella en el texto. El sistema solo ganará confianza cuando las personas vean tanto el resultado del detector como su incertidumbre y una vía para impugnarlo.

El veredicto de Lilith

La marca puede aparecer en el trabajo de cualquier estudiante europeo mientras la llave para leerla queda tras el mostrador de OpenAI. Quien reparte sellos también debe explicar cómo se impugna una impresión errónea.