Claude incorpora marcas de agua ocultas. Invisibles en el texto, el modelo se aparta en el código fuente

Prueba de autoría sin ruido visual

Anthropic está abordando el desafío de hacer auditables los resultados de los LLM. Este movimiento responde a los requisitos de la Ley de Inteligencia Artificial de Europa, específicamente el Código de Transparencia. El modelo implementará el sistema SynthID Text, desarrollado originalmente por Google DeepMind. Funciona ajustando sutilmente la distribución de probabilidad al seleccionar palabras en situaciones de bajo riesgo (como elegir entre palabras equivalentes). Esto crea una huella estadística que es invisible para los humanos pero detectable por un algoritmo específico.

El código exige una sintaxis estricta, no creatividad

El verdadero problema surge cuando Claude genera software. A diferencia de la prosa, donde los sinónimos pueden intercambiarse sin alterar el significado, el código fuente exige una sintaxis precisa. Si el sistema intenta forzar ruido estadístico en la estructura, existe el riesgo de que el código no compile. Para preservar las capacidades de programación del modelo, Anthropic tiene que excluir casi por completo la marca de agua del código. Está diseñada para funcionar solo en áreas con elecciones arbitrarias, típicamente dentro de los comentarios de código. El código funcional generado en sí mismo carecerá inherentemente de esta protección.

Fragilidad ante las ediciones y reescrituras humanas

El sistema se enfrenta a claros límites funcionales una vez que el resultado llega a los editores humanos. Anthropic reconoce que, si bien una edición ligera probablemente no eliminará la marca de agua por completo, una reescritura completa que reemplace cada palabra la destruirá. Además, si un usuario decide utilizar Claude únicamente para la revisión de un texto escrito por humanos, el sistema no tendrá a qué aferrarse, ya que la gran mayoría de las palabras no provienen del modelo.

Los entornos de producción probarán su durabilidad

El éxito de toda la iniciativa de marcas de agua no depende de las demostraciones de laboratorio, sino de si el sistema puede soportar la presión del uso diario en entornos ruidosos. El factor decisivo será si las empresas pueden identificar de manera fiable sus resultados incluso después de que el texto haya sido procesado por otros sistemas y, lo que es más importante, si los temores de degradación del rendimiento en tareas complejas de codificación (la razón principal por la que los usuarios pagan por el modelo) resultan infundados.

El veredicto de Lilith

El regulador obtuvo lo que quería en papel, pero la realidad del mercado se impone. Mientras la prioridad sea mantener una compilación perfecta y una lógica de código limpia, el sello de transparencia debe hacerse a un lado.