FlashProve verifica el origen de una respuesta, pero exige una prueba de 19 MB

Anthropic ha publicado FlashProve, un prototipo open source de provable inference. El proveedor se compromete primero, mediante criptografía, con un conjunto concreto de pesos. Después puede adjuntar a cada respuesta una prueba de que ese modelo produjo los tokens indicados para un prompt determinado.

El compromiso con los pesos vincula un modelo con una respuesta

La prueba no revela los pesos ni los cálculos intermedios. Cualquiera que tenga el compromiso, el prompt, la respuesta y la prueba puede verificar el resultado sin acceder al modelo. Así se podría detectar una sustitución tras una API, una manipulación del flujo de tokens o una diferencia entre el modelo auditado y el servido a los clientes.

Anthropic probó el sistema con una versión entera de 4 bits de Llama 4 Maverick, con 400.000 millones de parámetros. Una H100 generó pruebas a unos 110 tokens por segundo. La prueba para una solicitud de 1.024 tokens ocupó 18,78 MB y tardó 17 segundos en verificarse en una CPU de 24 hilos.

Las auditorías pueden recibir un recibo verificable en vez de una promesa

El valor práctico aparece sobre todo cuando importa la identidad del modelo y no solo la calidad del texto. Un auditor de seguridad podría confirmar que evaluó el mismo modelo que después atendió a los clientes. Una empresa también podría demostrar que una versión aprobada procesó una tarea sensible.

Eso cambia la relación entre el proveedor de inference y su cliente. Hoy una API obliga a confiar en el nombre del modelo que figura en la factura. Provable inference podría añadir un comprobante verificable por máquina sin exigir al proveedor que publique sus pesos.

El prototipo demuestra un cálculo más limitado que una API de producción

FlashProve comprueba un modelo entero con greedy decoding. La inference habitual, con operaciones en coma flotante o sampling, puede separarse del cálculo demostrado. El código rápido en C++ tampoco está vinculado formalmente a la especificación en Lean y Anthropic no garantiza que la implementación, el documento y el modelo formal coincidan por completo.

El coste sigue siendo considerable. Según las mediciones de Anthropic, generar la prueba consumió entre 70 y 95 veces más tiempo de GPU que la inference directa con vLLM. Además, el sistema funciona a posteriori: puede detectar una respuesta falsificada, pero no impide por sí solo que el usuario la reciba antes.

La integración con servidores reales decidirá si sale del laboratorio

El siguiente paso debe demostrar pruebas con decoding de producción, arquitecturas habituales y el servidor que entrega la respuesta. También importarán una revisión independiente del código y el coste a gran escala. Anthropic presenta FlashProve como investigación intermedia y no ha anunciado su despliegue en su propio servicio ni en otro proveedor.

El veredicto de Lilith

FlashProve permite al auditor poner un sello criptográfico a la respuesta del modelo. Por ahora, el sello pesa más que la carta y llega después de que el destinatario la haya abierto.