FlashProve verifica qué modelo respondió, a cambio de hasta 95 veces más tiempo de GPU

Anthropic ha demostrado que las pruebas criptográficas de inferencia pueden aplicarse a un modelo de 400.000 millones de parámetros. FlashProve permite verificar una respuesta frente a un compromiso publicado de los pesos sin entregar esos pesos al usuario.

Una prueba para 400.000 millones de parámetros ocupa 18,78 MB

FlashProve funciona en dos fases. Primero, el proveedor se compromete con un conjunto concreto de pesos. Después de la inferencia genera un zkSNARK que acredita que la entrada y el modelo comprometido produjeron el token comprobado.

Anthropic probó una versión pública de 4 bits de Llama 4 Maverick. Una H100 con 24 núcleos de CPU procesó un lote de 24 solicitudes en unos 223 segundos, equivalentes a 110 tokens por segundo. Cada prueba ocupó 18,78 MB y su verificación tardó 17 segundos con 24 hilos o 21 segundos con uno. El código, la especificación y las pruebas en Lean se publican bajo Apache 2.0.

Un auditor puede comprobar el modelo sin acceder a sus pesos

Para los clientes de routers de modelos, la propiedad clave es que el proveedor puede acreditar qué modelo atendió realmente una solicitud. El mismo mecanismo podría servir a evaluadores o auditores sin recursos ni permiso para ejecutar un modelo propietario.

FlashProve separa la confianza en una afirmación comercial de la confianza en una prueba criptográfica. No determina si una respuesta es correcta o segura. Acredita el origen del cálculo respecto a unos pesos y una entrada concretos.

El prototipo verifica un mundo distinto al de un chatbot normal

El rendimiento depende de condiciones estrictas. Las pruebas se generan después de la respuesta, el contexto se limita a 1.024 tokens y el benchmark principal comprueba un token. Cubre un modelo entero exacto con greedy decoding, mientras los servicios de producción suelen usar floating point y sampling.

La generación de pruebas consumió entre 70 y 95 veces más tiempo de GPU que la inferencia comparada en vLLM. Anthropic también reconoce que el informe técnico fue generado por AI y no se revisó en detalle. La especificación formal en Lean aún no demuestra equivalencia con el código rápido de C++ y GPU.

La reproducción decidirá si puede convertirse en una capa de auditoría

La siguiente prueba será reproducir de forma independiente el rendimiento y auditar el vínculo entre la especificación en Lean y el código ejecutable. Un despliegue real también necesita contextos más largos, métodos habituales de sampling y costes mucho menores.

FlashProve ya ha ampliado lo que puede demostrarse para un gran modelo MoE. Su integración en servicios reales de inference decidirá si el experimento criptográfico se convierte en un recibo útil para cálculos importantes.

El veredicto de Lilith

FlashProve puede adjuntar un recibo criptográfico a la respuesta de un modelo. Por ahora pesa 18,78 MB y mantiene la caja ocupada hasta 95 veces más que la cocina.