Llamar destilación al abuso de API desvía la respuesta

Nathan Lambert cuestiona el uso amplio de model distillation para describir conductas que incluyen claves API robadas, cuentas fraudulentas, jailbreaks y evasión de restricciones regionales. La destilación en sí es una técnica habitual para enseñar a un modelo pequeño con las salidas de otro más potente.

Una sola etiqueta cubre varios ataques distintos

Lambert respondía al debate estadounidense sobre empresas chinas de AI. Un aviso conjunto de NSA, CISA y FBI de septiembre de 2026 sostiene que seis compañías con sede en China obtuvieron miles de millones de tokens mediante millones de peticiones a modelos Claude, GPT, Gemini y Grok desde finales de 2024. El documento cita a DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI.

Las agencias describen API nativas, servicios cloud, agregadores y un mercado gris de proxies llamados transfer stations. También señalan cuentas fraudulentas, prompt injection, jailbreaks e intentos de extraer resultados ocultos de chain-of-thought. La objeción de Lambert es taxonómica: robar credenciales y sortear protecciones son ataques de acceso, mientras que la destilación describe cómo pueden usarse después las salidas obtenidas para entrenar.

La precisión del término decide quién paga la defensa

Grandes laboratorios, startups y grupos de investigación utilizan model distillation. Un modelo potente genera datos o transfiere una capacidad concreta a otro más pequeño. La misma técnica puede servir a un producto interno, a una investigación pública o a un competidor que vulnera las condiciones de un API. El riesgo depende del origen de los datos, la autorización y el medio de acceso.

Una etiqueta amplia puede desplazar las reglas desde la conducta hacia la tecnología. Eso favorecería a empresas con modelos propios y grandes equipos jurídicos. Los grupos pequeños tendrían que demostrar que usaron legalmente una técnica estándar. Los proveedores de API pueden actuar de forma más directa contra cuentas coordinadas, actividad ininterrumpida y suscripciones nuevas que consumen de inmediato la cuota máxima.

Una mala etiqueta no borra los abusos descritos

CISA reconoce expresamente que la destilación es una técnica legítima y útil. Su aviso emplea la expresión más precisa industrial-scale distillation campaigns y documenta comportamientos concretos. Lambert no niega que existan campañas a gran escala. Advierte contra el uso de un término técnico como atajo simultáneo para ciberataques, incumplimientos contractuales y política industrial.

El aviso público formula afirmaciones detalladas sobre empresas y modelos concretos, pero no facilita a un lector independiente los registros subyacentes. Las cifras de miles de millones de tokens y millones de peticiones proceden de una evaluación gubernamental. Separar uso legítimo, incumplimiento de condiciones y conducta delictiva exigirá más pruebas públicas.

Las reglas eficaces deben apuntar al acceso, la identidad y el volumen

Las próximas medidas de Estados Unidos mostrarán si la política se dirige a prácticas específicas, como claves robadas, cuentas falsas, evasión de bloqueos regionales y extracción coordinada mediante API. También será relevante que los proveedores publiquen indicadores medibles y mantengan excepciones para la investigación de seguridad.

Si leyes o contratos penalizan la destilación sin atender al consentimiento y al origen de los datos, la preocupación de Lambert estará justificada. Si las defensas separan el método de entrenamiento de la forma de obtener los datos, podrán proteger los modelos sin cerrar el paso a los equipos pequeños.

El veredicto de Lilith

Cuando un agente de aduanas estampa el mismo sello en un pasaporte robado, un manual y un camión, la cola crece mientras el contrabandista gana terreno. La defensa de los modelos debe nombrar la conducta, no prohibir toda la categoría.