Frenar la frontier AI parece sensato hasta que alguien debe trazar el límite

Nathan Lambert comparte la idea de frenar el desarrollo de AI más arriesgado, pero considera casi inviable su aplicación en los términos actuales. Su objeción apunta al mecanismo: quién define las capabilities prohibidas, qué benchmarks no pueden mejorar y quién participa en la decisión.

La crítica señala la falta de una regla de medida

Lambert respondía a Pacing the Frontier. En julio de 2026, la iniciativa pidió al Gobierno de Estados Unidos que apoyara un esfuerzo internacional para crear herramientas técnicas y de gobernanza capaces de moderar deliberadamente la investigación automatizada en AI. Durante la verificación, su web mostraba 1.386 firmantes de empresas de frontier AI.

Lambert escribe que el principio es razonable, pero la ejecución falla al definir el límite. Pregunta si se elegirán benchmarks en los que los modelos no podrán mejorar y quién tomará esa decisión. Añade que los investigadores podrían pasar del aumento directo de capabilities a los swarms y la eficiencia, con otra clase de riesgos.

Su segunda objeción se refiere a los modelos existentes. A su juicio, buena parte del riesgo procede de difundir capacidades que ya están disponibles. Por eso concede más importancia a la preparación y a presionar a los laboratorios para que manejen con cuidado los sistemas actuales.

Regular una curva desplaza el trabajo a otra

Un sistema frontier puede mejorar por varias vías. Un training run mayor es visible, pero también producen avances prácticos un mejor post-training, más tiempo de inference, más agentes, nuevas formas de tool use o cálculos más baratos. Una regla ligada a un benchmark o umbral de compute incentiva la optimización de todo lo que queda alrededor.

La coordinación puede servir, pero debe medir la capacidad de causar un daño concreto y observar el sistema completo, no solo un modelo en un leaderboard. En operaciones cibernéticas puede importar la combinación de autonomía, acceso a herramientas y velocidad de replicación. Una sola puntuación puede no verla.

La objeción de Lambert deja su propio hueco

La preparación y unos laboratorios más prudentes atienden el despliegue y sus consecuencias, pero no eliminan la presión competitiva descrita por la iniciativa. Si cada empresa gana ventaja al acelerar, la contención voluntaria puede fallar justo cuando resulta cara. Demostrar que el pacing está poco definido todavía no ofrece un plan de coordinación.

La publicación en X es un argumento, no un estudio empírico. No demuestra que toda forma de moderación vaya a fracasar ni cuantifica el riesgo de la eficiencia y los swarms. Sí identifica una omisión real de la carta abierta: pide herramientas sin definir todavía el límite ni la institución capaz de hacerlo cumplir.

Un mecanismo viable debe resistir un cambio de métrica

El siguiente paso útil no consiste en sumar firmas. La iniciativa necesita un proceso que defina umbrales concretos de riesgo, los actualice y detecte sustituciones mediante eficiencia, swarms o diffusion. También debe precisar quién audita los datos de los laboratorios y cómo se resuelven las disputas entre Estados.

Un mecanismo sólido debe superar un adversarial test: ¿qué haría una empresa que desea seguir compitiendo mientras cumple formalmente? Si basta con cambiar el nombre de una capability o sustituir un benchmark, el ritmo no cambia. Solo cambia el vocabulario del informe.

El veredicto de Lilith

Un regulador puede acordonar un benchmark mientras la investigación se desvía por swarms, eficiencia y diffusion. Un freno real debe vigilar toda la pista, no una señal junto a una curva.