Por qué no ocurrirá una explosión de inteligencia inmediata ni siquiera con miles de agentes

Los agentes reducirán los costos operativos, pero no romperán la barrera de comprensión

Laboratorios de inteligencia artificial como OpenAI y Anthropic pronto utilizarán miles de agentes en paralelo para procesos internos, lo que ha provocado una nueva ola de preocupación sobre el desarrollo descontrolado y la mejora personal recursiva (RSI). Sin embargo, Nathan Lambert, un investigador con antecedentes en HuggingFace y DeepMind, modera esta narrativa. Si bien la inferencia más rápida y económica permitirá que los sistemas multiagente funcionen de manera más eficiente, automatizar tareas rutinarias no significa automáticamente un crecimiento exponencial de la inteligencia en sí.

Las leyes fundamentales de escalamiento no cambian: para una mejora lineal de la inteligencia se requieren recursos computacionales exponencialmente mayores. Los enjambres de agentes resolverán más fácilmente problemas medibles con resultados claros, pero tendrán más dificultades para proponer direcciones de investigación completamente nuevas o resolver problemas científicos abiertos en los que falta una definición clara de éxito.

Medir la inteligencia se topa con los límites de las definiciones

El debate sobre cuándo la inteligencia artificial superará a los expertos humanos se encuentra con el hecho de que la «inteligencia» de los modelos tiene una forma completamente diferente a la inteligencia humana. Los modelos LLM no cruzan hitos como «asistente virtual» o «investigador de IA» de una vez; más bien dominan asimétricamente el 80 % de un rol determinado, mientras que el 20 % restante sigue siendo un obstáculo insuperable durante mucho tiempo.

Según los expertos de la industria, incluido John Schulman, podemos esperar un «trabajador remoto» funcional para tareas administrativas de rutina dentro de un año. Sin embargo, aumentar la productividad de los investigadores principales llevará más tiempo porque, si bien los modelos pueden diseñar y probar experimentos más rápidamente, carecen de intuición y de la capacidad de generar hipótesis innovadoras.

El post-entrenamiento sigue siendo una artesanía para humanos

El RSI se asocia con mayor frecuencia con la idea de que los modelos comenzarán a entrenarse a sí mismos. Pero la fase de post-entrenamiento, en la que el modelo aprende comportamientos específicos, sigue siendo un proceso sorprendentemente manual. La creación de entornos nuevos y significativos para el aprendizaje por refuerzo (RL) requiere conocimiento humano, y los modelos de inteligencia artificial pronto comenzarán a carecer de estas asignaciones complejas como señales de entrenamiento de alta calidad.

La automatización en los laboratorios está acelerando actualmente la ingeniería (escribir código, monitoreo) en lugar de la investigación real que amplía los límites de la inteligencia artificial. Aún no ha llegado un aumento fundamental de las capacidades, y los modelos todavía necesitan humanos para definir cuál es realmente el resultado correcto.

La mercantilización es la realidad, no la singularidad

En lugar de una explosión de inteligencia incontrolada, probablemente veremos una caída drástica en el precio de las capacidades actuales. Los modelos serán exponencialmente más baratos al mismo nivel de inteligencia. Esta es una gran noticia para las empresas y la difusión de herramientas, pero una decepción para aquellos que esperan una superinteligencia artificial (ASI) mañana.

Es probable que la paradoja de Jevons esté en pleno efecto aquí: modelos más baratos llevarán a un mayor volumen de uso, creando empresas sólidas, no una transición mágica a un mundo sin trabajo humano. Por ahora, la verdadera singularidad sigue aplazada en una sala de espera llena de ajustes iterativos y optimización de costos.

El veredicto de Lilith

En lugar de AGI a la vuelta de la esquina, tendremos miles de oficinistas desesperadamente diligentes. La revolución no vendrá de un laboratorio como un rayo de la nada, sino de que cada empresa aburrida de repente ahorrará un tercio de sus costos en procesos que ni siquiera sabías que existían.