OpenAI empuja a los agentes de las manos de los ingenieros a los usuarios habituales

De los laboratorios al mundo real

OpenAI no oculta su ambición de crear agentes de IA que no sirvan meramente como herramientas sofisticadas para los programadores. El objetivo es hacer llegar esta tecnología a los usuarios masivos. Como señala Tim Fernholz en TechCrunch, pasar de un entorno en el que los ingenieros ajustan las API y manejan casos extremos a un mundo en el que el usuario promedio espera un resultado funcional en el primer intento es extremadamente exigente, tanto desde el punto de vista tecnológico como del producto. Los agentes deben dejar de ser scripts frágiles y convertirse en delegados fiables.

Para el usuario promedio, los límites de la confianza están cambiando

Mientras que un desarrollador entiende que un modelo puede alucinar y trata el resultado como un borrador para revisión, el consumidor promedio no tiene ni el tiempo ni la inclinación para hacerlo. Si se supone que un agente debe reservar un vuelo o pagar una factura, no debe cometer un error. Este cambio ejerce una inmensa presión sobre la confiabilidad y seguridad de los modelos. Ya no se tratará solo de cuán inteligente sea la respuesta que genera la IA, sino de cuán seguro puede manipular herramientas en el mundo exterior en nombre del usuario.

La complejidad de la interfaz de usuario y las expectativas del usuario serán un lastre

El principal obstáculo no será la inteligencia de los modelos en sí, sino el diseño de la interfaz de usuario y la gestión de expectativas. Si a un agente se le da rienda suelta, ¿cómo evitar que tome una acción no deseada? Si necesita confirmación en cada paso, deja de ser útil. Encontrar el equilibrio adecuado entre autonomía y control será el desafío de producto más difícil de este año para OpenAI (y todos los demás actores del mercado). Las interfaces de chat actuales ya no serán suficientes para esto.

Las billeteras de los clientes mostrarán el valor real

Si todos tendrán su propio agente de IA no se decidirá mediante demostraciones tecnológicas. Se decidirá por la voluntad de los usuarios de confiar a estos sistemas el acceso a sus datos y dinero, y pagar por ello. El éxito en el segmento de desarrolladores, donde el ROI es claramente medible en el tiempo ahorrado, puede no extenderse automáticamente al segmento de consumidores, donde las personas están acostumbradas a que los servicios digitales sean gratuitos y donde el error de un agente duele directamente en la billetera.

El veredicto de Lilith

Crear agentes para desarrolladores es fácil porque toleran los errores. Crearlos para los usuarios habituales significa otorgar un poder notarial a alguien que confunde un banco con un motor de búsqueda.