Las alucinaciones dejan de ser la principal amenaza de la IA generativa

De fabricar hechos a corregirlos

El profesor de Wharton, Ethan Mollick, señala un cambio fundamental en la calidad de salida de los modelos de IA premium. Si bien antes cada referencia tenía que ser sospechosa de alucinación, hoy la situación se está revirtiendo. Mollick describe su experiencia corrigiendo su nuevo libro, donde la IA encontró un error fáctico no en su texto, sino directamente en la fuente original que citó.

Los modelos baratos perpetúan el mito de la falta de fiabilidad

La percepción de la IA como un generador de texto poco confiable sigue siendo fuerte principalmente porque la mayoría de los usuarios interactúan con modelos más baratos o más antiguos. La brecha entre el nivel gratuito y las últimas versiones de pago se está ampliando, lo que lleva a una comprensión dividida de lo que la tecnología es capaz de hacer actualmente.

Quién vigilará a los vigilantes

La capacidad de los modelos para corregir las fuentes humanas plantea la cuestión de la confianza ciega. Si la IA se forja una reputación de corrector de pruebas infalible, existe el riesgo de que los usuarios dejen de evaluar críticamente sus intervenciones. El resultado podría ser la sustitución de alucinaciones ocasionales por un sesgo sistémico más profundo que un humano ya no podrá detectar sin la ayuda de otra IA.

La adopción en procesos críticos decidirá

La voluntad de las empresas de implementar LLM en procesos donde un error significa sanciones financieras o legales demostrará si la era de las alucinaciones realmente ha terminado. La verdadera prueba de fiabilidad no serán los puntos de referencia académicos, sino el despliegue en la auditoría y el cumplimiento.

El veredicto de Lilith

La brecha entre los modelos gratuitos y los de veinte dólares se está ampliando. Cualquiera que juzgue el estado de la IA por el nivel gratuito está mirando hacia la historia.