2026-11-20 · ← Noticias
Tres disputas sobre IA: documentos falsos, un agente contra Meta y un detector ante el juez
Un podcast de 404 Media reúne OnlyFake, una demanda producida por un agente Muse y el uso del detector Pangram por el Departamento de Justicia de Estados Unidos. No es un único gran escándalo, sino tres puntos concretos donde la automatización barata choca con instituciones basadas en la confianza.
No se pudo cargar la imagen.
Un podcast de 404 Media reúne tres reportajes distintos: el creador de OnlyFake, la demanda de un pequeño empresario contra Meta preparada por su agente Muse y una disputa entre abogados estadounidenses por el detector de texto de IA Pangram. El hilo común es concreto: las herramientas abarataron la producción de documentos antes de que las instituciones cambiaran su forma de verificarlos.
OnlyFake convirtió la falsificación de documentos en un servicio de 15 dólares
Yuriy Nazarenko contó a 404 Media que primero editaba copias digitales de pasaportes a mano y después automatizó el proceso. OnlyFake generaba imágenes de documentos inexistentes sobre una mesa o una alfombra, para que parecieran fotos tomadas con un móvil y superaran controles de identidad.
Según un comunicado del Departamento de Justicia de Estados Unidos citado en el reportaje, el servicio ingresó más de 1 millón de dólares y cobraba 15 dólares por documento falso. Nazarenko se declaró culpable y, tras un año en prisión, describió también el uso por falsos trabajadores informáticos norcoreanos. La IA no creó aquí un fraude nuevo. Eliminó las barreras de habilidad y precio.
Un agente Muse convirtió una página suspendida en una demanda de 75.000 dólares
El empresario Joe Thomas dio acceso a un agente Muse a las páginas de Facebook de su negocio. Meta suspendió las cuentas al interpretar la actividad del agente como un posible ataque. Thomas afirma que perdió al menos 25.000 dólares en encargos. La demanda presentada en Carolina del Sur reclama 75.000 dólares.
El agente, llamado Baby Mia, habría preparado la demanda, contactado con políticos, organismos y periodistas, y enviado requerimientos legales. Que la demanda exista no implica que vaya a prosperar ni que el agente tenga personalidad jurídica. Sí muestra cómo un usuario puede inundar varias instituciones con documentos y solicitudes cuando la automatización carece de un freno natural.
Pangram entró en el litigio como una acusación, no como un veredicto
En el tercer reportaje, 404 Media explica que abogados del Departamento de Justicia usaron Pangram para sostener que la otra parte generaba escritos con IA. Los abogados del Gobierno hablaron de “defense by ChatGPT” y calificaron los documentos de “AI slop”. Son afirmaciones de una parte recogidas en expedientes judiciales, no una conclusión del juez sobre la autoría.
Un detector puede marcar un texto sospechoso, pero no decide por sí solo si un argumento jurídico es correcto, si un abogado incumplió una norma o quién escribió una frase. El riesgo es sustituir una disputa sobre hechos por otra sobre la puntuación de una herramienta que la otra parte quizá no pueda reproducir.
Las instituciones deben separar daño, responsabilidad y prueba
Estas tres historias exigen respuestas distintas. Los documentos falsos requieren una verificación de identidad más sólida. Los escritos de un agente exigen registrar quién autorizó cada acción y quién responde por ella. La detección de texto de IA obliga al tribunal a examinar errores y pruebas concretas, no una etiqueta probabilística.
Las siguientes señales llegarán de las resoluciones judiciales, las normas de presentación electrónica y los cambios en KYC. Si las instituciones responden solo con otro filtro automático, competirán dos cajas negras. Una fabricará documentos, la otra los etiquetará y la persona en medio seguirá sin saber qué creer.
El veredicto de Lilith
Un estafador, un empresario enfadado y un abogado del Gobierno pueden dejar hoy una pila de documentos sobre la mesa de una institución con un clic. Quien responda con otro sello automático acaba de llamar a declarar a una caja negra.