Cerrando el círculo: Humanos que entrenaban ChatGPT despedidos por usar ChatGPT en el trabajo

El toque humano, mediado por una máquina

El ejército de contratistas externos que leen y evalúan las interacciones de los usuarios con ChatGPT para OpenAI tiene una regla estricta: no deben usar inteligencia artificial para que les ayude con su trabajo. 404 Media descubrió que decenas de estos «revisores» fueron despedidos precisamente porque ignoraron la prohibición y usaron IA para generar resultados destinados a entrenar a futuras generaciones de ChatGPT.

Se supone que este factor humano enseña naturalidad a los modelos y elimina los rasgos indeseables. Pero cuando los contratistas, en su prisa por cumplir con las cuotas, sustituyen los aportes humanos por otra iteración de IA, se produce el «colapso del modelo». Es una degradación de la calidad causada por el algoritmo que aprende de sus propios datos sintéticos en lugar de comentarios humanos reales.

Cazadores rastreando velocidades sospechosas

Los documentos obtenidos por 404 Media apuntan a un sistema de control sofisticado. OpenAI emplea a otra capa de contratistas cuyo trabajo es atrapar a los tramposos. Paradójicamente, a estos inspectores también se les prohíbe usar herramientas de detección de IA (como GPTZero) porque se consideran poco confiables. También tienen prohibido el uso de traductores o correctores gramaticales basados en IA.

Según las instrucciones, las señales principales de trampa incluyen vocabulario repetitivo, «puntuación de IA» típica (incluido el uso excesivo de guiones largos) y, sobre todo, un contratista que envía el trabajo de manera sospechosamente rápida. A los inspectores se les prohíbe decir a los tramposos cómo fueron atrapados, para que no puedan mejorar su encubrimiento.

La fábrica de agotamiento

Un contratista afectado comentó que no se sentía como un mal trabajador; simplemente necesitaba un alivio del trabajo monótono. Otro admitió elegir a propósito las peores respuestas posibles para sabotear intencionalmente los modelos, sintiendo que su trabajo no tenía ningún beneficio social positivo.

Mercor, una empresa que contrata trabajadores para OpenAI, confirmó que las reglas prohíben estrictamente el uso de modelos de lenguaje grandes y que invierte mucho en herramientas de detección. Tan pronto como se confirma el uso de la IA, el trabajador es eliminado de inmediato del proyecto.

Cuando el producto contradice el proceso

La parte más interesante de todo el incidente es la paradoja de la empresa que lo provocó. OpenAI basa su negocio en convencer al mundo de que use la IA en el trabajo para acelerar y automatizar tareas aburridas. Pero cuando las personas que entrenan esa misma tecnología lo hacen, son despedidas.

Esto expone la vulnerabilidad del actual ecosistema de IA, que depende fundamentalmente de un suministro interminable de trabajo humano «auténtico» y barato. A medida que los modelos demandan cada vez más datos, la presión sobre la velocidad de procesamiento aumenta. La gente recurre naturalmente a las herramientas exactas que se supone deben mejorar para que las ayuden a sobrellevar la situación.

El veredicto de Lilith

La ironía de todo el negocio de la IA en un solo caso. Prometen a las empresas que la IA liberará a los empleados del trabajo tedioso, pero cuando los trabajadores de su propia fábrica de datos hacen lo mismo, los despiden.