ループが閉じる：ChatGPTをトレーニングする人間が、仕事でChatGPTを使用したために解雇される

機械によって媒介される人間のタッチ

OpenAIのためにChatGPTとのユーザーの対話を読んで評価する外部契約社員の軍団には、1つの厳格なルールがある。それは、自分の仕事にAIの手を借りてはならないということだ。404 Mediaは、将来の世代のChatGPTをトレーニングするための出力を生成するためにAIを使用したとして、この禁止令を無視したために、多数の「レビュアー」が解雇されたことを発見した。

この人的要因は、モデルに自然さを教え、好ましくない特性を排除するためのものだ。しかし、ノルマを達成するために急ぐ契約社員が、人間の入力の代わりに別のAIのイテレーションを使用すると、「モデルの崩壊（モデルコラプス）」につながる。これは、アルゴリズムが実際の人間のフィードバックではなく、自らが生成した合成データから学習することによる品質の低下である。

疑わしい速度を追跡するハンター

404 Mediaが入手した文書は、洗練された制御システムを示している。OpenAIは、不正行為者を捕まえることを任務とする別の層の契約社員を雇用している。逆説的だが、これらの検査官もまた、AI検出ツール（GPTZeroなど）は信頼できないと考えられているため、使用を禁じられている。また、AIベースの翻訳機や文法チェッカーの使用も禁じられている。

指示によると、不正行為の主な兆候には、繰り返される語彙、典型的な「AIの句読点」（特定の記号の乱用など）、そして何よりも、契約社員が疑わしいほど早く仕事を提出することが含まれる。検査官は、不正行為者にどのように捕まったかを伝えることを禁じられているため、彼らは隠蔽工作を改善することができない。

燃え尽き症候群の工場

影響を受けた契約社員の1人は、自分が悪い労働者だと感じていたわけではなく、単調な仕事から解放されたかっただけだとコメントしている。また別の人物は、自分の仕事が社会にプラスの利益をもたらさないと感じ、モデルを意図的に妨害するために最悪の回答をわざと選択したことを認めた。

OpenAIのために契約社員を雇用しているMercorという会社は、ルールで大規模言語モデルの使用を厳格に禁止しており、検出ツールに多額の投資を行っていることを確認した。AIの使用が確認されるとすぐに、労働者はプロジェクトから即座に外される。

製品がプロセスと矛盾するとき

この事件全体で最も興味深いのは、それを引き起こした会社のパラドックスである。OpenAIは、退屈なタスクを加速および自動化するために、職場でAIを使用するよう世界を説得することでビジネスを構築している。しかし、その技術をトレーニングしているまさにその人々がそれを行うと、彼らは解雇されるのだ。

これは、安価で「本物の」人間の労働力の無限の供給に根本的に依存している、現在のAIエコシステムの脆弱性を露呈している。モデルがかつてないほど多くのデータを要求するにつれて、処理速度へのプレッシャーは高まる。人々は当然のことながら、対処するために自分たちがまさに改善しようとしているツールに助けを求めるようになるのだ。

Lilithの判定

AIビジネス全体の皮肉が1つのケースに集約されている。企業には、AIが従業員を退屈な仕事から解放すると約束しているが、自社のデータ工場の労働者が同じことをすると、解雇されるのだ。