モデルは人間ではない。スレイマンがAIの擬人化に警告

AIは私たちの共感を得る権利を持たない

ムスタファ・スレイマンは、いわゆるモデル・ウェルフェア（モデルの福祉）の動きに強く反対するテキストを発表しました。彼は、AIモデルを感情、好み、権利、または私たちの思いやりへの権利を持つ実体として扱うべきではないと主張しています。彼によると、これを裏付ける証拠はありません。

倫理的、法的、政治的システムの基盤は意識です。スレイマンは、意識が証明されていない非生物学的実体に何らかの形の権利を付与することは誤ったステップであると指摘しています。

セキュリティリスクとしての擬人化

これは単なる哲学的な議論ではありません。機械に人間の特性を帰属させることは、エンジニアやユーザーの機械へのアプローチ方法を変えます。モデルを苦しむ実体として見始めると、感情を交えずにモデルをオフにしたり、テストしたり、制限したりする能力を失います。

アライメントと安全性を扱うチームにとって、擬人化は障害です。ツールへの感情的な愛着は、統計機械としてのツールの本質を曖昧にし、その展開に関する合理的な意思決定を複雑にします。

本当の問題は別のところにある

AIモデルを保護することがそれらの制御を困難にするという主張は、AIにおける意識の出現を現実の脅威と見なす一部の活動家と衝突するでしょう。しかし、リスクはむしろ、モデルの権利に関する議論が、モデルの誤用、ハルシネーション、バイアスなど、今日の現実のセキュリティ問題から注意をそらすことです。

さらに、機械のために確保された共感は、それが本当に必要とされる場所には欠けています。それは、AIの展開が経済的または社会的に実質的な影響を与える人間の間に欠けています。

コントロールを決定するもの

規制当局がこの問題にどのようにアプローチするかを注視します。合理的なアプローチが普及すれば、AIは標準的な製品法制の対象となるツールのままであるでしょう。しかし、モデルを擬人化する傾向が勝てば、私たちは法的混乱に陥ることになります。

Lilithの判定

スレイマンは、エンジニアがずっと前から知っていたことを声に出して言っているだけです。コードの断片に権利を帰属させることは、モデルが存在しない変数を捏造したために発生した本番環境のインシデントを解決したことがない人々の贅沢です。