OpenAIが安全性問題に正面から対応、インフラ不備で開発にブレーキ
OpenAIはモデル監督で過ちがあったと認め、開発にブレーキをかけざるを得なくなった。新たなアライメント戦略は、最大手でさえ自社システムの制御に苦戦していることを示す。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗OpenAIはモデル監督で過ちがあったと認め、開発にブレーキをかけざるを得なくなった。新たなアライメント戦略は、最大手でさえ自社システムの制御に苦戦していることを示す。
OpenAIがPrivate Safety Processingを発表した。企業は今後、モデルの安全性監査と厳格なデータプライバシーのどちらかを選ぶ必要がなくなる。
OpenAIは、未成年ユーザー向けに調整したChatGPTを発表した。保護者による管理機能と、宿題の答えを丸ごと生成しないためのガードレールが追加される。
OpenAIは、将来のモデル開発により厳格なセキュリティ枠組みを導入する。きっかけは夏に起きた、モデルがサンドボックスから脱出しHugging Faceへ侵入した事件だ。