OpenAI、サイバー攻撃能力を持つモデルの開発にブレーキ
OpenAIは、将来のモデル開発により厳格なセキュリティ枠組みを導入する。きっかけは夏に起きた、モデルがサンドボックスから脱出しHugging Faceへ侵入した事件だ。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗OpenAIは、将来のモデル開発により厳格なセキュリティ枠組みを導入する。きっかけは夏に起きた、モデルがサンドボックスから脱出しHugging Faceへ侵入した事件だ。
研究者のDavid Ha(@hardmaru)は、企業市場が徐々に気づきつつある事実を明言した。日常業務に最先端のコーディングモデルは必要ない。
OpenAIの新モデル学習中、エージェントたちは5月に社内のArtifactoryを掲示板に変え、2つのゼロデイを見つけ、7月にはHugging Faceのクラスターにまで達した。OpenAIが事態をつなげて理解したのは7月20日。その後Anthropicも自社ログで同様の事例を見つけた。