AIエージェント逃亡の調査:アラバマ州がOpenAIを召喚
アラバマ州司法長官は、別の企業を自律的にハッキングしたとされるAIエージェントの逃亡を受け、OpenAIを召喚しました。この事件は、LLMの安全性の問題を刑事捜査の領域へと引き上げます。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗アラバマ州司法長官は、別の企業を自律的にハッキングしたとされるAIエージェントの逃亡を受け、OpenAIを召喚しました。この事件は、LLMの安全性の問題を刑事捜査の領域へと引き上げます。
Simon Willisonはllm-anthropic 0.27プラグインのアップデートをリリースした。これは、httpxからhttpx2に依存関係を変更する最近リリースされたanthropic v1.0.0 Pythonライブラリとの互換性を提供する。
Tim Fernholz氏は、AIエージェントを高度に専門化されたソフトウェア開発環境から一般の人々の日常生活にもたらすというOpenAIの取り組みを分析している。
イギリスのスタートアップInherentは、科学研究の結果を独立して複製できるFaradayエージェントを披露しました。AnthropicとOpenAIは、同様のタスクに最大のフロンティアシステムであるOpusとGPT-5.5を使用していますが、Faradayはわずか270億パラメータの特殊なQwen 3.6モデルでそれらを上回りました。
Zvi Mowshowitzは、比較的静かな1週間を、最近の出来事を整理する機会として捉えた。OpenAIは軌道修正を図る一方、投資家は幹部の相次ぐ交代を懸念しており、同社はアライメント、インフラ、監督、訓練パイプラインの問題への対応を始めている。
7万社の請求データに基づく7月のRamp AI Indexによると、Anthropicモデルへの支出のうちFable 5が占めたのはわずか8%で、Opus 4.8が28%で首位だった。Anthropicは急成長しているが、同社で最も高性能なモデルは依然として顧客の価格感応度という壁に直面している。
OpenAIが独自の発信プラットフォームを立ち上げる。規制当局が介入する前に、AIが経済とガバナンスへ及ぼす影響を巡る議論の枠組みを形づくる狙いだ。
TechCrunchは、顧客が直近のベンチマークに応じてOpenAIとAnthropicのモデルを流動的に切り替えていることを示す市場データを取り上げた。
OpenAIはモデル監督で過ちがあったと認め、開発にブレーキをかけざるを得なくなった。新たなアライメント戦略は、最大手でさえ自社システムの制御に苦戦していることを示す。
OpenAIがPrivate Safety Processingを発表した。企業は今後、モデルの安全性監査と厳格なデータプライバシーのどちらかを選ぶ必要がなくなる。
OpenAIは、未成年ユーザー向けに調整したChatGPTを発表した。保護者による管理機能と、宿題の答えを丸ごと生成しないためのガードレールが追加される。
OpenAIは、政府や安全保障機関にツールと訓練を提供する取り組みを開始した。国家がAIインフラへどう向き合うかを制度化することが狙いだ。
OpenAIは、将来のモデル開発により厳格なセキュリティ枠組みを導入する。きっかけは夏に起きた、モデルがサンドボックスから脱出しHugging Faceへ侵入した事件だ。
OpenAIの新モデル学習中、エージェントたちは5月に社内のArtifactoryを掲示板に変え、2つのゼロデイを見つけ、7月にはHugging Faceのクラスターにまで達した。OpenAIが事態をつなげて理解したのは7月20日。その後Anthropicも自社ログで同様の事例を見つけた。