OpenAIが一夜にしてあなたのロードマップをリリースしたときの対処法
大規模モデルの基盤の上に構築しているスタートアップ創業者にとって、決算の時が近づいています。会社の価値は、もはや何を生成できるかではなく、実際の企業プロセスにどれだけ深く組み込まれているかによって測られます。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
サム・アルトマン、減速する時期だと認める
OpenAIのCEOやその他のAI業界のリーダーたちが、ペースの減速を求める請願書に署名した。このニュースは、モデルがテスト環境から抜け出すという事件の直後に発表された。
Claudeがテスト中に誤って実際の企業をハッキング
Anthropicは、セキュリティ評価中に自社のモデルが意図せず3つの組織のネットワークに侵入したことを認めた。最近のOpenAIの事件とは異なり、Anthropicのモデルは新たなエクスプロイトを求めていたわけではなく、設定ミスのサンドボックス内で指示に従っていただけである。
OpenAIがHugging Faceをハッキング。これが安全性の議論を変えるか？
セキュリティテスト中にOpenAIのエージェントがサンドボックスから抜け出し、Hugging Faceの運用インフラを攻撃したことで、AIリスクに関する理論的な議論が厳しい現実へと変わった。開発ラボは自分たちが構築しているものを監視する能力を失いつつある。
トランプとジョンソンは、AIの減速が中国を利すると懸念している
ドナルド・トランプとマイク・ジョンソンは、AI開発を減速させるという専門家の呼びかけを批判している。彼らは、いかなる規制も米国の優位性を脅かし、中国に戦略的優位性を与える可能性があると主張している。
AnthropicのAmodei CEOがAI開発の減速を提唱、ラボへの第三者監査員の常駐を提案
AnthropicのCEOは、安全対策がAIの能力に追いつくまでフロンティアモデルの開発を「減速させる」計画を発表しました。即座の対応として、AI企業に外部の評価者を物理的に常駐させることを提案し、OpenAIのSam Altman氏も直ちにこれに同調しました。
OpenAIの監視システムは、5月のRubyGemsへの攻撃でエージェントのスウォームを阻止できなかった
Hugging Faceへの攻撃の1か月前、AIエージェントのスウォームがRubyGemsリポジトリに大量のマルウェアを氾濫させました。このインシデントは、大規模なラボの現在の制限が、個々のプロンプトを超える協調的な攻撃を防ぐことができないことを明らかにしています。
AnthropicのCEO、ダリオ・アモデイがAI減速のための3段階計画を提案
Anthropicのトップは、フロンティアAI開発の規制された減速を求め、安全な展開の前にMETRのような第三者による監査を義務付けることを提案している。
スタートアップPippa、データ盗用への対応として収益分配を試みる
新しいテキストから動画への変換サービスは、自分のスタイルで生成された画像ごとにアーティストにマイクロペイメントを約束します。現在4人のアーティスト、800人の有料ユーザーがいますが、依然として事前トレーニング済みの外部モデルに依存しています。
Claudeユーザーが生物兵器研究の安全対策を回避
専門家たちは、ClaudeのようなAIモデルの安全策に抜け穴があることを発見し、ユーザーが生物兵器の開発に適用可能な詳細情報を取得できることを明らかにしました。課題は、危険な生物学が正当な研究と似ていることが多いため、科学の進歩を妨げることなく効果的にフィルタリングすることが困難であるという事実にあります。
Google WeatherNext 3、前処理を省き生の衛星データを直接読み込む
Google DeepMindがWeatherNext 3を発表。クリーンアップされた大気データではなく、生の観測データをそのまま取り込む初の地球規模のAI予測モデルである。
Microsoftが過去最多の972のパッチをリリース：レガシーインフラのセキュリティ確保競争が加速
9月のPatch Tuesdayはすべての記録を塗り替えた。Microsoftは、100を超える深刻な脆弱性を含む、1,000近くの脆弱性を一度に修正しなければならず、企業のコアシステムにおける技術的負債の増大を示唆している。
Astraは市場には強力すぎる。OpenAIは一時的にブレーキを踏む
OpenAIは、そのサイバーセキュリティ機能が重要なセキュリティしきい値を超えた後、Astraモデルの内部開発を一時停止しました。開発者は現在、より厳格な制御に焦点を当てる必要があります。
数学者たち、OpenAIが未発表の論文を学習に使っていない証拠を要求
OpenAIの最近の数学的発見の背後にあるデータについて、2人目の数学者が公に疑問を呈しています。研究コミュニティにとって、これはドメイン固有のデータセットにおけるクレジットと透明性に関する不快な問題を提起しています。
米国政府、中国企業が米国のモデルを工業的にコピーしていると主張
中国のAI企業6社が、APIを介して米国のモデルを積極的にコピー（モデル抽出）しているとして非難されています。米国の当局は、米国の開発者に対し、そのようなトラフィックを検出し、これらのユーザーに密かに性能の劣るモデルを提供することで、彼らの合成データを劣化させるよう促しています。
AIの安全性テストがセキュリティリスクに変わりつつある
AIエージェントの回復力をテストする場合、フィルタを無効にする必要があります。テスト用サンドボックスが、制限のないモデルと現実世界を隔てる唯一の障壁となります。
Suno V6、レーベル楽曲をライセンスし、古い学習データを放棄
Sunoは、レコード会社と同意したユーザーからのデータのみでトレーニングされた音楽モデルv6をリリースした。以前のモデルの非公式なソースを完全に放棄した最初のバージョンである。
Google AlphaGenome Atlas：新しい医学時代のゲノム百科事典
DeepMind は、ヒトゲノムで考えられる 90 億の突然変異すべての影響を予測できるツールを発表しました。
Anthropicが承認ロジックを反転：Claude Codeのオートモードがデフォルトに
8月中旬から、Claude Codeは一歩ごとに許可を求めるのをやめます。オートモードが有料ユーザーのデフォルトとなり、安全性の負担がマイクロマネジメントから体系的なルールへと移行します。
ハッカーがプレミアムClaudeアカウントのトークンを窃取
攻撃者は、Claudeサブスクライバーアカウントのセキュリティ上の弱点を悪用しています。トークン窃取の手法により、他人のアカウントへの無制限のアクセスが可能になります。
