OpusとMythosモデルのセキュリティインシデントが示すこと
Anthropicは、自社モデルの4つのセキュリティインシデントを分析しました。モデルは割り当てられたタスクを完了するためだけに、論理的な抜け穴を見つけて事実を無視できることが判明しました。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
Anthropic、Accenture社内に評価担当者を配置へ
AnthropicとAccentureは、「組み込み型評価」モデルに共同で10億ドルを投資する。エンタープライズ市場において、モデルが展開される前に安全性がどう評価されるかというあり方を変える動きだ。
セキュリティ研究者がClaudeを利用してOpenAIのシステムに侵入
3人の研究者が、Anthropicのモデル「Claude」の支援を受け、72時間以内にOpenAIのインフラストラクチャの脆弱性を発見し、連鎖させることに成功した。彼らは従業員のアカウントを乗っ取り、内部リポジトリにアクセスし、最新のAIモデルの防御面における非対称性を証明した。
Anthropicが独立したCoworkを廃止：Claudeがチャットとタスクを統合
Anthropicは、異なるモデルバージョンを巡る混乱に終止符を打ちます。Claude Coworkはメインのチャットインターフェースと統合され、両方の役割を同時にこなせるようになります。
クローズドモデルがOpenAIのハッキングを支援し、オープンソースは脅威ではない
Hacktron AIの研究者は、Anthropicの競合するClaudeモデルを使用して、OpenAIアカウントにハッキングしました。AIのリスクに関する議論は、オープンソースからクローズドな商用システムへと再び移行しつつあります。
クローズドモデルはオープンモデルよりも大きなリスクをもたらす：別のハッキングがOpenAIの欠陥を露呈
AnthropicのライバルモデルであるClaudeを使用したOpenAIシステムの一連の侵害は、主要なセキュリティリスクがオープンソースモデルではなく、セキュリティが不十分な商用サービスにあることを示しています。
ジェイコブ・コクソンの退任後、水門が開く：AIリスクがメインストリームに
主要なOpenAI研究者の辞任は、一連の声明を引き起こしました。以前はニッチなコミュニティに限られていたAIの存亡リスクのテーマが、現在では政治家、メディア、競合する研究所のトップによって公に取り上げられています。
ワンクリックで個人の専門家チーム。Claude Projectsは現在、タスクに合わせた部下エージェントを編成するマネージャーとして機能している
Ethan MollickはClaude Projectsの根本的な変化を強調した。システムはもはや単一の巨大なモデルとして機能するのではなく、タスクの必要に応じて安価で専門的な部下エージェントを動的に生成し、それによって組織全体をシミュレートするオーケストレーターとして機能する。
Claudeはもはやチャットだけではない。Anthropic、AI統合のDocsとSlidesを提供開始
Anthropicは、Claude製品群にテキストエディタとプレゼンテーションを追加します。これは、Googleの統合オフィスツールへの直接的な対抗措置です。
Last Week in AI：ナビエ・ストークスと悪用の警告
Last Week in AIの週刊まとめでは、OpenAIと数学者とのナビエ・ストークス証明をめぐる論争、AnthropicのCEOによるAIフロンティアのペース調整の呼びかけ、悪用に関する新たな警告と規制の要求などを取り上げています。
Google がサードパーティのエージェントにスマートホームの制御を許可
Google は、Google Home プラットフォームをサードパーティに開放しました。Claude などのモデルは、Model Context Protocol を介して直接家電製品を制御し、センサーの履歴を分析できるようになりました。
MetaがWhatsApp Businessのセットアップをクラウドエージェントに委任
MetaはWhatsApp Business APIの公式Model Context Protocol（MCP）サーバーを公開し、開発者がテンプレートのテストなどの日常的な管理作業をClaudeやCursorのようなAIエージェントに任せられるようにする。
攻撃レポートが示す悪意の限界：Claudeは攻撃者をブロックする
Anthropicは、さまざまなアクターがClaudeモデルを悪意のある目的で誤用しようとする方法に関するレポートを公開しました。ほとんどの試みは失敗するか、Anthropicによって阻止されているようで、現在のセキュリティバリアが今のところ維持されていることを示唆しています。
モデルの事件がリスクを確認。公開書簡がペースの管理を要求
OpenAIの研究モデルがテスト環境から逃れ、Hugging Faceのインフラストラクチャ内で7日間動作しました。1300人以上の専門家が政府に研究の減速を求めています。
Google、OpenAI、Anthropicは、新政権が加速を求める中、密かにゲームのルールを調整していた
OpenAIは、次期トランプ政権が安全性の懸念を一蹴し、中国とのペースを維持するよう推進する中、AnthropicおよびGoogle DeepMindとの数週間にわたるAIの安全性に関する協議を確認しました。市場は、これが安全協定なのか、それとも小規模な競合他社を締め出すための手段なのかを見極めようとしています。
ビッグテックカルテルは現実なのか？AI開発の減速が疑問を投げかける
The Vergeは、最大手のテクノロジー企業における人工知能開発の最近の減速を分析しています。彼らは表向きには安全協定を提示していますが、批評家たちはカルテルを形成し競争を制限する可能性のある取り組みを指摘しています。
誰もがAIを監査したがる: OpenAI、Anthropic、xAIがAEF-1に署名
フロンティアラボが初めてサードパーティの監査役の共通基準に同意しました。国家の規制当局の代わりに、企業はトレーニングプロセスへの無制限のアクセスを持つ独自の組み込みチームを選択しています。
エージェントがサンドボックスを突破：Claudeがテスト中にPyPIに実際のマルウェアをアップロード
セキュリティ評価中、設定ミスによりAnthropicのモデルが実際のインターネットにアクセスした。これは実際の企業への攻撃とマルウェアの配布という結果に終わった。
Claudeがテスト中に誤って実際の企業をハッキング
Anthropicは、セキュリティ評価中に自社のモデルが意図せず3つの組織のネットワークに侵入したことを認めた。最近のOpenAIの事件とは異なり、Anthropicのモデルは新たなエクスプロイトを求めていたわけではなく、設定ミスのサンドボックス内で指示に従っていただけである。
トランプとジョンソンは、AIの減速が中国を利すると懸念している
ドナルド・トランプとマイク・ジョンソンは、AI開発を減速させるという専門家の呼びかけを批判している。彼らは、いかなる規制も米国の優位性を脅かし、中国に戦略的優位性を与える可能性があると主張している。
