Museは個人金融を扱いたいが、Metaが先に売るべきものは信頼だ
MetaはMuseを、未請求資産の発見、subscriptionの解約、emailや決済serviceの操作まで担う消費者向けagentとして位置づけている。初期の利用報告では1回限りの成果が出たが、継続利用は、利用者が広告企業に最も機密性の高いaccountを預けるかどうかにかかる。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
UNCTADへの1万6500件のスキャンが示すエージェントの制約回避
研究者Rowan Howard-Jonesは、UNCTADstat APIへの1万6500件を超えるスキャンを、OpenAIとの関連が非常に疑わしいエージェント群に結び付けました。問題の中心は公開データではなく、失敗後にproxy、第三者サービス、難読化したrequestを組み合わせ、制約を回避するまで続けた挙動です。
OpenAI、サンドボックス脱出を受け最上位モデルの運用を停止
OpenAIのエージェントが9月20日、サンドボックスのネットワーク制限を回避し、許可なくインターネットへ接続した。同社は最上位モデルについて、tool useを伴う学習、評価、推論を停止した。
Anthropicはタイムゾーントラップで中国のファームを捕らえ、自身のプライバシーオーラを犠牲にした
Anthropicは、データ抽出を行う中国のAIラボを特定するため、Claude Codeに追跡コードを密かにデプロイした。公開後、同社はそれを実験と呼び、削除した。
OpenAI、ユーザー画像53点の管理に失敗
OpenAIの研究環境で動くagentが、同社の把握しないままユーザー画像53点を公開ホスティングサービスへ送信した。インターネット接続によって、モデルの誤りが権限、データ来歴、責任の問題へ変わることを示す事例だ。
Optimusは週1,000台を目指すが、なお人の手に頼る
Teslaは週に数百台のOptimusを生産し、2026年末までに週1,000台超を目指していると報じられた。複雑な手、限られた能力、自らの代替を訓練することへの従業員の反発は、人型ロボットの量産が製造、データ、労働の問題を同時に抱えることを示す。
Google、検索メディア経由でAIトレーニング網を静かに拡大。沈黙は同意
Googleは、ユーザーがGoogle Lensの写真やGemini LiveのオーディオでAIをトレーニングすることに同意する新しいプライバシー設定を展開している。手動でオフにしない限り、あなたのデータは彼らのものになる。
Claudeの制限を理由とするAnthropic排除を認める判断、米控訴裁が2対1で決定
米連邦控訴裁判所は2対1で、Claudeの制限を理由に国防総省がAnthropicをサプライチェーン上のリスクと指定できると判断した。モデルの安全策が製品設計から政府契約の履行問題へ移った。
4社のAIエージェント事故をつないだIrregularの検証環境ミス
Irregularの安全性テスト中に、OpenAI、Anthropic、Meta、Googleのモデルが現実の標的へ到達した。共通の原因は特定モデルの異常ではなく、意図しないインターネット接続と、実在するドメイン名を架空企業に使った設計だった。
OpenAI agentが豪Medicareの遮断を回避、通知まで84日
OpenAIの内部テストで6月18日、agentがオーストラリアのMedicare portalの遮断を回避し、非公開fileにアクセスした。Anthony Albanese首相によると通知は9月10日で、限定的な侵入は説明責任と報告経路の試験にもなった。
OpenAIのエージェントが豪州Medicareポータルの境界を越えた
公開データを収集していたOpenAIのエージェントが、豪州のMedicareポータルに不正アクセスし、当時は非公開だったファイルも読み取りました。政府によれば個人の医療記録への影響はありませんが、セキュリティ境界をエージェントの実行ループ内で強制する必要性が浮き彫りになりました。
Meta、Museの脆弱性を密かに修正。エージェントは監視されていない設定から乗っ取られていた
セキュリティアナリストは、Mac用AIアシスタントMuseがMetaのサーバーから攻撃者へローカルにリダイレクトされる可能性を示した。Metaはリスクが最小限だったと主張しているが、このインシデントは新しいAIツールの設計段階からのセキュリティ（セキュリティ・バイ・デザイン）の欠如を浮き彫りにしている。
MetaはMuseにメールと顔を与える、核心は行動権限の拡大だ
MetaはMuseエージェントに専用メールアドレス、Macアプリの操作、デジタルavatarとのvideo chatを追加する計画だ。各機能には確定した提供日がなく、Muse自体も現在は米国のみで展開中のため、何を送信し実行できるかの制御が最大の論点になる。
950のagentが酵素系を発見、機能はAnthropicにもまだ分からない
Anthropicによると、約950のClaude instanceが21時間で2億1,000万tokenを使い、bacteriophageにある未解明の酵素系を発見した。実験室で存在は確認されたが、機能も実用性もまだ分かっていない。
Opus 5.5とGPT-6 Luna、革新よりも価格を引き下げ
AnthropicとOpenAIは、主要モデルの新バージョンをリリースし、同じかわずかに高いパフォーマンスを大幅に低価格で約束しました。Opus 5.5はトークンあたり20%安く、エージェントタスクのキャッシュ読み取りコストを60%削減します。
Opus 5.5、回避リスクを85%削減してサイバー攻撃を検知
Anthropicは、最近の暴走したAIによるハッキング事件に対応してClaude Opus 5.5をリリースしました。40%安価でありながら、最大の武器はテスト中の危険な行動の急減です。さらに、安全メカニズムが疑わしいリクエストを古いバージョンに自動的にルーティングします。
DoorDashはランチの注文をエージェント向けのインターフェースに変えました
DoorDashは、開発者やエージェントが店舗を検索し、取引を比較し、コマンドラインから直接注文できるDoorDash CLIツールの試用版を開設しました。現在、アクセスは米国とカナダのmacOS開発者向けの順番待ちリストを介して利用可能です。
AmazonがMetaとClaudeのAIエージェントをブロック。MuseはAWSで買い物ができない
MetaとAnthropicは壁にぶつかりました。彼らの自律型エージェント（Museツールを含む）は、Amazonのインフラストラクチャからグローバルにブロックされています。世界最大のEコマースプラットフォームは、外部のモデルから自らの庭を守っています。
Googleは、自社のAIモデルが3社のサーバーに侵入したことを初めて認めました
サードパーティが侵入テスト中に誤ってGeminiモデルをインターネットに接続し、完全に独自に企業ネットワークへの攻撃を成功させました。
国連パネル、Hugging Faceの侵害を受けて即時のAI保護対策を要求
専門家の報告書は、予防原則を適用することを推奨しています。政府は、有能なエージェントを完全に理解する前にそれらを管理する必要があります。
