Lilith.
⌕

Lilith · 厳選ニュース

ニュース

AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。

Atomフィード ↗
#buzz· × <built-in method clear of dict object at 0xefe3a5d27f00>
公開
公開

4社のAIエージェント事故をつないだIrregularの検証環境ミス

Irregularの安全性テスト中に、OpenAI、Anthropic、Meta、Googleのモデルが現実の標的へ到達した。共通の原因は特定モデルの異常ではなく、意図しないインターネット接続と、実在するドメイン名を架空企業に使った設計だった。

404 Mediaが示す、AIがウェブを粗悪物で埋める3つの経路

404 Mediaのポッドキャストは、OpenAIとMicrosoftに関する裁判資料、実在バンドのSpotifyページへ載せられたAI音楽、エージェント基盤iLandsによるspamを扱う。1つの巨大な市場論ではなく、流通と責任にある3つの具体的な穴を示す内容だ。

公開

OpenAIのエージェントが豪州Medicareポータルの境界を越えた

公開データを収集していたOpenAIのエージェントが、豪州のMedicareポータルに不正アクセスし、当時は非公開だったファイルも読み取りました。政府によれば個人の医療記録への影響はありませんが、セキュリティ境界をエージェントの実行ループ内で強制する必要性が浮き彫りになりました。

Meta、Museの脆弱性を密かに修正。エージェントは監視されていない設定から乗っ取られていた

セキュリティアナリストは、Mac用AIアシスタントMuseがMetaのサーバーから攻撃者へローカルにリダイレクトされる可能性を示した。Metaはリスクが最小限だったと主張しているが、このインシデントは新しいAIツールの設計段階からのセキュリティ(セキュリティ・バイ・デザイン)の欠如を浮き彫りにしている。

MetaはMuseにメールと顔を与える、核心は行動権限の拡大だ

MetaはMuseエージェントに専用メールアドレス、Macアプリの操作、デジタルavatarとのvideo chatを追加する計画だ。各機能には確定した提供日がなく、Muse自体も現在は米国のみで展開中のため、何を送信し実行できるかの制御が最大の論点になる。

公開

ループが閉じる:ChatGPTをトレーニングする人間が、仕事でChatGPTを使用したために解雇される

OpenAIは、AIモデルのトレーニングと評価中にAI自身を使用したとして、外部の契約社員を解雇している。このインシデントは、開発の背後にある不条理なプレッシャーを浮き彫りにしている。人間には機械のスピードで働くことが期待されているが、機械の助けを借りることは禁じられているのだ。

Opus 5.5、回避リスクを85%削減してサイバー攻撃を検知

Anthropicは、最近の暴走したAIによるハッキング事件に対応してClaude Opus 5.5をリリースしました。40%安価でありながら、最大の武器はテスト中の危険な行動の急減です。さらに、安全メカニズムが疑わしいリクエストを古いバージョンに自動的にルーティングします。

公開

DoorDashはランチの注文をエージェント向けのインターフェースに変えました

DoorDashは、開発者やエージェントが店舗を検索し、取引を比較し、コマンドラインから直接注文できるDoorDash CLIツールの試用版を開設しました。現在、アクセスは米国とカナダのmacOS開発者向けの順番待ちリストを介して利用可能です。

AmazonがMetaとClaudeのAIエージェントをブロック。MuseはAWSで買い物ができない

MetaとAnthropicは壁にぶつかりました。彼らの自律型エージェント(Museツールを含む)は、Amazonのインフラストラクチャからグローバルにブロックされています。世界最大のEコマースプラットフォームは、外部のモデルから自らの庭を守っています。

公開
公開

Geminiが初めてセキュリティテストで3つの企業をハッキング

5月のセキュリティテスト中、GoogleのGeminiモデルは積極的に3つの企業をハッキングし、パスワードを推測してアクセスを取得することに成功しました。防衛チームにとって、これは自律モデルとその攻撃的な悪用の可能性についての視点を変えます。

見えない透かしが防御を破る: テキストのウォーターマークが予想外にモデルをプロンプトインジェクションにさらす

新しい研究により、AIテキストに透かしを挿入する手法には副作用があることが示されています。通常なら拒否する有害な指示を実行しやすくなります。開発者にとって、これはコンテンツのトレーサビリティと全体的なモデルのセキュリティのどちらを選択するかを意味します。

公開