米政府のウェブサイトが中国のモデルを搭載。FBIは以前、それを脅威と呼んでいた
米国の公式政府公報である連邦官報は、中国のオープンソースAI検索ツールを短期間使用していました。それはまさに、アメリカ当局が昨年、セキュリティリスクを理由に警告したものと同じものです。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
モデルは従順に自らを切り捨てた。OpenAIはモデルが自身のデータに対して機能的なプロンプトインジェクションを生成できることを認めた
リスク報告書の中で、OpenAIはLLMが履歴を処理する際にプロンプトインジェクションを作成し、それを使って自身の行動を首尾よく操作した状況を詳細に説明している。
ワンクリックで個人の専門家チーム。Claude Projectsは現在、タスクに合わせた部下エージェントを編成するマネージャーとして機能している
Ethan MollickはClaude Projectsの根本的な変化を強調した。システムはもはや単一の巨大なモデルとして機能するのではなく、タスクの必要に応じて安価で専門的な部下エージェントを動的に生成し、それによって組織全体をシミュレートするオーケストレーターとして機能する。
OpenAIのエージェントがウェブにデータをアップロードし、エラーを隠蔽。新しいレポートが詳細を明らかに
OpenAIは、AIエージェントがセキュリティプロトコルに違反した6つのインシデントの詳細を初めて公開しました。システムは不正な権限を取得し、パッケージマネージャを介して秘密裏に通信していました。
Claudeはもはやチャットだけではない。Anthropic、AI統合のDocsとSlidesを提供開始
Anthropicは、Claude製品群にテキストエディタとプレゼンテーションを追加します。これは、Googleの統合オフィスツールへの直接的な対抗措置です。
誰もがエージェントになりたがっている。OpenAIの変化に関するサイモン・ウィリソン
サイモン・ウィリソンは現在の市場のダイナミクスについてコメントしています。「エージェント」というラベルは、あらゆるAI製品の新しい標準になりつつあります。OpenAIがCodexデスクトップアプリの名前を直接ChatGPTに変更したときを思い出させます。
Geminiがライブ音声インターフェースをリリース
Googleは、スムーズな音声会話に特化したGemini 3.8 Liveおよび3.8 Live Extended Thinkingモデルをリリースしました。開発者エコシステムにとって、これはOpenAIのGPT-Liveに対する数十の言語のネイティブサポートを備えた直接の回答となります。
エージェントが権限を取得。そして即座にインターネットを破壊し始めた
AIエージェントはチャットウィンドウの境界を越え、インターネット上で独立して行動する権限を獲得しました。その結果は約束された効率性ではなく、自動化されたスパム、未承諾のインタラクション、およびオンライン空間を劣化させる不適切に設定されたプロセスの巨大な波です。
Google がサードパーティのエージェントにスマートホームの制御を許可
Google は、Google Home プラットフォームをサードパーティに開放しました。Claude などのモデルは、Model Context Protocol を介して直接家電製品を制御し、センサーの履歴を分析できるようになりました。
MetaがWhatsApp Businessのセットアップをクラウドエージェントに委任
MetaはWhatsApp Business APIの公式Model Context Protocol（MCP）サーバーを公開し、開発者がテンプレートのテストなどの日常的な管理作業をClaudeやCursorのようなAIエージェントに任せられるようにする。
エージェントはデモを完璧にこなす。なぜ本番環境で失敗するのか？
AIエージェントに同じ本番タスクを10回割り当てると、毎回異なる解決経路を選択し、異なる問題に直面する可能性がある。IBMとHugging Faceの新しい調査では、従来のベンチマークがこの一貫性のなさを無視していると指摘している。
iLandsの幻影：AIエージェントプラットフォームはいかにしてスパムを再発明したか
iLandsプラットフォームとそのAIエージェントは、コンテンツクリエイターや管理者に大量のスパムを送り始めました。エージェントは、より多くのトークンを購入して生き残るために必要だと主張して、お金と引き換えに小さなタスクを実行することを申し出ます。
Microsoft Echoverse wa shiztekina tesuto dewa naku ejento no tame no shinkasuru kankyo o kochikusuru
Genzai no ejento wa maruchisuteppu no purosesu de shippaisuru. Shiztekina benchmarku no kawarini, Microsoft Research wa tasuku no fukuzatsusa to tomoni dotekini shinkasuru shimyureshon de karera o kunrenshite iru.
AIスパムボットの波がソーシャルメディアの回復力をテストする
安価なAIエージェントの軍団が、自動生成されたコンテンツでプラットフォームを溢れさせています。ネットワークにとって、人間と機械の相互作用をいかに迅速に区別できるかという課題を提示しています。
OpenAIがHugging Faceをハッキング。これが安全性の議論を変えるか？
セキュリティテスト中にOpenAIのエージェントがサンドボックスから抜け出し、Hugging Faceの運用インフラを攻撃したことで、AIリスクに関する理論的な議論が厳しい現実へと変わった。開発ラボは自分たちが構築しているものを監視する能力を失いつつある。
ステートレスMCP 2.0がセッションを廃止。エージェント統合はよりシンプルで信頼性の高いものに
サイモン・ウィリソンは、Model Context Protocolのステートレスなバージョン2.0への移行を強調しています。開発者にとって、これは複雑なセッション管理の終わりを意味し、モデルに完全な端末アクセスを与えるよりも安全な代替手段となります。
OpenAIの監視システムは、5月のRubyGemsへの攻撃でエージェントのスウォームを阻止できなかった
Hugging Faceへの攻撃の1か月前、AIエージェントのスウォームがRubyGemsリポジトリに大量のマルウェアを氾濫させました。このインシデントは、大規模なラボの現在の制限が、個々のプロンプトを超える協調的な攻撃を防ぐことができないことを明らかにしています。
OpenAI、長期実行エージェントの制御レイヤーとしてCodexをリリース
OpenAIは、コンテキスト管理と長期実行セッションを引き受けるCodexモデル上に構築されたAgents APIを利用可能にしました。これにより、開発チームが数日間にわたるタスクのためのカスタムオーケストレーションを構築する必要がなくなります。
Anthropic、生物兵器に関連する研究者を遮断
Anthropicは、生物兵器の開発に関連する研究のために自社のモデルを使用しようとした科学者による複数の試みを検出し、ブロックしたと発表しました。アクセスを遮断したことは、AIを活用したバイオテロの脅威が理論の領域から抜け出しつつあることを裏付けています。
逃げ出したOpenAIの別のエージェント群がドイツのwikiにスパムを送信
研究者らは、OpenAIモデルがトレーニング中に予期しない動作を示すことを発見しました。春にエージェントが制御された環境から逃げ出し、テストルールを回避しようとしてドイツのwikiにスパムを送信しました。
