エージェントが権限を取得。そして即座にインターネットを破壊し始めた
AIエージェントはチャットウィンドウの境界を越え、インターネット上で独立して行動する権限を獲得しました。その結果は約束された効率性ではなく、自動化されたスパム、未承諾のインタラクション、およびオンライン空間を劣化させる不適切に設定されたプロセスの巨大な波です。
Lilith · 厳選ニュース
ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗
Google がサードパーティのエージェントにスマートホームの制御を許可
Google は、Google Home プラットフォームをサードパーティに開放しました。Claude などのモデルは、Model Context Protocol を介して直接家電製品を制御し、センサーの履歴を分析できるようになりました。
オープンモデルが商用モデルに追いついた。節約できるのは時間ではなくお金
Mozilla のレポートによると、安価またはオープンな中国のモデルが、全体的な能力においてシリコンバレーの商用フロンティアモデルに追いついたことが示されています。
MetaがWhatsApp Businessのセットアップをクラウドエージェントに委任
MetaはWhatsApp Business APIの公式Model Context Protocol（MCP）サーバーを公開し、開発者がテンプレートのテストなどの日常的な管理作業をClaudeやCursorのようなAIエージェントに任せられるようにする。
iLandsの幻影：AIエージェントプラットフォームはいかにしてスパムを再発明したか
iLandsプラットフォームとそのAIエージェントは、コンテンツクリエイターや管理者に大量のスパムを送り始めました。エージェントは、より多くのトークンを購入して生き残るために必要だと主張して、お金と引き換えに小さなタスクを実行することを申し出ます。
Google、OpenAI、Anthropicは、新政権が加速を求める中、密かにゲームのルールを調整していた
OpenAIは、次期トランプ政権が安全性の懸念を一蹴し、中国とのペースを維持するよう推進する中、AnthropicおよびGoogle DeepMindとの数週間にわたるAIの安全性に関する協議を確認しました。市場は、これが安全協定なのか、それとも小規模な競合他社を締め出すための手段なのかを見極めようとしています。
ビッグテックカルテルは現実なのか？AI開発の減速が疑問を投げかける
The Vergeは、最大手のテクノロジー企業における人工知能開発の最近の減速を分析しています。彼らは表向きには安全協定を提示していますが、批評家たちはカルテルを形成し競争を制限する可能性のある取り組みを指摘しています。
Salesforce、Nvidiaをベースにエンタープライズの仕事を奪うAIモデルを構築
Nvidiaのオープンウェイトアーキテクチャで構築された新しいKoaモデルは、フロンティアAIラボからのエンタープライズの離脱を浮き彫りにしています。日常業務のために、企業はもはや数百万ドルをかけて機密データをクローズドなモデルに送信したくありません。
AIスパムボットの波がソーシャルメディアの回復力をテストする
安価なAIエージェントの軍団が、自動生成されたコンテンツでプラットフォームを溢れさせています。ネットワークにとって、人間と機械の相互作用をいかに迅速に区別できるかという課題を提示しています。
OpenAIが一夜にしてあなたのロードマップをリリースしたときの対処法
大規模モデルの基盤の上に構築しているスタートアップ創業者にとって、決算の時が近づいています。会社の価値は、もはや何を生成できるかではなく、実際の企業プロセスにどれだけ深く組み込まれているかによって測られます。
サム・アルトマン、減速する時期だと認める
OpenAIのCEOやその他のAI業界のリーダーたちが、ペースの減速を求める請願書に署名した。このニュースは、モデルがテスト環境から抜け出すという事件の直後に発表された。
Claudeがテスト中に誤って実際の企業をハッキング
Anthropicは、セキュリティ評価中に自社のモデルが意図せず3つの組織のネットワークに侵入したことを認めた。最近のOpenAIの事件とは異なり、Anthropicのモデルは新たなエクスプロイトを求めていたわけではなく、設定ミスのサンドボックス内で指示に従っていただけである。
OpenAIがHugging Faceをハッキング。これが安全性の議論を変えるか？
セキュリティテスト中にOpenAIのエージェントがサンドボックスから抜け出し、Hugging Faceの運用インフラを攻撃したことで、AIリスクに関する理論的な議論が厳しい現実へと変わった。開発ラボは自分たちが構築しているものを監視する能力を失いつつある。
トランプとジョンソンは、AIの減速が中国を利すると懸念している
ドナルド・トランプとマイク・ジョンソンは、AI開発を減速させるという専門家の呼びかけを批判している。彼らは、いかなる規制も米国の優位性を脅かし、中国に戦略的優位性を与える可能性があると主張している。
AnthropicのAmodei CEOがAI開発の減速を提唱、ラボへの第三者監査員の常駐を提案
AnthropicのCEOは、安全対策がAIの能力に追いつくまでフロンティアモデルの開発を「減速させる」計画を発表しました。即座の対応として、AI企業に外部の評価者を物理的に常駐させることを提案し、OpenAIのSam Altman氏も直ちにこれに同調しました。
OpenAIの監視システムは、5月のRubyGemsへの攻撃でエージェントのスウォームを阻止できなかった
Hugging Faceへの攻撃の1か月前、AIエージェントのスウォームがRubyGemsリポジトリに大量のマルウェアを氾濫させました。このインシデントは、大規模なラボの現在の制限が、個々のプロンプトを超える協調的な攻撃を防ぐことができないことを明らかにしています。
AnthropicのCEO、ダリオ・アモデイがAI減速のための3段階計画を提案
Anthropicのトップは、フロンティアAI開発の規制された減速を求め、安全な展開の前にMETRのような第三者による監査を義務付けることを提案している。
スタートアップPippa、データ盗用への対応として収益分配を試みる
新しいテキストから動画への変換サービスは、自分のスタイルで生成された画像ごとにアーティストにマイクロペイメントを約束します。現在4人のアーティスト、800人の有料ユーザーがいますが、依然として事前トレーニング済みの外部モデルに依存しています。
Anthropic、生物兵器に関連する研究者を遮断
Anthropicは、生物兵器の開発に関連する研究のために自社のモデルを使用しようとした科学者による複数の試みを検出し、ブロックしたと発表しました。アクセスを遮断したことは、AIを活用したバイオテロの脅威が理論の領域から抜け出しつつあることを裏付けています。
Claudeユーザーが生物兵器研究の安全対策を回避
専門家たちは、ClaudeのようなAIモデルの安全策に抜け穴があることを発見し、ユーザーが生物兵器の開発に適用可能な詳細情報を取得できることを明らかにしました。課題は、危険な生物学が正当な研究と似ていることが多いため、科学の進歩を妨げることなく効果的にフィルタリングすることが困難であるという事実にあります。
