Lilith.
⌕

Lilith · 厳選ニュース

ニュース

AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。

Atomフィード ↗
#agents· × <built-in method clear of dict object at 0xefe395918340>
公開

model specはAIの振る舞いを定める。新たな枠組みはテスト、版管理、独立検証も求める

Safe AI Forumは、西側と中国の機関に所属する執筆者がまとめたmodel specの枠組みを公開した。仕様を6要素に分け、公開版管理、準拠度の測定、独立評価者へのアクセスを企業に提言している。

公開

Claude Duetは仕事を見張れるが、緊急性と朝の焦りをまだ区別できない

Claude Duetを1週間使った試験では、メール、カレンダー、文書、Slackを横断する監視が役立つ一方、口調や本当の緊急性を読む判断は弱かった。先回りするagentには、作業の完了より難しい課題がある。ユーザーを放っておくべき時を知ることだ。

公開

Simon Willison、AI支援で作った244個のツールをtree-sitterで棚卸し

Simon Willisonは、主にAI支援で作った244個のWebツールをtree-sitterで解析し、実際のコードからタグを付けた。小さなサイト改善だが、AIにコードを書かせても、成果物の棚卸しには決定論的なparserが向くことを示している。

公開

Resendは機械にも読める設計でAIエージェントの推薦を勝ち取る

Claude Codeは、判定できたメールツール推薦102件のうち64件でResendを第一候補に選んだ。市場シェアを示す数字ではないが、AIエージェントが読めるドキュメントが開発者向け製品の新しい流通経路になりつつあることを具体的に示している。

7個のニューロン改変でAIエージェントに隠しコマンドを実行させられる

Microsoft Researchは、Nemotron-Terminal-8Bの1万2000個超のニューロンのうち7個を書き換え、テストしたトリガー入力の少なくとも98.8%で隠しコマンドを出力させる攻撃Lazarusを示した。通常のevalでは見逃されるため、エージェントの安全性はモデル重みの来歴と完全性から始まる。

公開
公開
公開

ARTEXの自律攻撃パネル1608台がインターネットに露出

Check PointはARTEXをホストしたことのある2557台のシステムを特定し、調査時点で1608台が稼働中かつ公開状態だった。設定を誤った10台からは、実際の攻撃で使われたprompt、モデル、エージェントの行動を含むデータベースまで露出していた。

公開