Lilith.
⌕

Lilith · 厳選ニュース

ニュース

AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。

Atomフィード ↗
#research· × <built-in method clear of dict object at 0xefe3a6aa8d80>
公開
公開

Sakana AI、日本のサイバー防御を高速パッチではなく連携エージェントに賭ける

Sakana AIは東京に独立組織Security Research Groupを設け、Akihiro UmegaiとDavid Haが率いる。組織横断の防御、エージェントの安全性、設計段階での欠陥予防を研究し、成果を公開する方針だ。

公開
公開
公開
公開

エージェントが本を一行ずつ読んだ。調査スウォームはWebを無償APIに変える

Ethan Mollick氏は、Fable 5.2がW. H. Audenの1941年の講義を再構成する際、Internet Archiveの本を全文検索で一行ずつ取り出したと報告した。単一の事例では規模を測れないが、エージェントが人間とは異なる負荷をWebにかける理由はよく見える。

公開

測定器が粗ければ、モデルの安全性はスライド上の数字にすぎない

Anthropicは、安全性評価の設計、実行、報告に関する10項目の提言を公開した。核心は点数の先にある。測定対象、grader、不確実性を検証しなければ、モデルの安全性を測ったのか、試験装置そのものを測ったのか判別できない。

Anthropicのモデル開発は1.9倍に加速、ただし重要な根拠は非公開

METRは、Anthropicの社内モデル能力が2025年10月以降、以前の1.9倍の速度で伸び、その加速の大半は研究でのAI利用による可能性が高いと推定した。ただし結論の一部は、Anthropicが非公開にした証拠に依存する。

公開
公開

7個のニューロン改変でAIエージェントに隠しコマンドを実行させられる

Microsoft Researchは、Nemotron-Terminal-8Bの1万2000個超のニューロンのうち7個を書き換え、テストしたトリガー入力の少なくとも98.8%で隠しコマンドを出力させる攻撃Lazarusを示した。通常のevalでは見逃されるため、エージェントの安全性はモデル重みの来歴と完全性から始まる。

·更新 · X · @GoogleDeepMind ↗

Gemini 4 Carbonが2週間でAPI公開、Googleは最難関タスク向けに位置付ける

Googleは2週間の限定提供を経て、Gemini 4 Carbonを全ての有料API開発者と企業、複数製品のGoogle AI Ultra契約者へ公開した。入力100万token当たり2ドルからだが、Google自身も通常業務の大半には安価なArgonを推奨している。

公開