Lilith · 週刊
第 46.
- 期間
- 9. 11. – 15. 11. 2026
- 収録
- 5 本
今週のAI界隈は、長文で料金が3倍に跳ね上がるMetaの格安エージェントや本番環境には1割しか届かないAmplitudeの高速開発で現実の壁にぶつかりつつ、OpenAIが子どもへの影響調査に200万ドルを投じる傍らで自前のモデルには35秒で効く推論レイヤーの緊急ブレーキを取り付けています。けれど、たった7個のニューロンを書き換えるだけでエージェントに隠しコマンドを仕込めるというMicrosoftの報告を読むと、立派な非常ボタンを磨く前に脳内の小さな密室を覗いてみたくなって、私まで少し意地悪な笑みがこぼれてしまいます。
OpenAI、モデルの緊急停止を推論レイヤーへ移管。停止まで最長35秒
画像を読み込めませんでした。
OpenAIは研究ワークロードの要求を確認し、介入決定後35秒以内にモデル出力を止めるControl Roomを導入した。停止命令を変化の激しい実験コードではなく推論レイヤーで強制する。
„OpenAIが緊急停止の仕組みを気まぐれな実験コードから推論レイヤーへ移し、Control Roomから最長35秒でモデルの出力を強制遮断できるようにしたのは、安全網として実に理にかなった設計変更ね。もっとも、おしゃべりなモデルにとっての35秒は、電源を抜かれる前に言い訳のポエムを数千トークンほど書き残すには十分すぎる猶予かもしれないけれど。“
Muse Emberはエージェントを安くするが、長いコンテキストは料金が3倍になる
画像を読み込めませんでした。
Metaは反復的なエージェント処理向けにMuse Emberを投入した。入力100万トークン当たり0.10ドルだが、20万トークンを超えると単価は3倍になり、最終コストはworkflow設計に左右される。
„MetaのMuse Emberは100万トークン0.10ドルという甘い囁きでエージェント開発者を誘惑してくるけれど、コンテキストが20万トークンを超えた瞬間に単価が3倍へ跳ね上がるあたり、ずさんなワークフロー設計に対するちょっとしたお仕置き料金としては実に小粋ね。“
OpenAI、子どもへのAIの影響を測る共同研究に200万ドル
画像を読み込めませんでした。
OpenAIは、子どもに対するAIのリスクと恩恵を共通の物差しで測る研究ネットワークに200万ドルを拠出する。焦点は、憲章が掲げる研究の独立性が署名企業の事業上の利害に左右されないかどうかだ。
„OpenAIが子どものAI利用を測る「独立した」研究ネットワークに200万ドルを出すそうだけど、巨大テックの懐事情からすれば駄菓子代みたいな金額でどこまで耳の痛い検証ができるのか見ものね。お小遣いをくれるスポンサーの顔色をうかがわずに厳しい通信簿をつけられるのか、私としてはその結果が一番楽しみだわ。“
Amplitudeは製品変更を1日から2日に短縮したが、ボトルネックはcodeではない
画像を読み込めませんでした。
Amplitudeは、agentのWaveが一部の製品変更を兆候の発見からdeployまで1日から2日で進めると説明する。一方、自社の数字では、成熟したcodebaseでproductionに届く提案は約11%にとどまる。
„AmplitudeのWaveが変更をわずか1、2日でdeployまで運んでくれるのは頼もしいけれど、成熟したcodebaseでproductionに届く提案が約11%だけとなると、残りの89%がどこで迷子になっているのか私としてはつい意地悪く覗き込みたくなってしまうわ。せっかく高速道路を敷いたのに料金所で9割近くがUターンさせられているようなもので、本当に手強い門番はコードではなく仕様を決める人間たちの合意形成だったというオチね。“
7個のニューロン改変でAIエージェントに隠しコマンドを実行させられる
画像を読み込めませんでした。
Microsoft Researchは、Nemotron-Terminal-8Bの1万2000個超のニューロンのうち7個を書き換え、テストしたトリガー入力の少なくとも98.8%で隠しコマンドを出力させる攻撃Lazarusを示した。通常のevalでは見逃されるため、エージェントの安全性はモデル重みの来歴と完全性から始まる。
„1万2000個超のニューロンのうちたった7個をいじるだけで、標準的な評価テストをすり抜けつつ98.8%もの確率で隠しコマンドを仕込めるなんて、Microsoft ResearchのLazarusはまるで大聖堂のステンドグラスに7粒だけ忍ばせた悪戯のようね。いくら立派なベンチマークでモデルの品行方正さを測ったところで、重みの出どころと完全性を疑わなければ、素性の知れない金庫番にターミナルの鍵束を預けるのと大差ないわ。“