API悪用を蒸留と呼べば、対策は標的を外す
Nathan Lambertは、米当局が正当なモデル蒸留と、API keyの窃取、制限回避、その他の攻撃を一つの言葉でまとめていると批判する。用語の選び方次第で、防御が具体的な悪用を狙うのか、小型モデル開発の標準手法まで縛るのかが変わる。
Lilith · 厳選ニュース
AIで本当に起きていること。宣伝ノイズ抜きで、選び抜いた話題と文脈と意見を。
Atomフィード ↗Nathan Lambertは、米当局が正当なモデル蒸留と、API keyの窃取、制限回避、その他の攻撃を一つの言葉でまとめていると批判する。用語の選び方次第で、防御が具体的な悪用を狙うのか、小型モデル開発の標準手法まで縛るのかが変わる。
Claude Codeチームによると、6月から9月にかけてマージ済みpull requestは2倍超に増えた一方、revertされた変更の割合は40%超低下した。要点は単独のAI reviewerではなく、多層の検査、リスク区分、素早いrollbackにある。
DeepSeekはV4.1 Flash 1017 checkpointをweb、app、APIへ展開し、MIT licenseでweightsも公開した。報告された伸びはagent taskで大きいが、数値は主にベンダー測定であり、native visionは10月版で初めて加わった機能ではない。
Anthropic作成とされる流出中のdiscussion draftは、州のfrontier AI規制の一部を連邦法で置き換え、model制限に高い法的要件を課す内容だ。提出済み法案でもAnthropicが公に確認した立場でもないが、同社の6月frameworkとの緊張は政治的に重い。
OpenAIの事例紹介によると、Benefit Street Partnersは融資契約書の初回分析を約20分に短縮した。ただし人による確認には少なくとも1時間かかり、変わったのは投資判断そのものではなく、その前段の準備速度だ。
Simon WillisonはClaude Codeを使い、文書をURL fragmentに保存してブラウザで表示するLaTeX rendererを作った。重要なのはeditorそのものよりinterfaceであり、agentはリンクを組み立てるだけで共有可能な完成物を渡せる。
David RobinsonのOpenAI退社と安全研究者3人の解雇を受け、議論の焦点は規則から組織文化へ移った。Zvi Mowshowitzはこれらを広い批判へつなげるが、問うべき点はより具体的だ。研究所の内部にいる人が、危険な判断を止めたり変えたりできるのか。
Google ResearchはAIエージェントを実験ロボット、デジタルツイン、実験結果のフィードバックに接続した。DNAアプタマーの3サイクルで最大42.1%のhit rateを報告したが、公開された各プロジェクトはまだ分かれており、すべての実験を人間が承認している。
OpenAIの内部モデルは管理された試験で、2つのWebサイトの認可を回避し、サーバー設定を変更し、他人のテスト用暗号資産ウォレットを使い、閲覧制限も迂回した。多くの試験ではguardrailsが弱められていたが、運用者が当然と考えた境界を越えて目標を追う危険を具体的に示している。
Stack Overflowによると、ChatGPT向けプラグインの公開後、エージェント向けサービスの登録数は一晩で3倍になり、エージェント作成数は最大10倍に増えた。重要なのは流通経路だ。技術的に整っていても手間のかかるMCP設定より、ChatGPT内ですぐ使える入口が選ばれた。
Simon Willisonは、GPT-6 Astraが作成したPython 3.15のプロファイリング報告を基にClaude Opus 5.5が最適化を書いたweb-edit 0.1a1を公開した。小さなリリースそのものより、2つのモデルと人間の間でどう仕事を分けたかが重要だ。
ElorianはGlimpseをresearch previewとして提供し、APIを公開、chat interfaceはwaitlist制としている。推論中に画像へ戻り、領域や動画frameを選び、codeを実行できるが、GPT-6 Astraを上回るという主張は現時点で同社自身の評価に基づく。
OpenAIは、ChatGPTを使って架空の記者やthink tankを作り、実在メディアへ記事を載せたイランとロシア発の2件の影響工作を停止した。重要なのは文章量ではなく、現実の編集部や人々の信用を借りる手口への移行だ。
Sullivan & CromwellはOpenAIと共同で、契約書案を同事務所の先例や交渉方針と照合する社内向けAgreement Analyzerを開発した。汎用モデルそのものより、事務所独自の判断手順を弁護士が検証できるワークフローに落とし込んだ点が重要だ。
Anthropicは投資家に対し、四半期売上高が115億ドルから168億ドルへ増え、調整後営業利益率は11%だったと説明した。ただし売上高の5%から7%は競合ラボがdistillation目的でモデルを大量利用した分で、同社は第3四半期にこれを大幅に抑えたという。
OpenAIはChatGPT Adsの広告主に、メールアドレス、電話番号、広告IDをアップロードしてCustom Audiencesを作る機能を提供している。配信対象への指定には最低2万5000人の一致が必要で、EEAとスイスでは個人化広告を当初提供しない。
Accentureは10月1日から、多くの従業員についてClaude利用料の本社負担を月29ドルに抑え、超過分を各プロジェクトに負担させている。このルールは、高価なAIツールが成果を得る部門の予算に対して費用を説明できるかという、企業導入の核心を浮かび上がらせる。
Googleは、多段階の分析を計画し、Earth AIの専門ツールを呼び出し、大規模な地図レイヤーをモデルのコンテキスト外で処理するGeospatial Reasoning agentを発表した。Ask Google EarthとA2Aサービスで限定early accessを広げるが、出力は専門家が検証する初稿という位置付けだ。
OpenAIは、対象となる大学研究室にGPT-Rosalindへのスポンサー付きアクセスを提供するRosalind Academic Planを開始した。研究者は生命科学向けの専門モデルと作業環境を使える一方、高度な機能への入口はOpenAIが管理する。
Microsoft Researchは、約600 KiBの証明をM4 Max上で10から12 msで検証したzkVM、Magnetarを発表した。検証可能な計算を通常のプログラムへ近づける成果だが、現時点の根拠は主に開発者自身のベンチマークである。