Datasetteがモデル制限の不具合を修正。allowlistは安全境界として検証すべきだ | ニュース

Simon Willisonは11月4日、datasette-llm 0.1a10を公開した。この版では、デモサイトagent.datasette.ioで、利用可能なLLMが設定に記載されたモデルだけに正しく制限されていなかった不具合を修正した。

0.1a10は設定外のモデルを再び利用対象から外した

一次情報のrelease noteは短い。製品名、version、影響を受けたデモ、不具合の性質は確認できる。一方で、技術的な原因、継続期間、利用者への具体的な影響は説明されていない。すべてのdatasette-llm環境で同じ問題が起きたとも判断できない。

これは0.1系で10番目のalpha版であり、広範なsecurity advisoryではない。それでも、運用者が頼る境界に不具合があった。設定は、agentがどのモデルを提示できるかを決めるはずだからだ。

モデルのallowlistは、画面の好みを決める設定ではない。運用者は価格、能力、region、データ処理規則に応じてLLMを許可する。runtimeがリスト外のモデルを提示すれば、宣言された方針と実際の挙動が食い違う。

情報源は、デモで金銭的またはセキュリティ上の事故が起きたとは示していない。実務上の結論はもっと限定的だ。禁止されたモデルを別経路からも選択、実行できないと確認するまで、設定済みリストを有効な制御と見なすべきではない。

release noteは、画面に表示される一覧だけの問題だったのか、モデル呼び出し時のserver-side enforcementにも及んだのかを説明していない。この詳細がなければ、データ流出、不正アクセス、課金回避を主張するのは証拠を超える。

alphaという表示も重要な文脈だ。初期のsoftwareは変化が速く、interfaceと安全境界もまだ固まっていない。だからこそ、機能だけでなく制限にもtestが必要になる。

次に見るべき信号は単純だ。許可されていないモデルを要求し、拒否を期待するtestが文書化されるかどうかだ。agent向けinterfaceでは、browserがmenuを作る時だけでなく、serverが毎回のrequestで制限を適用する必要がある。

現在の運用者は0.1a10へ更新し、設定と実際の挙動を照合した方がよい。今回直ったのは特定のデモだ。自分の環境で境界が機能するかは、その環境をtestして初めて分かる。

許可済みモデルのみと書いた看板だけでは、誰も止められない。Datasetteは遮断機を直した。次はreleaseのたびに、testが意図的にそこへ突っ込む番だ。