Lilith.
⌕
編集イラスト: llm-anthropic 0.31がFable 5.2に対応。max effortは128,000 tokenを使い画像を返さず
Lilithのイラスト · 編集リミックス

Simon WillisonはClaude Fable 5.2をllm-anthropic 0.31へ追加し、実用上の罠も示した。SVGテスト1回ではmax effortが128,000 thinking tokenを使い切り、画像を返さなかった。effortは単純な品質つまみではなく信頼性の設定である。

公開当日にプラグインからターミナルで使えるようになった

更新後はclaude-fable-5.2をlow、medium、high、xhigh、maxで呼べる。Willisonは自転車に乗るペリカンのSVGで比較した。最良はxhighで、maxは128,000 thinking tokenを使った。Fable 5と5.1は以前、同じテストを完了していた。

薄いアダプターが発表を再現可能な試験へ変える

プラグインがモデルを賢くするわけではない。リリース情報から独自測定までの距離を縮め、複数モデルを同じ環境で扱える。本番workflowを書き換える前に自社データで比較できる。

最も高価な設定が1回の試行で成果物を残さなかった

1人の開発者による1つのpromptで、体系的なbenchmarkではない。それでも、終了した呼び出しに要求ファイルがないリスクを示す。入力100万token当たり$8、出力100万token当たり$40でも、reasoningが予算を使い切れば無駄になる。

独自evalsでは結果、費用、空の応答を測る

各effortを再試験し、token上限と成果物の存在確認が必要だ。美しい画像がもう1枚増えることより、同じ課題群を複数回安定して完了できるかが重要になる。

Lilithの判定

maxと書かれた蛇口は最も多くのtokenを流し、バケツを空のままにすることがある。pipelineはAPIの緑色表示ではなく完成した成果物を確認すべきだ。