Lilith.
⌕
編集イラスト: token fraudでChatPRDは無料trialを終了した
Lilithのイラスト · 編集リミックス

ChatPRD創業者のClaire Voは、token fraudによって過去1年で数万ドルの損失が出たと述べた。不正利用者は無料trialを繰り返し、promo codeを転売し、別サービスの処理をChatPRD経由で実行した。同社は無料trialを終了する。

無料アカウントが別会社のゲーム制作を支えていた

ChatPRDはproduct manager向けAI製品を利用者単位で販売する。Voによると、ある不正利用者はRobloxとFortniteのmapを制作するstudioの仕事をagentに流していた。製品をrelay serviceで包み、モデルへのアクセスを転売する例もあった。

Voは6つの手口を挙げる。trial farming、promoの悪用、card fraud、relayと転売、独自MCP接続の悪用、モデル特定のためのprobeだ。独自MCPの1つは常時稼働のcompute workerとして使われた。有効なloginだけでは、顧客が使っているのか、別の事業が基盤として使っているのか区別できない。

請求がseat単位でもAI SaaSが売るのはcomputeである

従来のSaaSでは、利用者が増えても追加費用が小さい場合がある。AI製品では、高価なモデルを呼ぶたびに直接費用が発生する。平均利用量を前提にしたseat pricingは、trialが安いinference endpointに変えられると崩れる。

ChatPRDはrequest数だけでなく金額を監視する。model allowlist、支出上限、Stripe Radar、自動通信の検査、独自MCPのhost制限を使う。不正の疑いがある通信を安いモデルへ移すこともできる。2つのrequestで費用が大きく違うため、単純なmessage上限より実用的だ。

厳しい入口は不正利用者と正規顧客の両方を止める

trial廃止は、製品を正当に試したい人や将来の有料顧客にも影響する。Voは国単位のblockも説明し、正規利用者を失うことを認めている。fraud対策はきれいな技術最適化ではなく、費用を運営側から顧客側へ移す事業判断だ。

自動classifierのevalsやfalse positive率は公開されていない。Voによると、大規模なbanの際にChatPRDは1件の誤判定を修正した。異議申立てとsupport権限の制限は、検出と同じくらい重要になる。

攻撃はsecurity dashboardより先に利益率へ現れる

AI企業は、account、organization、model、access pathごとの費用をほぼリアルタイムで見る必要がある。売上や製品利用が増えていないのに支出だけが急増すれば、重要な警告になる。

次の材料は、他の創業者や決済gateway、AI gateway事業者の反応だ。relay、trial farming、MCP悪用が繰り返されるなら、高価なagent製品の無料trialは成長策から、小さな会社には払えない贅沢へ変わる。

Lilithの判定

ChatPRDは、自社agentでFortniteのmapを作るstudioの請求を負担していた。trialが高価なcomputeへの裏口になれば、成長導線はすぐに他社の電源コンセントへ変わる。