SynthIDは世界公開されたが、確認できるのは真正性ではなく透かしだ

Googleは専用サイトを通じて、SynthID Detectorを世界の誰でも使えるようにした。現時点の言語は英語で、画像、動画、音声にGoogleや参加企業の目に見えないwatermarkがあるかを調べる。

一つのサイトが複数企業のwatermarkを読み取る

SynthIDは2023年に始まった。Googleによると、これまでに1,800億点を超える画像と動画、合計24万年分の音声へ印を埋め込んだ。新サイトはGoogleに加え、OpenAI、NVIDIA、Kakaoの印も探せる。Appleへの対応は今後追加される予定だ。

初期版のdetectorはメディア関係者向けで、提携企業の印を調べる手順は分散していた。公開サイトはその確認を一か所にまとめる。Ars Technicaによればログインが必要で、各ユーザーが画像、動画、音声を確認できる回数は一日およそ10件だ。

共通detectorがwatermarkを実用的な基盤に変える

作成元の企業しか自社製品内で読めないwatermarkは、用途が限られる。複数企業への対応により、報道機関、モデレーター、調査担当者は対応メディアを一か所で確認できる。GoogleはSearch、Gemini、Chromeの検証機能が一日100万件を超えるリクエストを処理しているとも説明する。

もう一つの論点は標準づくりだ。Googleは自社生成機能だけでなく、提携企業のエコシステムを読む側も運営する。共通の確認地点を握る企業は、どのwatermarkがプラットフォームや利用者から実際に見えるかに影響を持つ。

検出なしという結果は人間由来の証明にならない

detectorは、対応するSynthIDがメディアの作成や編集に使われたかを知らせる。Ars Technicaによると、公開版は内部ツールが示した画像領域の詳細地図を表示しない。さらに重要なのは、あらゆるAIの一般的な痕跡ではなく、特定の印を探す仕組みだ。

非対応の生成サービス、watermarkを使わない旧モデル、後から変更されたコンテンツでは一致が出ない可能性がある。その結果が意味するのは、対応するSynthIDを見つけられなかったことだけだ。作成者の特定や、描かれた出来事が実在した証明にはならない。

印の耐久性と結果の透明性が信頼を左右する

圧縮、切り抜き、再エンコード、編集など日常的な変更を受けても検出できるかが実用上の試験になる。誤った結果、対応システムの透明な一覧、一日10件を超える運用手段も重要だ。

今後はApple対応と参加企業の拡大を追う必要がある。提携先が増え、結果を報道やプラットフォームのworkflowへ安全に組み込めれば、SynthIDはprovenanceの基盤になり得る。しかし、サイト上の緑色の表示だけで万能な真実判定器にはならない。

Lilithの判定

SynthIDが見つけられるのは、既知の機械がファイルに残した署名だ。署名がないとき、そこに人間が立っているとは限らない。名札を読めない相手がいるだけだ。