AlphaProof Code、Signalの暗号を機械語レベルまで形式検証

Google DeepMindは、ソフトウェア形式検証のためのマルチエージェント基盤AlphaProof Codeを発表した。Gemini Carbonを使うエージェントが600万行を超えるLean証明を生成し、4週間でSignal中核暗号の選択された安全性を端末上のコードまで検証した。

証明は設計からコンパイル済みコードまで届いた

人間の専門家が安全目標を形式仕様へ変換し、すべて承認した。エージェントが証明を作り、Leanが機械的に検査した。監査はコードの約1 %を人の確認対象にした。過去に修正された2件のバグを隔離版へ戻す試験でも、危険性を検出した。

AIが形式検証で最も高価な作業を圧縮する

価値は安全を自動宣言することではない。エージェントは実装から定理への変換と証明探索を速め、人間が何を証明するか決める。専門家の作業を何年も確保できないチームにも、形式手法が届く可能性がある。

数学的な確実性は指定した性質だけを覆う

Leanは証明の各段階を検査するが、正しい仕様を選ばない。安全目標の誤りや対象外のコードは残り得る。これは1つのチームが難しいプロトコルで得た成果であり、完成した汎用品ではない。

実用性は別のリポジトリで決まる

DeepMindは成果物と技術paperを公開した。独立チームによる再現と、firmware、library、別のprotocolでの検証が必要だ。コード変更のたびに証明を維持する作業量も重要になる。

Lilithの判定

Leanは何百万もの手順を検査したが、地図の最初の線を引くのは人間だ。その線が間違えば、完璧に正確な道順でも誤った場所へ着く。