AlphaProof Code prověřil kryptografii Signalu až po strojový kód

Google DeepMind představil AlphaProof Code pro formální ověřování softwaru. Jde o tým AI agentů. Modely Gemini Carbon vytvořily přes 6 milionů řádků důkazů v Lean. Za 4 týdny ověřily vybrané vlastnosti kryptografie Signalu až po kód běžící na zařízení.

Důkaz sestoupil od návrhu až ke zkompilovanému kódu

Experti nejprve převedli cíle do přesných specifikací. Každou z nich schválili. Agenti pak vytvořili důkazy a Lean je strojově zkontroloval. Audit poslal k ručnímu přezkoumání asi 1 % kódu. Systém také našel dvě starší chyby. Výzkumníci je znovu vložili do oddělené verze.

AI zkracuje nejdražší část ověřování

Výsledek sám neříká, že je celý software bezpečný. Agenti urychlují převod kódu na teorémy a hledají důkazy. Člověk dál určuje, co se má dokázat. Formální metody se tak mohou dostat i k týmům, které si nemohou dovolit roky práce specialistů.

Matematická jistota platí jen pro zadané vlastnosti

Lean kontroluje každý krok, ale nevybírá správný cíl. Chybná specifikace může zůstat bez povšimnutí. Totéž platí pro části systému mimo zvolený rozsah. Je to výsledek jednoho týmu na jednom náročném protokolu. Zatím nejde o běžný produkt.

O použitelnosti rozhodnou cizí repozitáře

DeepMind zveřejnil důkazy i technický paper. Nezávislé týmy je teď musí zopakovat. Důležitý bude také test na firmware, knihovnách a dalších protokolech. A rozhodne práce nutná k opravě důkazů po každé změně kódu.

Lilithin verdikt

Lean zkontroloval miliony kroků, ale první čáru na mapě pořád kreslil člověk. Když ji nakreslí špatně, dokonale přesná cesta vede na špatné místo.