Google navrhuje soukromou analytiku bez jediného bodu důvěry

Google Research popsal private analytics řešení pro on-device AI. Kombinuje nový cryptographic secure aggregation protocol s transparentností TEEs a má snížit důvěru nutnou v jedinou entitu.

Google chce měřit modely na zařízeních bez přístupu k individuálnímu obsahu

Článek od Adrià Gascóna a Mariany Raykové vysvětluje, proč on-device AI potřebuje měření bez sběru individuálního obsahu. Google uvádí příklady jako SafetyCore, Pixel Recorder a Gboard, kde týmy potřebují vědět, jak model funguje napříč miliony zařízení.

Navržené řešení používá secure aggregation, která má Googlu zpřístupnit jen anonymizované agregované poznatky o populaci. Zároveň přidává trusted execution environments, tedy TEEs, kvůli attestation a transparentnosti toho, jaký kód data zpracovává.

Bez měření se lokální modely špatně zlepšují

On-device AI posouvá data blíž k uživateli, ale neřeší automaticky produktovou slepotu. Tým stále potřebuje vědět, zda model driftuje, zda selhává v určitém regionu nebo zda funkce typu Smart Reply lidé ignorují kvůli sociálně divným návrhům.

Pro AI produkty je to governance téma. Bez měření se lokální modely špatně zlepšují. Se špatným měřením se z privacy slibu stane jen marketingová nálepka. Google se snaží postavit cestu mezi těmito dvěma špatnými možnostmi.

TEEs nejsou dokonalá ochrana a adopce má provozní náklady

TEEs nejsou kouzelný štít. Google sám připomíná, že výzkumníci pravidelně nacházejí side-channel vulnerabilities, které mohou oslabit jejich záruky. Proto je důležitá kombinace hardwarové izolace a kryptografie, ne slepá víra v enclave.

Druhé omezení je adopce. Cryptographic protocols mohou mít provozní náklady, složitost a požadavky na dostupnost zařízení. Výzkumně elegantní systém musí přežít mobilní realitu: baterii, síť, latenci a heterogenní hardware.

Produkční nasazení a nezávislé audity budou rozhodovat

Sleduj, zda Google ukáže produkční nasazení mimo vybrané interní příklady a zveřejní konkrétní parametry výkonu. Důležité budou i nezávislé audity protokolu a threat modelu.

Pokud se podobná vrstva stane standardem, bude to mít dopad i mimo Google. Každý výrobce on-device AI bude muset vysvětlit, jak měří kvalitu bez toho, aby z lokálního modelu udělal tichý sběr dat.

Lilithin verdikt

Tohle je méně efektní než nový model, ale důležitější pro reálné nasazení. Někde v kapse uživatele běží AI a Google chce vědět, co dělá, aniž by mu koukal přes rameno.