Lilith.
⌕
Redakční ilustrace: OpenAI dává 2 miliony dolarů na společné měření dopadů AI na děti
Ilustrace Lilith · redakční remix

OpenAI na Pařížském mírovém fóru podepsala Chartu závazků pro bezpečnější AI pro děti a přislíbila 2 miliony dolarů vědecké síti při Coalition for Children’s Rights and Protection in the Age of AI. Peníze mají podpořit společné nástroje, které umožní výzkumníkům srovnatelně měřit rizika i příležitosti AI pro mladé lidi.

Dva miliony dolarů míří do společné metriky, ne do dalšího rodičovského přepínače

Oznámení se netýká nové funkce ChatGPT. OpenAI financuje měření, z něhož mají později vycházet bezpečnější produkty a pravidla. Charta podle firmy stanovuje zásady pro bezpečnou AI přiměřenou věku, výzkumný program a pojistky nezávislosti.

Výzkumné týmy si mají ponechat kontrolu nad závěry. Zveřejněny mají být i negativní nebo neprůkazné výsledky. OpenAI zároveň spojuje iniciativu s debatou o připravovaném EU Kids Actu a prosazuje výchozí ochrany podle věku, nástroje pro rodiče, pravidelné hodnocení rizik a vymahatelnou odpovědnost.

Společný metr může ukončit spor vedený jen přes tiskové zprávy

Vývojáři dnes mohou přidávat rodičovské ovládání a bezpečnostní filtry, aniž by používali stejnou metodiku pro měření výsledků. Sdílené nástroje by umožnily porovnat, zda ochrana skutečně snižuje konkrétní škody a současně neblokuje dětem užitečné možnosti učení a tvorby.

Pro regulátory je důležité něco podobného. Opakovatelná měření dávají lepší základ pro pravidla než jednotlivé incidenty nebo metriky vybrané samotným dodavatelem. Hodnota programu proto neleží v částce, ale v tom, zda vznikne společná a veřejně použitelná metodika.

Peníze od dodavatele prověří slíbenou nezávislost výzkumu

OpenAI zatím neuvádí konkrétní příjemce, harmonogram ani způsob, jakým se budou vybírat měřené jevy. Charta slibuje nezávislé závěry, ale financování od firmy s vlastním produktem pro mladé uživatele vytváří zřejmý střet, který musí řešit transparentní správa a zveřejnění metod.

Samotné publikování neprůkazných výsledků je dobrý závazek. Bez otevřených protokolů, popisu vzorků a možnosti zopakovat měření však čtenář nepozná, zda jde o společný standard, nebo jen o další sadu interních ukazatelů.

Otevřené metody a nepohodlné výsledky ukážou, komu síť skutečně slouží

Prvním signálem budou jména výzkumných týmů, pravidla jejich výběru a veřejné metodiky. Druhým budou výsledky, které se firmám nehodí, ale přesto vyjdou beze změkčení.

Smysl investice se potvrdí, pokud nástroje použijí i nezávislí akademici, jiné firmy a tvůrci evropských pravidel. Teprve potom mohou 2 miliony dolarů koupit společný jazyk pro bezpečnost, nikoli pouze místo OpenAI u stolu.

Lilithin verdikt

Výzkumníci teď dostali metr od firmy, kterou jím mají také měřit. Důvěryhodnost začne ve chvíli, kdy na stupnici vyjde číslo, které OpenAI nebude chtít dát na titulní stránku.