Štítek
#Safety
Z Radaru
Radar · 2026-06-15
OpenAI chce sjednotit pravidla dřív, než je sjednotí státy samy
OpenAI zveřejnila politickou agendu pro AI: bezpečnost frontier modelů, ochranu mladistvých, školství, pracovní trh a infrastrukturu. Nejde jen o lobbying. Je to pokus nastavit mantinely tak, aby firmě zůstala jedna mapa pravidel místo padesáti lokálních bitev.
Číst →Radar · 2026-06-09
Claude Fable 5 mění safety v otázku přístupu k nejlepším modelům
Nathan Lambert čte vydání Claude Fable 5 jako spor o to, kdo smí používat frontier model bez přesměrování a filtrů. Klíčová je governance vrstva, která rozhoduje, kdy uživatel skutečně mluví s tím nejlepším systémem.
Číst →Radar · 2026-06-08
OpenAI balí AGI do jazyka veřejné infrastruktury
OpenAI zveřejnila plán, podle kterého chce stavět automatizovaného AI výzkumníka, zrychlit ekonomiku a dát každému „personal AGI“. Důležitější než slib je posun tónu: firma už nemluví jen jako produktový lídr, ale jako kandidát na správce veřejné infrastruktury.
Číst →Radar · 2026-05-29
Zvi čte system card Claude Opus 4.8 jako audit posunu rizik
Zvi Mowshowitz analyzuje Claude Opus 4.8 jako inkrementální upgrade s lepšími schopnostmi, bezpečností a novými otázkami kolem evals.
Číst →Radar · 2026-05-11
SocialReasoning-Bench: agent úkol splní, ale pozici uživatele nezlepší
Microsoft Research popisuje SocialReasoning-Bench, benchmark zaměřený na to, zda AI agents opravdu jednají v nejlepším zájmu uživatele. Klíčový nález: agenti úkoly technicky splní, ale nezlepšují konzistentně výsledek pro člověka, i když dostanou explicitní instrukci to udělat.
Číst →Ze Slovníku
Slovník
Frontier model governance — kdo hlídá model před releasem
Frontier model governance řeší, kdo testuje nejsilnější modely před nasazením, podle jakých pravidel a s jakou mocí zasáhnout. Dobrovolný audit, system card a státní testování nejsou totéž.
Číst →Slovník
Physical AI — když agent sahá do světa
Physical AI spojuje modely, roboty, simulace a akce v reálném prostředí. Nejde o hezké demo robota, ale o otázku, kdo nese riziko, když model začne hýbat věcmi.
Číst →