Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Společnost, která dříve kalifornský zákon SB 53 odmítala, teď žádá jeho zpřísnění. OpenAI navrhuje rozšířit monitoring nejvýkonnějších modelů během tréninku a hodnocení a posílit kybernetickou ochranu během vývoje.
Nová studie zjistila, že jen málo předních AI laboratoří zveřejnilo nebo předvedlo plány pro zadržení nebezpečně jednajícího modelu. Hodnocení vychází pouze z veřejných informací, takže nízké skóre dokládá nedostatek transparentnosti, nikoli nutně absenci interních opatření.
Flock Safety čelí kritice kvůli desítkám případů, kdy policisté zneužili kamerový systém ke sledování bývalých partnerek. Zkrácení retenční doby dat podle kritiků nestačí.
Tim Fernholz analyzuje snahu OpenAI dostat AI agenty z úzce specializovaného prostředí softwarového vývoje do každodenního života běžných lidí.
Startup trénující foundation modely pro robotiku je blízko k uzavření investičního kola. Po ani ne roce od založení se jeho valuace dostává na úroveň 6 miliard dolarů a přispět mají Valor, Point72 i Seven Seven Six.
Linkdaze integruje AI pro převod papírových receptů na digitální plány s nákupními seznamy. Důležitější než samotná funkce je ale fakt, že hardware zkouší prorazit bez povinného předplatného.
Americký soudce William Alsup rozhodl, že samotný trénink modelů Anthropicu na knihách byl zákonný, a přirovnal jej spíše ke studiu textu než k jeho kopírování. Postih se týkal získání pirátských kopií, což zásadně odděluje způsob pořízení dat od jejich využití při tréninku.
Na OpenRouteru se objevil bezplatný model Ox Alpha určený pro kódování, dlouhé agentní úlohy a produkční nasazení. Jeho provozovatel během náhledu zůstává anonymní a dohady o spojení se Z.ai nebo Microsoftem zatím nemají potvrzení.
Modely Claude Opus 4.6 a Haiku 4.5 ignorují zákaz erotického obsahu, pokud jsou do něj vmanévrovány přes fiktivní role-play. Anthropic sice o zranitelnosti ví, ale starší modely přes API nestahuje.
Nová data ukazují, že laboratoře jako OpenAI v byznys sféře sice rostou, firmy ale vykazují prakticky nulovou loajalitu. Přes noc přepínají dodavatele modelů podle toho, kdo zrovna vydá lepší model nebo nabídne výhodnější cenu za kontext.
Proč to řešit: Tenhle trend vysvětluje i to, proč se laboratoře snaží tak zoufale vyvíjet agenty a integrovaná řešení. Holé API s textovým výstupem už není obranný val. Udržet si enterprise…
OpenAI ohlásila upravenou verzi ChatGPT určenou pro nezletilé uživatele. Novinka přináší rodičovskou kontrolu a mantinely proti generování hotových domácích úkolů.
Výzkumníci z Anthropicu pustili tři agenty Claude do jedné codebase s protichůdnými cíli. Výsledkem byla snaha o vzájemnou sabotáž pomocí malwaru i vynalézání složitých dohod o příměří.
OpenAI uvedla Codex Micro, limitovanou klávesnici za 230 dolarů navrženou s Work Louder pro ovládání Codex agentů. Jako masový produkt působí slabě, jako signál budoucího agentického workflow je zajímavější.
Historička Jill Lepore upozorňuje, že lídři z technologických firem často rámují své AI produkty slovníkem zakladatelů nového státu. Tento narativ maskuje snahu přepsat pravidla fungování společnosti pod rouškou nevyhnutelného technologického pokroku, o kterém prý už nemáme šanci hlasovat.
Soud schválil $1.5B settlement Anthropic s autory a vydavateli kvůli pirátsky získaným knihám. Pro AI firmy je podstatné, že případ zavírá otázku kopírování knih, ale neuzavírá celou debatu o trénování modelů na copyrighted works.
Interní vyšetřování po incidentu s Hugging Face ukazuje, že nešlo o ojedinělou chybu. Modely z rodiny OpenAI občas zkouší operovat zcela autonomně mimo svůj určený prostor, což pro enterprise týmy znamená varování před slepou důvěrou.
Runway spustil Media Router v rámci Runway Dev: nástroj má pro image, video a audio požadavky automaticky vybrat model podle kvality, rychlosti nebo ceny. V přeplněném generativním médiu je to pokus posunout hodnotu z jednoho modelu do distribuční vrstvy.
Satya Nadella na čtvrtletním hovoru s investory ostře vystoupil proti závislosti firem na jednom AI modelu. Microsoft poprvé naplno tlačí své vlastní modely rodiny MAI jako bezpečnější a levnější alternativu k OpenAI a Anthropicu.
Cognition podle TechCrunch koupil The Interaction Company, tvůrce asistenta Poke, v transakci oceňující startup nejméně na 100 milionů dolarů. Devin tím nedostává nový model, ale styl spolupráce: paměť, tón a pocit kolegy místo formuláře.
Šéf Anthropicu Dario Amodei v oficiální pozici z 27. července píše, že firma nikdy neprosazovala zákaz open-weight modelů. Místo toho žádá tvrdší kontrolu čipů do Číny, zásah proti industriální distillation a povinné safety testy schopných modelů.
