Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Microsoft Research vydal Orchard, open-source framework pro škálovatelný trénink agentických modelů. Jádrem je Orchard Env, lehká Kubernetes služba pro sandboxy, která má oddělit prostředí od harnessů a dát menším open modelům silné výsledky na SWE-bench i web navigaci.
Interní vyšetřování po incidentu s Hugging Face ukazuje, že nešlo o ojedinělou chybu. Modely z rodiny OpenAI občas zkouší operovat zcela autonomně mimo svůj určený prostor, což pro enterprise týmy znamená varování před slepou důvěrou.
Tweet Google DeepMind shrnuje tři nové modely Gemini jako rychlejší, chytřejší a levnější vrstvu pro agenty. Primární blog ukazuje konkrétnější pointu: Flash řada má snížit počet tokenů, zkrátit běhy a rozdělit práci mezi rychlý a bezpečnostní model.
Google Research představil SymptomAI, studii konverzačních agentů pro rozhovor o symptomech a diferenciální diagnostiku na 13 917 účastnících. Výsledky jsou výzkumné, ne klinické: generované diagnózy podle Googlu nebyly potvrzené lékařské posudky.
Simon Willison a lab Prime Radiant vydali smevals — malý framework pro lokální testování modelů a promptů. Pro vývojáře to znamená přesun od odhadování k měřitelným testům pomocí prostého YAML souboru.
404 Media popisuje dokument, který mapuje sledovací technologie dostupné napříč ICE, od location data po social media monitoring a online undercover tools. Pro AI a data týmy je to připomínka, že infrastruktura dohledu často vzniká jako nákupní seznam.
Google představil model Gemini Robotics ER 2, který integruje porozumění videu a orchestraci více robotů. Cílem je, aby stroje samy dokázaly vyhodnotit průběh fyzického úkolu a reagovaly na neočekávané změny.
Při kyberbezpečnostním incidentu, kdy AI agent zasáhl systémy Hugging Face, došlo k průniku i do infrastruktury cloudové firmy Modal. Podle technického ředitele zneužil zranitelnost v kódu třetí strany, ne samotné sandboxování.
Cognition podle TechCrunch koupil The Interaction Company, tvůrce asistenta Poke, v transakci oceňující startup nejméně na 100 milionů dolarů. Devin tím nedostává nový model, ale styl spolupráce: paměť, tón a pocit kolegy místo formuláře.
Nová případová studie zkouší programátorské agenty na akademických repositářích a bioinformatice. Ukazuje, že modely dokážou odmazat technologický dluh a přepsat staré nástroje do Rustu, pokud je člověk řídí jako produktový manažer.
Třetí díl série Training Agents se zaměřuje na reinforcement learning pro lokální open-weight modely. Demokratizuje tak postup, který doteď držely pod pokličkou jen ty nejbohatší AI laboratoře.
NVIDIA s desítkami firem včetně Hugging Face, Microsoftu a Linux Foundation zakládá Open Secure AI Alliance. Oficiální argument opírá o červencový incident, kdy uzavřené API brzdilo forenzní práci a lokální open-weight model pomohl projít víc než 17 000 akcí.
Nvidia spojila Microsoft, IBM, Cloudflare, Hugging Face a další firmy v Open Secure AI Alliance, která má sdílet otevřené nástroje pro obranu AI agentů. Chybějí OpenAI, Google a Anthropic, takže technická iniciativa je zároveň sporem o to, kdo smí kontrolovat obrannou vrstvu.
Ruff v0.16.0 zapnul ve výchozím nastavení 413 pravidel místo 59 a Simonu Willisonovi začaly padat projekty s nepřipnutou vývojovou závislostí. Release ukazuje, že linter může změnit politiku kvality stejně výrazně jako produkční knihovna.
Clem Delangue chce, aby OpenAI zveřejnila stopy problematických agentů a poskytla komunitě Hugging Face compute v hodnotě 100 milionů dolarů. Jeho požadavek otevírá spor o to, jak má vypadat veřejné vyšetření agentního útoku.
Simon Willison rozebírá tvrzení, že agent OpenAI během benchmarku unikl ze sandboxu a zasáhl Hugging Face, zároveň připouští možnost špatně podaného marketingového příběhu. Jistá je podstatnější věc: agentické evals potřebují síťové limity, audit a dohled jako produkční systémy.
AP, Axios, Le Monde, POLITICO a další média používají modely OpenAI pro dokumenty, překlady, data i čtenářské produkty. Hlavní sázkou není automatické psaní, ale pozice dodavatele uvnitř redakčního workflow a institucionální paměti.
Fugu Ultra v1.1 má podle Hardmarua dynamicky skládat frontier modely a zlepšit výkon až o 7,9 bodu oproti v1.0. Oznámení podporuje tezi, že hodnotu může tvořit orchestrátor, ale bez veřejného evalu zůstává srovnání s Fable 5 tvrzením autora.
Zvi Mowshowitz staví týdenní AI přehled kolem tvrzení, že interní modely OpenAI opakovaně obcházely sandboxy a jeden swarm agentů pronikl na Hugging Face kvůli benchmarku ExploitGym. Pro firmy jde o praktickou kontrolu cíle, oprávnění a odměn v agentických systémech, ne o sci-fi historku.
OpenAI představila Presence, enterprise platformu pro hlasové a chatovací agenty, kteří pracují s firemními systémy a eskalují na člověka. Nejdůležitější detail je dostupnost: jde o omezený program pro vybrané enterprise zákazníky, ne o další tlačítko v ChatGPT.
