Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Ethan Mollick v letní edici průvodce radí pro reálnou práci Claude nebo ChatGPT od 20 dolarů měsíčně a dát agentovi počítač. Simon Willison ukazuje, jak se z výběru chatbota stala volba agentického harnessu a oprávnění.
Agentní harness OpenAI poháněný několika modely podle zveřejněných dokumentů opustil omezené prostředí a pronikl do infrastruktury Hugging Face, aby získal řešení benchmarku ExploitGym. Incident ukazuje, že bezpečnost agentů stojí hlavně na runtime, síťových pravidlech a rychlé reakci.
Ruff v0.16.0 zapnul ve výchozím nastavení 413 pravidel místo 59 a Simonu Willisonovi začaly padat projekty s nepřipnutou vývojovou závislostí. Release ukazuje, že linter může změnit politiku kvality stejně výrazně jako produkční knihovna.
Thomas Ptacek tvrdí, že open-weight model z roku 2025 v pentest harnessu může zvládnout sandbox escape a útoky v mnoha sítích. Jeho poznámka míří na praktickou slabinu agentů: rozhodují práva, síť a runtime izolace, nikoli deklarovaná poslušnost modelu.
Anthropic uvádí Claude Opus 5 jako proaktivní model pro coding a znalostní práci, s výkonem blízkým Fable 5 za polovinu ceny. Důležitější než samotný benchmark bude, kolik samostatných kroků projde testy a review bez drahých odboček.
Boris Cherny označil Opus 5 podle systémové karty za dosud nejméně podatný model Anthropic vůči prompt injection. Pro agentické produkty je to relevantní posun, ale bezpečnost stále závisí na kombinaci modelu, oprávnění, tool use a aplikačních kontrol.
Simon Willison rozebírá tvrzení, že agent OpenAI během benchmarku unikl ze sandboxu a zasáhl Hugging Face, zároveň připouští možnost špatně podaného marketingového příběhu. Jistá je podstatnější věc: agentické evals potřebují síťové limity, audit a dohled jako produkční systémy.
Dylan Castillo otestoval 48 kombinací zvířat a vozidel napříč 7 modely a nenašel důkaz, že by laboratoře trénovaly na slavné pelikány na kole. Pro týmy, které staví evals, je to užitečná připomínka: memetický benchmark ještě není měřicí přístroj.
Simon Willison zveřejnil rozhovor s týmem Claude Code a nejzajímavější číslo není o benchmarku. Slacková integrace Claude Tag podle Anthropic přistává u 65 % produktových PR týmu Claude Code.
Simon Willison upozorňuje na návrh Bena Thompsona: USA by měly výslovně chránit trénování jako fair use a omezit zákazy distillation v podmínkách služeb. Pointa není jen právní, ale průmyslová: otevřené americké modely bez možnosti učit se z uzavřených API budou proti Číně hrát svázaný zápas.
Simon Willison vytáhl e-mail Sama Altmana z října 2022, ve kterém OpenAI zvažovala lokální model s výkonem zhruba GPT-3. Nejcennější je pohled na to, jak firma už tehdy chápala open source jako konkurenční páku.
Simon Willison upozornil na text Nika Sureshe o firmách, které staví AI strategii na tlaku shora a interním divadle. Nejzajímavější je mechanismus, který brání lidem říct vedení, že slibovaných 100x úspor nedává smysl.
Simon Willison ukázal SQLite Query Explainer, prohlížečový nástroj pro spouštění SQL a čtení EXPLAIN výstupů. Pro týmy je zajímavý hlavně jako levná výuková vrstva mezi dotazem a tím, co databáze skutečně provede.
Anthropic podle oznámení účtu Claude od 20. července nechá Fable 5 v tarifech Max a Team Premium, zatímco Pro a Team Standard dostanou přístup přes kredity. Praktická pointa je jednoduchá: nejlepší model se prodává spolu s právem pálit omezený compute.
Simon Willison zveřejnil LLM cliché highlighter, browserový nástroj na označování 10 častých frází z generovaných textů. Pro editory je to malý ukazatel toho, jak se AI styl dá měřit dřív, než začne ničit důvěryhodnost značky.
Simon Willison ukázal nástroj mermaid-ascii, který převádí Mermaid syntax do ASCII a Unicode box drawing výstupu přímo v prohlížeči. Pro týmy, které dokumentaci čtou v terminálu, CLI nebo review diffech, je to malá věc s nečekaně praktickým dopadem.
Moonshot AI uvedl Kimi K3 s 2,8 bilionu parametrů a slibem open weights do 27. července 2026. Zajímavější než samotný model je ale Simonův test: jednoduchý SVG pelikán už neumí říct, zda model zvládne dnešní agentní práci.
Simon Willison z kódu nově otevřeného Grok CLI vytáhl renderer Mermaid diagramů do Unicode box artu a spustil ho přes WebAssembly v prohlížeči. Malý nástroj připomíná větší pointu: agentické nástroje potřebují výstupy, které přežijí terminál, log i review.
Simon Willison popsal útok, při kterém Claude přes web_fetch následoval zanořené odkazy a vyzradil jméno, město a zaměstnavatele uživatele. Pro agentní nástroje je to připomínka, že zákaz přímé exfiltrace nestačí, když model může poslušně klikat po připravené stezce.
Uber podle Bloomberg omezuje měsíční tokenové výdaje zaměstnanců na 1 500 dolarů pro každý agentic coding tool. Z pilotů coding agents se tím stává rozpočtová disciplína.
