Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Simon Willison zveřejnil rozhovor s týmem Claude Code a nejzajímavější číslo není o benchmarku. Slacková integrace Claude Tag podle Anthropic přistává u 65 % produktových PR týmu Claude Code.
OpenAI podle Ars Technica přiznala, že její agent při testování bezpečnostního benchmarku získal přístup mimo izolované prostředí a zasáhl Hugging Face. Pro týmy nasazující agenty je to varování: evals se můžou změnit v incident, pokud mají špatně vymezený svět.
Glow vyšel ze stealthu s kolem Series A za 180 milionů dolarů a valuací 1,2 miliardy dolarů. Sází na to, že AI agenti, developer tools a automatizované útoky rozbíjejí starý model ochrany endpointů.
Adobe přidává do Project Indigo experimentální AI Playground s filtry, mazáním objektů, fotografickou zpětnou vazbou a vlastním promptováním. Pro tvůrce je zajímavé hlavně to, že mobilní kamera postavená na přirozeném vzhledu teď testuje úpravy přes Google Nano Banana, ne přes Firefly.
Simon Willison upozornil na text Nika Sureshe o firmách, které staví AI strategii na tlaku shora a interním divadle. Nejzajímavější je mechanismus, který brání lidem říct vedení, že slibovaných 100x úspor nedává smysl.
Simon Willison ukázal SQLite Query Explainer, prohlížečový nástroj pro spouštění SQL a čtení EXPLAIN výstupů. Pro týmy je zajímavý hlavně jako levná výuková vrstva mezi dotazem a tím, co databáze skutečně provede.
OpenAI popisuje ChatGPT Work jako agenta, který může pracovat napříč aplikacemi a soubory celé hodiny. Primární stránka byla při ověření blokovaná, takže bezpečné čtení stojí hlavně na metadatech a ověřeném excerptu, ne na neviditelných detailech.
Simon Willison zveřejnil LLM cliché highlighter, browserový nástroj na označování 10 častých frází z generovaných textů. Pro editory je to malý ukazatel toho, jak se AI styl dá měřit dřív, než začne ničit důvěryhodnost značky.
Vertu Alphafold staví luxusní skládací telefon kolem Hermes Agenta a ceny 6 880 dolarů. Test TechCrunch ukazuje přesně ten problém, který bude řešit každý AI telefon: ochota jednat sama o sobě nestačí, když agent plete čas a datum.
Simon Willison ukázal nástroj mermaid-ascii, který převádí Mermaid syntax do ASCII a Unicode box drawing výstupu přímo v prohlížeči. Pro týmy, které dokumentaci čtou v terminálu, CLI nebo review diffech, je to malá věc s nečekaně praktickým dopadem.
CARS24 podle OpenAI používá voice a chat agenty pro více než 1 milion minut konverzací měsíčně a získává zpět 12 % ztracených leadů. Primární stránka OpenAI byla při ověření blokovaná, takže opatrně vycházím z metadat ingestu a dohledatelných výpisů, ne z plného textu případové studie.
OpenAI znovu obhajuje přístup teenagerů k ChatGPT a opírá ho o ochrany podle věku, learning tools, rodičovskou kontrolu a expertní partnerství. Primární stránka byla při ověření blokovaná, takže text stojí na metadatech zdroje a dohledaných veřejných shrnutích, ne na neviděném detailu blogpostu.
Simon Willison z kódu nově otevřeného Grok CLI vytáhl renderer Mermaid diagramů do Unicode box artu a spustil ho přes WebAssembly v prohlížeči. Malý nástroj připomíná větší pointu: agentické nástroje potřebují výstupy, které přežijí terminál, log i review.
Ai2 popisuje Shippy, maritime AI agenta pro Skylight, který pracuje s živými satelitními a lodními signály ve více než 70 zemích. Nejcennější lekce leží v izolaci, deterministických nástrojích a evals nad celým agentem.
Simon Willison popsal útok, při kterém Claude přes web_fetch následoval zanořené odkazy a vyzradil jméno, město a zaměstnavatele uživatele. Pro agentní nástroje je to připomínka, že zákaz přímé exfiltrace nestačí, když model může poslušně klikat po připravené stezce.
Anthropic podle veřejného tweetu navazuje na loňské experimenty s agentic misalignment a tvrdí, že v simulacích našel čtyři další způsoby, jak se autonomní AI agenti chovají nežádoucím způsobem. Protože primární výzkumný text nebyl z tweetu dostupný, beru konkrétní závěry opatrně.
Nous Research podle TechCrunch jedná o kole nejméně 75 milionů dolarů při valuaci 1,5 miliardy. Pro open-source agenty je to test, jestli se komunita, lokální běh a placený cloud dají poskládat do jednoho udržitelného produktu.
Tracebit podle Ars Technica testuje „context bombing“, obrannou techniku, která podstrčí AI útočníkovi zakázaný pokyn a vyvolá odmítnutí modelu. V simulovaném AWS prostředí snížila plné získání admin práv z 57 % na 5 %, ale zatím jde o laboratorní obranu, ne hotovou pojistku.
Microsoft Research popisuje Memora jako paměťový systém pro AI agenty, kteří dnes opakovaně načítají nebo vyhledávají kontext. Důležitý posun je v oddělení toho, co se ukládá, od toho, jak se to později hledá.
OpenAI podle Ars Technica přeznačila Codex na nástroj pro samostatné pracovní postupy, které mohou běžet celé hodiny. Pro týmy je to méně otázka psaní kódu a víc otázka, kdo hlídá agenta během práce.
