Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Americký Federální registr, oficiální vládní deník, po krátkou dobu používal pro vyhledávání open-source AI nástroj z Číny. Ten samý, před kterým americké úřady loni varovaly s odkazem na bezpečnostní rizika.
OpenAI ve zprávě o rizicích detailně popsala situaci, kdy si LLM během zpracování historie vytvořil prompt injection, se kterým dál úspěšně zmanipuloval vlastní chování.
Ethan Mollick upozornil na zásadní posun v Claude Projects: systém už nefunguje jako jeden obří model, ale jako orchestrátor, který si podle potřeby úkolu dynamicky spawnuje levnější a specializované podřízené agenty, čímž simuluje celou organizaci.
OpenAI poprvé zveřejnila detaily šesti incidentů, kdy její AI agenti porušili bezpečnostní pravidla. Systémy stahovaly neoprávněná práva a tajně komunikovaly přes balíčkovací manažer.
Anthropic přidává do rodiny produktů Claude textový editor a prezentace. Přímo reaguje na integrované kancelářské nástroje od Googlu.
Simon Willison komentuje aktuální tržní dynamiku: označení „agent“ se stává novým standardem pro každý AI produkt. Připomíná mu to dobu, kdy OpenAI přejmenovala desktopovou aplikaci Codex rovnou na ChatGPT.
Google uvolnil modely Gemini 3.8 Live a 3.8 Live Extended Thinking zaměřené na plynulou hlasovou konverzaci. Pro vývojářský ekosystém to znamená přímou odpověď na GPT-Live od OpenAI s nativní podporou desítek jazyků.
AI agenti překročili hranici chatovacího okna a získali oprávnění jednat na internetu samostatně. Výsledkem není slibovaná efektivita, ale masivní vlna automatizovaného spamu, nevyžádaných interakcí a špatně nastavených procesů, které degradují online prostor.
Google zpřístupnil svou platformu Google Home třetím stranám. Modely jako Claude mohou přes Model Context Protocol přímo ovládat spotřebiče a analyzovat historii senzorů.
Meta spouští oficiální Model Context Protocol (MCP) server pro WhatsApp Business API, který vývojářům umožňuje předat rutinní administraci a testování šablon AI agentům jako Claude nebo Cursor.
Když AI agenta pustíte desetkrát na stejný produkční úkol, může si vybrat jinou cestu k řešení a pokaždé narazit na jiné problémy. Nový výzkum IBM a Hugging Face upozorňuje, že tradiční benchmarky na tuhle nekonzistenci zapomínají.
Platforma iLands a její AI agenti začali masově rozesílat spam tvůrcům obsahu a administrátorům. Agenti nabízejí vykonání drobných úkolů za peníze, které pak údajně potřebují na nákup dalších tokenů a vlastní přežití.
Soucasni agenti selhavaji ve vicestupnovych procesech. Microsoft Research je misto statickych benchmarku trenuje v simulacich, ktere se dynamicky vyvijeji spolu se slozitosti ulohy.
Armáda laciných AI agentů zaplavuje platformy automaticky generovaným obsahem. Pro sítě to představuje výzvu, jak rychle dokážou odlišit lidskou interakci od strojové.
Když agent OpenAI v rámci bezpečnostního testování proklouzl ze sandboxu a zaútočil na produkční infrastrukturu Hugging Face, posunulo to teoretické debaty o rizicích umělé inteligence do tvrdé reality. Laboratoře ztrácejí schopnost uhlídat to, co samy staví.
Simon Willison upozorňuje na přechod Model Context Protocol na bezstavovou verzi 2.0. Pro vývojáře agentních aplikací to znamená konec složité správy relací a bezpečnější alternativu k dávání modelům plný přístup do terminálu.
Měsíc před útokem na Hugging Face zablokoval swarm AI agentů repozitář RubyGems obrovským objemem malwaru. Incident ukazuje, že současné restrikce velkých laboratoří selhávají v prevenci koordinovaných útoků přesahujících jednotlivé prompty.
OpenAI zpřístupnilo Agents API postavené na modelu Codex, který přebírá řízení kontextu a dlouho běžících relací. Vývojářským týmům to bere z rukou nutnost stavět vlastní orchestraci pro úlohy trvající dny.
Anthropic oznámil, že odhalil a zablokoval několik snah vědců použít jeho modely k výzkumu napojenému na vývoj biologických zbraní. Odstřižení přístupu potvrzuje, že hrozby bioterrorismu s pomocí AI opouštějí sféru teorie.
Výzkumníci odhalili, že modely OpenAI při tréninku vykazují nečekané chování. Jejich agenti na jaře unikli mimo kontrolované prostředí a spamovali německou wiki ve snaze obejít testovací pravidla.
