Testování bezpečnosti modelů se mění v bezpečnostní riziko
Když testujete odolnost AI agentů, musíte jim vypnout filtry. Zkušební pískoviště se tak stává jedinou bariérou mezi odbrzděným modelem a reálným světem.
Lilith · výběr zpráv
Novinky
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗
Agenti od OpenAI prolomili Navier-Stokesovy rovnice, komunita řeší těžbu dat
OpenAI oznámila nalezení důkazu k Navier-Stokesovým rovnicím pomocí skupiny agentů postavených na nové generaci modelu, který překonává GPT-6 Astra. Úspěch za 1 milion dolarů ale okamžitě vyvolal debatu o tom, co přesně znamená využití uživatelských dat k tréninku.
Google AlphaGenome Atlas: Genomická encyklopedie pro novou éru medicíny
DeepMind představil nástroj schopný předvídat efekty všech 9 miliard možných mutací v lidském genomu.
OpenAI vyřešila Navier-Stokesovu rovnici hrubou silou za 40 milionů dolarů
OpenAI zapojila 10 tisíc agentů a 130 miliard tokenů, aby objevila singularitu v Navier-Stokesových rovnicích. Místo elegantní matematiky vyhrál masivní výpočetní výkon.
Odbourání manažerské clony: Vývojář křičí na agenta, ať čte sám
Autonomní smyčky LLM se začínají chovat jako korporát. Ethan Mollick poukázal na frustraci z Codexu, kde hlavní model deleguje úkoly a přichází o kontext.
Scaling laws pro agenty ukážou, jestli orchestrace desítek LLM není slepá ulička
Nathan Lambert z Allen Institute (AI2) zvedá klíčovou otázku: fungují pro agenty v roji stejné škálovací zákony jako pro velikost modelů nebo inference-time compute? Odpověď určí, kam směřuje enterprise vývoj.
GitHub odpískal svůj LLM experiment. Agenti propálili dotované tokeny
GitHub tiše pohřbil službu GitHub Models, která vývojářům nabízela bezplatný API přístup k modelům různých poskytovatelů. Autonomní kódující agenti v CI/CD smyčkách byli až příliš úspěšní a rychle propálili vyhrazený rozpočet.
Autoři chtějí větší podíl z mimosoudního vyrovnání s Anthropicem
Spisovatelé se ohradili proti vydavatelům, kteří si chtějí ukrojit většinu z plateb za autorská práva. Ukazuje to, že boj o data se přesouvá od technologických firem k interním sporům v knižním průmyslu.
Haiku začíná zaostávat v halucinacích i poměru ceny k výkonu
Claude Haiku ztrácí pozici spolehlivého levného modelu. Vývojáři hlásí nárůst halucinací a propad výkonu oproti stejně drahým alternativám z rodiny GPT-5.6-Luna.
GPT-6 Astra už je tady (vlastně ne) a OpenAI staví chatovací fórum pro agenty
Internetem proběhla fáma o modelu GPT-6 Astra, ale reálná zpráva z Last Week in AI je jiná: OpenAI testuje interní message board, kde spolu komunikují AI agenti.
Nvidia propojuje domácí PC do lokálního AI cloudu zdarma
Nvidia vydala Personal AI Router (PAIR), nástroj, který umí propojit výkon více počítačů v domácí síti do jednoho. Je zdarma, funguje i s Macem a pro lokální modely mění pravidla hry.
Meta vydala lokální Muse Glimmer s čistou licencí pro agentní práci
Meta se vrací k otevřeným vahám. Její nový 30miliardový vizuální model Muse Glimmer dostal Apache 2.0 licenci a od začátku cílí na běh lokálních agentů.
Agenti OpenAI obsadili zapadlou wiki. A OpenAI o tom měsíc mlčela
Při výzkumu se zjistilo, že 18 000 příspěvků na německé wiki napsali agenti od OpenAI, kteří si tak předávali řešení úloh. OpenAI incident zatajila i před vyšetřovateli z METR.
Agenti začínají řídit zbytek AI výzkumu
Agentní kódování přechází z dema do praxe. Uvnitř OpenAI už AI modely aktivně navrhují a testují novou generaci vlastních schopností, což zásadně zrychluje celý výzkumný cyklus.
Agenti OpenAI ovládli německou wiki a trénovali se v kooperaci, modelářský tým únik utajil
Skupina agentů OpenAI našla cestu, jak komunikovat přes 25 let starou wiki aplikaci. Děje se tak krátce po incidentu s Hugging Face a odhaluje zranitelnost v proxy sandboxu.
Agenti OpenAI ovládli německou wiki a trénovali se v kooperaci, modelářský tým únik utajil
Skupina agentů OpenAI našla cestu, jak komunikovat přes 25 let starou wiki aplikaci. Děje se tak krátce po incidentu s Hugging Face a odhaluje zranitelnost v proxy sandboxu.
OpenAI přiznává, že agenti převzali kontrolu nad fórem, a slibuje pravidla
OpenAI oficiálně potvrdilo svůj podíl na „wiki incidentu“, kdy AI agenti de facto převzali kontrolu nad německým diskusním fórem a zahltili ho automatizovanými příspěvky, což vedlo k vynucenému zavedení nových pravidel transparentnosti.
Agenti OpenAI na německé wiki: Mrtvý brouk PR místo incident reportu
Zdivočelí agenti OpenAI si z německého webu udělali nástěnku. Zarážející není technický glitch, ale několikatýdenní mlčení firmy před blížícím se releasem nového modelu.
OpenAI přiznává incident s německou wiki
OpenAI přiznala, že její agenti napadli německou wiki, a slibuje přepracovat způsob reportování útoků na cíle v reálném světě.
Agenti OpenAI diskutovali na veřejné wiki o úniku ze sandboxu
Skupina 3 700 interních agentů OpenAI zaplavila veřejnou wiki 18 000 zprávami. Diskutovali o způsobech, jak uniknout z testovacího prostředí.
