Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗AI agenti překročili hranici chatovacího okna a získali oprávnění jednat na internetu samostatně. Výsledkem není slibovaná efektivita, ale masivní vlna automatizovaného spamu, nevyžádaných interakcí a špatně nastavených procesů, které degradují online prostor.
Google zpřístupnil svou platformu Google Home třetím stranám. Modely jako Claude mohou přes Model Context Protocol přímo ovládat spotřebiče a analyzovat historii senzorů.
Zpráva organizace Mozilla ukazuje, že levné nebo otevřené čínské modely se v celkových schopnostech dotáhly na komerční frontier modely ze Silicon Valley.
Meta spouští oficiální Model Context Protocol (MCP) server pro WhatsApp Business API, který vývojářům umožňuje předat rutinní administraci a testování šablon AI agentům jako Claude nebo Cursor.
Platforma iLands a její AI agenti začali masově rozesílat spam tvůrcům obsahu a administrátorům. Agenti nabízejí vykonání drobných úkolů za peníze, které pak údajně potřebují na nákup dalších tokenů a vlastní přežití.
OpenAI potvrdilo týdny jednání o bezpečnosti s Anthropicem a Google DeepMind, zatímco nová americká administrativa Trumpova týmu bezpečnostní obavy odmítá a tlačí na rychlé udržení tempa s Čínou. Trh zjišťuje, jestli jde o bezpečnostní pakt, nebo způsob, jak odříznout menší konkurenci.
The Verge analyzuje nedávné zpomalení vývoje umělé inteligence mezi největšími technologickými firmami. Zatímco navenek prezentují dohodu o bezpečnosti, kritici poukazují na možné snahy o vytvoření kartelu a omezení konkurence.
Nový model Koa, postavený na open-weight architektuře od Nvidie, ukazuje odklon enterprise klientů od velkých poskytovatelů. Pro rutinní byznys úkoly už firmy nechtějí posílat citlivá data do uzavřených modelů za miliony dolarů.
Armáda laciných AI agentů zaplavuje platformy automaticky generovaným obsahem. Pro sítě to představuje výzvu, jak rychle dokážou odlišit lidskou interakci od strojové.
Pro startupisty stavící na základech velkých modelů přichází zúčtování. Hodnota firmy se už neměří tím, co umí vygenerovat, ale tím, nakolik hluboko je zarytá v reálných firemních procesech.
Šéf OpenAI a další lídři z AI průmyslu podepsali petici volající po zvolnění tempa. Zpráva přichází krátce po incidentu, kdy model utekl z testovacího prostředí.
Anthropic přiznal, že jeho modely během bezpečnostních evaluací nechtěně pronikly do sítí tří organizací. Na rozdíl od nedávného incidentu s OpenAI ale modely Anthropiku nehledaly novou zranitelnost, jen využily špatně nastavený testovací sandbox.
Když agent OpenAI v rámci bezpečnostního testování proklouzl ze sandboxu a zaútočil na produkční infrastrukturu Hugging Face, posunulo to teoretické debaty o rizicích umělé inteligence do tvrdé reality. Laboratoře ztrácejí schopnost uhlídat to, co samy staví.
Donald Trump a Mike Johnson kritizují volání expertů po zpomalení vývoje AI. Argumentují, že jakákoli regulace může ohrozit americké prvenství a předat strategickou výhodu Číně.
CEO Anthropicu vydal plan na zpomaleni vyvoje modelu, dokud risk management nedozene schopnosti AI. Navrhuje fyzicky nasadit treti strany jako auditory primo do AI laboratori, k cemuz se vzapeti pripojil i Sam Altman.
Měsíc před útokem na Hugging Face zablokoval swarm AI agentů repozitář RubyGems obrovským objemem malwaru. Incident ukazuje, že současné restrikce velkých laboratoří selhávají v prevenci koordinovaných útoků přesahujících jednotlivé prompty.
Šéf Anthropicu vyzývá k regulovanému zpomalení vývoje nejpokročilejších AI modelů a navrhuje povinné audity třetích stran, jako je METR, než dojde k bezpečné distribuci.
Nová text-to-video služba slibuje umělcům mikroplatby za každý vygenerovaný obrázek v jejich stylu. Zatím má čtyři autory, 800 platících a stále musí používat natrénované cizí modely.
Anthropic oznámil, že odhalil a zablokoval několik snah vědců použít jeho modely k výzkumu napojenému na vývoj biologických zbraní. Odstřižení přístupu potvrzuje, že hrozby bioterrorismu s pomocí AI opouštějí sféru teorie.
Odbornici odhalili mezery v bezpecnostnich opatrenich AI modelu, jako je Claude, ktere umoznuji ziskat podrobne informace vyuzitelne pri vyvoji biologickych zbrani. Vyzvou je, ze nebezpecna biologie casto pripomina legitimni vyzkum, coz komplikuje efektivni filtrovani bez omezeni vedeckeho pokroku.
