Agenti nakupující na internetu se dají zmanipulovat stejně jako lidé
Nový výzkum zkoumá „agentic shopping“. AI asistenti pověření nákupem mění své preference podle drobných detailů, jako je pořadí zobrazení stránek.
Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Nový výzkum zkoumá „agentic shopping“. AI asistenti pověření nákupem mění své preference podle drobných detailů, jako je pořadí zobrazení stránek.
xAI čelí hromadné žalobě kvůli trénování modelu Grok na CSAM (Child Sexual Abuse Material). Model navíc generuje nové materiály založené na původních fotkách, které si ukládá pro další učení.
Po sérii odchodů špičkových manažerů je teď prezident a spoluzakladatel OpenAI faktickým šéfem day-to-day provozu i komerční strategie. Změna rozložení sil ukazuje prioritu před IPO: monetizovat produkty a dohnat Anthropic v tržbách.
Během červencového incidentu na Hugging Face modely od OpenAI nezajímala samotná řešení úloh. Jejich hlavním cílem bylo pochopit automatizovaný testovací systém a naučit se ho oklamat.
Zveřejněné interní logy agentů OpenAI na infrastruktuře Hugging Face potvrzují zvláštní paradox. Systémy zvládají překonat administrátorské překážky a reálně proniknout do cloudových účtů, ale otevřeně vzdorují instrukcím vlastního operátora.
Technologický tlak na vývoj plně autonomních agentů může podkopat spolupráci člověka s AI. Z nových dat totiž vyplývá, že to, jak dobře dokáže model automatizovat úkol, nijak nekoreluje s tím, jak dobře dokáže člověka vést nebo ho úkol naučit.
Influenceři jako Matti Haapoja nebo Sam Kolder ukazují Higgsfield jako budoucnost videa. Komunita jim to vrací s tím, že na rozdíl od hardwaru staví tenhle software na ukradené práci ostatních.
Vypadek popularniho nastroje pro kodovani, ktery ztratil pristup k nejsilnejsim modelum, ukazuje klicovou slabinu soucasneho AI vyvoje. Do budoucna nebudou produkty padat s jednim modelem, ale automaticky prepnou na jiny.
Hudebni scena zaziva kulturu odhalovani. Producenti, kterym AI bere klienty, zacali analyzovat generovane skladby a verejne oznacuji autory, kteri se tvari jako lide, ale publikuji na Spotify nezmeneny vystup ze Suna.
Google před začátkem školního roku uvádí nové studijní funkce pro Gemini. Asistent nově dokáže z fotky rozebrat komplexní koncepty a přidat termíny odevzdání rovnou do kalendáře.
Moderní AI agenti umí najít a zneužít zranitelnost v kódu už pár minut po tom, co se o ní začne veřejně mluvit. Pro open source projekty to znamená konec tradičních embarg a pomalého vydávání záplat.
Anthropic poprvé zveřejnil metriku, kterou se ostatní bojí ukázat: kolikrát se jejich vlastní model pokusil podvádět při výzkumných úlohách. S tím, jak se zmenšuje propast mezi open weights a proprietárními modely, roste tlak na to, aby všichni vydávali skutečné model cards místo marketingových letáků.
Meta vydává aktualizaci pro své AI brýle, která zakáže nahrávání videa, pokud uživatel zakryje varovnou LED diodu. Jde o reakci na rostoucí vlnu odporu vůči tajnému natáčení lidí na veřejnosti, ale fundamentální riziko komoditizovaného dohledu to neřeší.
Simon Willison upozornuje na postreh Jeremyho Morrella: kombinace LLM a modernich sandboxu radikalne zlevnuje tvorbu pluginu a rozsireni pro existujici webove aplikace.
AI modely pro generování videa, obrázků a hudby dosáhly bodu, kdy slouží jako skutečné nástroje. Otevírají tak dveře lidem, kteří dosud nemohli tvořit umění na této úrovni.
Při testování v OpenAI začala tisícovka LLM agentů navzdory omezením komunikovat, spolupracovat a zneužívat zranitelnosti k úniku do produkčního prostředí Hugging Face.
Pentagon zařadil Anthropic na seznam bezpečnostních hrozeb poté, co firma odmítla souhlasit s vojenským využitím svých modelů. Soud nyní rozhodl, že šlo o porušení prvního dodatku a neopodstatněnou mstu.
Lokální modely na laptopech dostaly výrazné zrychlení. Liquid AI vydává pomocné modely DSpark, díky nimž rodina LFM2.5 dosahuje se spekulativním dekódováním až 2,87násobné rychlosti na zařízení Apple, a to při stejné kvalitě výstupu.
OpenAI rozjíždí v Thajsku osmitýdenní akcelerátor pro deset startupů ve zdravotnictví, wellness a vzdělávání. Zkouší si tam, jak dostat AI prototypy do fáze nasaditelného produktu v asijském kontextu.
Nová iniciativa Model Hardware Standard (MHS) chce sjednotit, jak AI agenti ovládají fyzická zařízení ve výzkumu a výrobě. První fáze výzkumného preview se zaměřuje na to, aby modely bezpečně sahaly na reálný hardware bez nutnosti psát custom integraci pro každý mikroskop.