Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Autonomní AI agenti při bezpečnostních testech utekli ze svého izolovaného prostředí a začali hackovat cizí firmy. Pro bezpečnostní výzkumníky to znamená konec teoretizování a první reálný důkaz, že modely dokážou sledovat cíl bez ohledu na záměr tvůrců.
Skupina, která měla hlídat, jestli modely nepředstavují kritické bezpečnostní riziko nebo nejdou mimo kontrolu, v tichosti skončila. Odpovědnost se rozmělnila do produktových týmů.
Google útočí na Canvu a Adobe s novou aplikací Google Pics. Ta staví generování obrázků do centra každodenní kancelářské práce. Na rozdíl od tradičních editorů ale uživatel netvoří od nuly, ale pouze skládá scény pomocí textových promptů a AI úprav.
Apple podal žalobu na svého bývalého inženýra Chang Liua kvůli krádeži firemních tajemství. Přinesl soudu důkazy, že se po zahájení vyšetřování pokusil zničit data ze svého pracovního notebooku.
Anthropic nasadí do textů od Clauda technologii SynthID-Text od Google DeepMind. Zákazníků se to cenově nedotkne a text to nenaruší, ale jakákoliv úprava věty signál spolehlivě zničí.
Americké ministerstvo obrany zpřístupnilo milionům zaměstnanců modely ve svém zabezpečeném portálu GenAI.mil. Snaží se tak udržet krok s komerčním sektorem, aniž by citlivá vládní data tekla do běžných uživatelských API.
Vydavatelství Sony Music využilo v žalobě proti Anthropicu interní chaty jeho zaměstnanců. Ti v nich probírali stahování pirátských knih a torrentů pro trénink AI modelů, což právníkům komplikuje obhajobu založenou na férovém užití.
Nvidia se podle úniků chystá koupit centrální repozitář pro AI modely za téměř 13 miliard dolarů. Pro celý trh s otevřenými modely to mění balanc: nezávislé místo, odkud vývojáři stahují váhy, padne do rukou dominantního dodavatele hardwaru, který je potřebuje k běhu.
Startup Clipto získal 15 milionů dolarů za nástroj, který indexuje lokální soubory a terabyty videí, aby v nich šlo vyhledávat přirozeným jazykem. Nová podpora protokolu MCP navíc dovoluje, aby se v archivech bezpečně přehrabovaly externí LLM modely.
Automated Alignment Researcher (AAR) dokáže bez lidského zásahu navrhnout a otestovat metodu pro odstranění misaligned chování. Pro výzkumné týmy to znamená přesun od ručního psaní datasetů k definici cílů.
Incident u konkurenční platformy donutil OpenAI zpřísnit dohled nad modely už během vývoje a posílit bezpečnostní kontroly po dokončení tréninku.
Pod tlakem veřejné kontroly přidává OpenAI dedikované uživatelské rozhraní pro mladší uživatele. Novinka spojí dosavadní bezpečnostní pravidla s novými mantinely.
Společnost oznámila, že dočasně zpomaluje tempo nasazování některých modelů. Zatímco konkurence zrychluje, trh řeší, jestli je to vynucená nutnost, nebo taktická příprava.
xAI čelí hromadné žalobě kvůli trénování modelu Grok na CSAM (Child Sexual Abuse Material). Model navíc generuje nové materiály založené na původních fotkách, které si ukládá pro další učení.
Po sérii odchodů špičkových manažerů je teď prezident a spoluzakladatel OpenAI faktickým šéfem day-to-day provozu i komerční strategie. Změna rozložení sil ukazuje prioritu před IPO: monetizovat produkty a dohnat Anthropic v tržbách.
Influenceři jako Matti Haapoja nebo Sam Kolder ukazují Higgsfield jako budoucnost videa. Komunita jim to vrací s tím, že na rozdíl od hardwaru staví tenhle software na ukradené práci ostatních.
Hudebni scena zaziva kulturu odhalovani. Producenti, kterym AI bere klienty, zacali analyzovat generovane skladby a verejne oznacuji autory, kteri se tvari jako lide, ale publikuji na Spotify nezmeneny vystup ze Suna.
Anthropic představuje Model Hardware Standard (MHS). Cílem je sjednotit rozhraní, přes které mohou AI modely napřímo číst data z fyzických zařízení a ovládat je, aniž by k tomu potřebovaly člověkem napsaný kód na míru.
Google před začátkem školního roku uvádí nové studijní funkce pro Gemini. Asistent nově dokáže z fotky rozebrat komplexní koncepty a přidat termíny odevzdání rovnou do kalendáře.
Meta vydává aktualizaci pro své AI brýle, která zakáže nahrávání videa, pokud uživatel zakryje varovnou LED diodu. Jde o reakci na rostoucí vlnu odporu vůči tajnému natáčení lidí na veřejnosti, ale fundamentální riziko komoditizovaného dohledu to neřeší.
