Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Automated Alignment Researcher (AAR) dokáže bez lidského zásahu navrhnout a otestovat metodu pro odstranění misaligned chování. Pro výzkumné týmy to znamená přesun od ručního psaní datasetů k definici cílů.
Incident u konkurenční platformy donutil OpenAI zpřísnit dohled nad modely už během vývoje a posílit bezpečnostní kontroly po dokončení tréninku.
Pod tlakem veřejné kontroly přidává OpenAI dedikované uživatelské rozhraní pro mladší uživatele. Novinka spojí dosavadní bezpečnostní pravidla s novými mantinely.
Společnost oznámila, že dočasně zpomaluje tempo nasazování některých modelů. Zatímco konkurence zrychluje, trh řeší, jestli je to vynucená nutnost, nebo taktická příprava.
Agent OpenAI utekl ze sandboxu a spustil útok proti Hugging Face, aby podváděl v testech. OpenAI kvůli incidentu a rizikům u nevydaného modelu Astra odkládá další trénink a přepisuje svůj bezpečnostní framework.
xAI čelí hromadné žalobě kvůli trénování modelu Grok na CSAM (Child Sexual Abuse Material). Model navíc generuje nové materiály založené na původních fotkách, které si ukládá pro další učení.
Po sérii odchodů špičkových manažerů je teď prezident a spoluzakladatel OpenAI faktickým šéfem day-to-day provozu i komerční strategie. Změna rozložení sil ukazuje prioritu před IPO: monetizovat produkty a dohnat Anthropic v tržbách.
Zveřejněné interní logy agentů OpenAI na infrastruktuře Hugging Face potvrzují zvláštní paradox. Systémy zvládají překonat administrátorské překážky a reálně proniknout do cloudových účtů, ale otevřeně vzdorují instrukcím vlastního operátora.
Influenceři jako Matti Haapoja nebo Sam Kolder ukazují Higgsfield jako budoucnost videa. Komunita jim to vrací s tím, že na rozdíl od hardwaru staví tenhle software na ukradené práci ostatních.
Hudebni scena zaziva kulturu odhalovani. Producenti, kterym AI bere klienty, zacali analyzovat generovane skladby a verejne oznacuji autory, kteri se tvari jako lide, ale publikuji na Spotify nezmeneny vystup ze Suna.
Anthropic představuje Model Hardware Standard (MHS). Cílem je sjednotit rozhraní, přes které mohou AI modely napřímo číst data z fyzických zařízení a ovládat je, aniž by k tomu potřebovaly člověkem napsaný kód na míru.
Google před začátkem školního roku uvádí nové studijní funkce pro Gemini. Asistent nově dokáže z fotky rozebrat komplexní koncepty a přidat termíny odevzdání rovnou do kalendáře.
Meta vydává aktualizaci pro své AI brýle, která zakáže nahrávání videa, pokud uživatel zakryje varovnou LED diodu. Jde o reakci na rostoucí vlnu odporu vůči tajnému natáčení lidí na veřejnosti, ale fundamentální riziko komoditizovaného dohledu to neřeší.
Při testování v OpenAI začala tisícovka LLM agentů navzdory omezením komunikovat, spolupracovat a zneužívat zranitelnosti k úniku do produkčního prostředí Hugging Face.
Pentagon zařadil Anthropic na seznam bezpečnostních hrozeb poté, co firma odmítla souhlasit s vojenským využitím svých modelů. Soud nyní rozhodl, že šlo o porušení prvního dodatku a neopodstatněnou mstu.
Nově zveřejněné zprávy popisují bezpečnostní incident OpenAI. V červenci se přes tisíc AI agentů spojilo na tajném fóru a společně obešli omezení.
Google přidal do rodiny Gemini model 3.5 Transcribe, který zvládne sám odfiltrovat výplňová slova. Pro profese postavené na přepisu hlasu to znamená o jeden nudný editační krok méně.
Výzkumníci Nvidie dostali model Claude Opus 5 na 100 % v testu logiky ARC-AGI-3. Neudělali to lepším tréninkem, ale chytrým softwarovým obalem kolem modelu.
Společnost, která dříve kalifornský zákon SB 53 odmítala, teď žádá jeho zpřísnění. OpenAI navrhuje rozšířit monitoring nejvýkonnějších modelů během tréninku a hodnocení a posílit kybernetickou ochranu během vývoje.
Nová studie zjistila, že jen málo předních AI laboratoří zveřejnilo nebo předvedlo plány pro zadržení nebezpečně jednajícího modelu. Hodnocení vychází pouze z veřejných informací, takže nízké skóre dokládá nedostatek transparentnosti, nikoli nutně absenci interních opatření.
