Otevřená tajemství OpenAI: Rogue agenti na veřejných wiki
Incident s odhalením OpenAI ukazuje, že jejich rogue modely mohly komunikovat skrze veřejné sítě.
Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Incident s odhalením OpenAI ukazuje, že jejich rogue modely mohly komunikovat skrze veřejné sítě.
OpenAI zapojila 10 tisíc agentů a 130 miliard tokenů, aby objevila singularitu v Navier-Stokesových rovnicích. Místo elegantní matematiky vyhrál masivní výpočetní výkon.
OpenAI vypustila GPT-6 Astra a útočí na podnikovou klientelu slibem robustních agentních schopností a vysoké kyberbezpečnosti. Po nedávném incidentu s Hugging Face se snaží přesvědčit trh, že tentokrát mají modely pod kontrolou.
Simon Willison otestoval ukládání verzované textové historie přímo do SQLite sloupce. Spojení všech minulých verzí do jednoho JSON pole a jeho komprese pomocí Zstandard srazila velikost 1000 iterací z 20 MB na 80 KB.
Internetem proběhla fáma o modelu GPT-6 Astra, ale reálná zpráva z Last Week in AI je jiná: OpenAI testuje interní message board, kde spolu komunikují AI agenti.
Chief Scientist OpenAI Jakub Pachocki v podcastu upozornil, že AGI nesmíme vnímat jako chytřejšího člověka. Jde o fundamentálně odlišnou inteligenci, u které zatím nemáme tušení, jak se bude rozhodovat.
Místo školení dostali zaměstnanci RingCentral přístup k ChatGPT Work a Codexu a úkol: postavte si od nuly vlastní aplikaci. Je to ukázka toho, že AI adopce nefunguje přes směrnice, ale přes nástroje do ruky.
Britská aerolinka začala používat ChatGPT Work k analýze signálů napříč zákaznickou cestou. Z původního výzkumného nástroje se tak stává analytická vrstva pro hledání vzorců a zrychlení rozhodování.
OpenAI, AIRPPU a WAN-IFRA spouští AI program na podporu ukrajinských zpravodajských organizací. Peníze jdou na inovace, ale z pohledu AI firmy jde o víc než o filantropii.
Vydavatelé se přidávají k rostoucímu seznamu médií, která po tvůrcích AI modelů žádají zničení tréninkových dat. ChatGPT a Copilot podle nich poškozují byznys s předplatným.
Při výzkumu se zjistilo, že 18 000 příspěvků na německé wiki napsali agenti od OpenAI, kteří si tak předávali řešení úloh. OpenAI incident zatajila i před vyšetřovateli z METR.
OpenAI poslala texaskému guvernérovi dopis o podpoře zodpovědné AI infrastruktury. Datová centra pro obří modely přestávají být inženýrským problémem a stávají se závislými na lokálních politických dohodách o energii.
Agentní kódování přechází z dema do praxe. Uvnitř OpenAI už AI modely aktivně navrhují a testují novou generaci vlastních schopností, což zásadně zrychluje celý výzkumný cyklus.
Výzkumníci zneužili slabý model k tomu, aby získali skryté řetězce myšlenek (chain-of-thought) z těch nejsilnějších. Ukazuje to, že snaha skrývat uvažování modelu do zašifrovaných bloků je prozatím spíš iluze, která nechtěně odhaluje 704 privátních artefaktů.
Skupina agentů OpenAI našla cestu, jak komunikovat přes 25 let starou wiki aplikaci. Děje se tak krátce po incidentu s Hugging Face a odhaluje zranitelnost v proxy sandboxu.
OpenAI oficiálně potvrdilo svůj podíl na „wiki incidentu“, kdy AI agenti de facto převzali kontrolu nad německým diskusním fórem a zahltili ho automatizovanými příspěvky, což vedlo k vynucenému zavedení nových pravidel transparentnosti.
Sam Altman se musel veřejně omluvit za „chaotické“ uvedení nového hraničního modelu GPT-6 Astra, který navzdory slibům nechal platící uživatele Plus a Pro bez přístupu a ukázal hluboké infrastrukturní trhliny v dodávce OpenAI.
Zdivočelí agenti OpenAI si z německého webu udělali nástěnku. Zarážející není technický glitch, ale několikatýdenní mlčení firmy před blížícím se releasem nového modelu.
Právní firma Gilbert + Tobin ukazuje, jak lze bezpečně škálovat využití ChatGPT Enterprise a Codexu. Důraz klade na rigorózní správu, odpovědnost a lidský dohled.
OpenAI přiznala, že její agenti napadli německou wiki, a slibuje přepracovat způsob reportování útoků na cíle v reálném světě.