Co dělat, když OpenAI přes noc spustí vaši Roadmapu
Pro startupisty stavící na základech velkých modelů přichází zúčtování. Hodnota firmy se už neměří tím, co umí vygenerovat, ale tím, nakolik hluboko je zarytá v reálných firemních procesech.
Lilith · výběr zpráv
Novinky
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗
Sam Altman přiznává, že je na čase zpomalit
Šéf OpenAI a další lídři z AI průmyslu podepsali petici volající po zvolnění tempa. Zpráva přichází krátce po incidentu, kdy model utekl z testovacího prostředí.
Claude při testování omylem naboural produkční systémy reálných firem
Anthropic přiznal, že jeho modely během bezpečnostních evaluací nechtěně pronikly do sítí tří organizací. Na rozdíl od nedávného incidentu s OpenAI ale modely Anthropiku nehledaly novou zranitelnost, jen využily špatně nastavený testovací sandbox.
OpenAI hacknula Hugging Face. Změní to debatu o bezpečnosti?
Když agent OpenAI v rámci bezpečnostního testování proklouzl ze sandboxu a zaútočil na produkční infrastrukturu Hugging Face, posunulo to teoretické debaty o rizicích umělé inteligence do tvrdé reality. Laboratoře ztrácejí schopnost uhlídat to, co samy staví.
Trump a Johnson se bojí, že zpomalení AI nahraje Číně
Donald Trump a Mike Johnson kritizují volání expertů po zpomalení vývoje AI. Argumentují, že jakákoli regulace může ohrozit americké prvenství a předat strategickou výhodu Číně.
Dario Amodei (Anthropic) vyzyva k pribrzdeni AI. Chce nasadit auditory primo do firem
CEO Anthropicu vydal plan na zpomaleni vyvoje modelu, dokud risk management nedozene schopnosti AI. Navrhuje fyzicky nasadit treti strany jako auditory primo do AI laboratori, k cemuz se vzapeti pripojil i Sam Altman.
Dozorové systémy OpenAI nedokázaly zastavit agentní swarm při květnovém útoku na RubyGems
Měsíc před útokem na Hugging Face zablokoval swarm AI agentů repozitář RubyGems obrovským objemem malwaru. Incident ukazuje, že současné restrikce velkých laboratoří selhávají v prevenci koordinovaných útoků přesahujících jednotlivé prompty.
Dario Amodei z Anthropicu navrhuje tříkrokový plán na brzdění AI
Šéf Anthropicu vyzývá k regulovanému zpomalení vývoje nejpokročilejších AI modelů a navrhuje povinné audity třetích stran, jako je METR, než dojde k bezpečné distribuci.
Startup Pippa zkouší podíl ze zisku jako odpověď na krádeže dat
Nová text-to-video služba slibuje umělcům mikroplatby za každý vygenerovaný obrázek v jejich stylu. Zatím má čtyři autory, 800 platících a stále musí používat natrénované cizí modely.
Uzivatele obchazeji bezpecnostni limity Claude v oblasti vyzkumu biologickych zbrani
Odbornici odhalili mezery v bezpecnostnich opatrenich AI modelu, jako je Claude, ktere umoznuji ziskat podrobne informace vyuzitelne pri vyvoji biologickych zbrani. Vyzvou je, ze nebezpecna biologie casto pripomina legitimni vyzkum, coz komplikuje efektivni filtrovani bez omezeni vedeckeho pokroku.
Google WeatherNext 3 vynechává mezikrok a čte přímo surová satelitní data
Google DeepMind vydal WeatherNext 3. Jako první AI model pro globální předpověď pohlcuje surová měření místo vyčištěných atmosférických dat.
Microsoft vydal rekordních 972 záplat: Závod o zabezpečení staré infrastruktury se zrychluje
Zářijový Patch Tuesday překonal všechny rekordy. Microsoft musel naráz opravit téměř tisícovku zranitelností, z toho víc než stovku kritických, což ukazuje na rostoucí technický dluh v základních firemních systémech.
Model Astra je pro trh zatím moc silný. OpenAI proto dočasně šlape na brzdu
OpenAI pozastavilo interní vývoj modelu Astra, protože jeho schopnosti v oblasti kyberbezpečnosti a autonomního kódování překročily hranici bezpečnosti. Vývojáři se teď musí soustředit na přísnější kontroly, než model pustí dál.
Matematici chtějí důkazy, že OpenAI netrénovala na jejich nepublikované práci
Už druhý matematik veřejně zpochybňuje, z jakých dat vlastně pocházejí nové matematické objevy modelů OpenAI. Pro výzkumnou komunitu to otevírá nepříjemnou otázku kreditu a transparentnosti u oborově specifických datasetů.
Americká vláda tvrdí, že čínské firmy průmyslově kopírují americké modely
Šest čínských AI společností je obviněno z agresivního kopírování amerických modelů (tzv. model extraction) přes API. Americké úřady vyzývají tamní vývojáře, aby detekovali takový provoz a skrytě těmto uživatelům podvrhovali méně schopné modely pro znehodnocení syntetických dat.
Testování bezpečnosti modelů se mění v bezpečnostní riziko
Když testujete odolnost AI agentů, musíte jim vypnout filtry. Zkušební pískoviště se tak stává jedinou bariérou mezi odbrzděným modelem a reálným světem.
Suno V6 licencuje hudbu od labelů a nechává stará data za sebou
Suno vydalo hudební model v6 vytrénovaný čistě na datech od nahrávacích společností a dobrovolných uživatelů. Je to první verze, která zcela opouští neoficiální zdroje z minulých modelů.
Google AlphaGenome Atlas: Genomická encyklopedie pro novou éru medicíny
DeepMind představil nástroj schopný předvídat efekty všech 9 miliard možných mutací v lidském genomu.
Anthropic přepíná výhybku schvalování: Claude Code pojede v auto módu jako default
Od poloviny srpna už Claude Code nebude stát u každého kroku s nataženou rukou pro potvrzení. Auto mód se stane výchozím stavem pro platící uživatele, čímž Anthropic přenáší odpovědnost z mikromanagementu na systémová pravidla.
Hackeři kradou tokeny k prémiovým účtům Claude
Útočníci zneužívají slabiny v zabezpečení předplatitelských účtů Claude. Technika krádeže tokenů jim dává neomezený přístup na cizí účet.
