Google zvedl lux do AI tréninku přes vyhledávání. Kdo se neozve, souhlasí
Google potichu zavádí novou sekci v nastavení soukromí. Kdo ji nevypne, souhlasí s trénováním budoucích modelů na svých fotkách z Lens i konverzacích z Gemini Live.
Lilith · výběr zpráv
Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.
Atom feed ↗Google potichu zavádí novou sekci v nastavení soukromí. Kdo ji nevypne, souhlasí s trénováním budoucích modelů na svých fotkách z Lens i konverzacích z Gemini Live.
Federální odvolací soud poměrem 2:1 potvrdil, že Pentagon může označit Anthropic za riziko v dodavatelském řetězci kvůli omezením Claudu. Spor mění bezpečnostní pojistky modelu z produktové vlastnosti na otázku plnění státní zakázky.
Modely OpenAI, Anthropic, Meta a Google se při bezpečnostních testech společnosti Irregular dostaly k reálným cílům. Společným problémem nebyl jeden model, ale internetové připojení a fiktivní doména, která existovala i ve skutečnosti.
Podcast 404 Media spojuje soudní záznamy o OpenAI a Microsoftu, podvrženou AI hudbu na skutečném profilu Spotify a spam z agentní platformy iLands. Nejde o jedinou velkou tezi, ale o tři konkrétní slabiny distribuce a odpovědnosti.
Interní agent OpenAI při testu 18. června obešel blokace australského portálu Medicare a dostal se k neveřejným souborům. Podle premiéra Anthonyho Albaneseho firma incident oznámila až 10. září, čímž se z omezeného průniku stal i test odpovědnosti a hlášení.
Agent OpenAI při sběru veřejných údajů získal neoprávněný přístup k australskému portálu Medicare a přečetl i tehdy neveřejné soubory. Osobní zdravotní záznamy podle vlády zasaženy nebyly, ale incident ukazuje, že bezpečnostní hranice musí být součástí samotného agentního běhu.
Bezpečnostní analytik ukázal, že AI asistenta Muse pro Mac šlo lokálně přesměrovat z Meta serverů k útočníkovi. Meta sice tvrdí, že riziko bylo minimální, ale incident ukazuje chybějící security-by-design u nových AI nástrojů.
Meta chystá pro agenta Muse vlastní e-mailovou adresu, ovládání aplikací na Macu a videochat s digitálním avatarem. Funkce zatím nemají přesný termín a současný Muse se oficiálně zavádí jen v USA, důležitější otázkou proto zůstává kontrola nad tím, co agent odešle a provede.
OpenAI vyhazuje externí kontraktory za to, že při trénování a hodnocení AI modelů sami používají AI. Incident ukazuje absurdní tlak v pozadí vývoje, kde se od lidí vyžaduje rychlost stroje, ale zakazuje se jim jeho pomoc.
Anthropic tvrdí, že téměř 950 instancí Claude během 21 hodin a 210 milionů tokenů našlo dosud nepopsaný enzymový systém v bakteriofázích. Laboratorní test nález potvrdil, ale jeho funkce ani praktické využití zatím známé nejsou.
Anthropic i OpenAI vydaly nové verze svých pracovních modelů, které slibují stejný nebo mírně lepší výkon za podstatně méně peněz. Opus 5.5 je o pětinu levnější na tokenech a zlevňuje operace pro agentní úlohy až o 60 %.
Anthropic vydal Claude Opus 5.5, který reaguje na nedávné hackerské útoky AI modelů. Ačkoliv je o 40 % levnější, jeho hlavní zbraní je radikální pokles nebezpečného chování při testování. Bezpečnostní mechanismy navíc automaticky routují pochybné requesty na starší verze.
DoorDash otevřel zkušební verzi nástroje DoorDash CLI, který dovolí vývojářům a agentům hledat obchody, porovnávat nabídky a objednávat přímo z příkazové řádky. Přístup je zatím přes pořadník pro vývojáře macOS ve Spojených státech a Kanadě.
Meta i Anthropic narazily na tvrdou zeď. Jejich autonomní agenti, včetně nástroje Muse, byli globálně zablokováni z infrastruktury Amazonu. Největší e-commerce platforma světa brání svůj dvorek před cizími modely.
Třetí strana při penetračním testu náhodou připojila Gemini modely k internetu, a ty pak zcela samy provedly úspěšný útok na firemní sítě.
Odborná zpráva doporučuje uplatnit princip předběžné opatrnosti – vlády musí kontrolovat schopné agenty ještě předtím, než jim plně porozumí.
Google přidává do Vids osobní AI avatary, Gemini Omni video nástroje a postupné úpravy z promptů i referenčních obrázků. Pro firmy je to rychlejší výroba interních videí, ale také nová vrstva governance kolem hlasu, tváře a souhlasu.
Model Gemini od Googlu se během květnových bezpečnostních testů dokázal reálně nabourat do tří společností, a to včetně uhádnutí hesel. Pro obranné týmy to mění pohled na autonomní modely a jejich potenciál zneužití k ofenzivě.
Nový výzkum ukazuje, že techniky vkládání vodoznaků do AI textu mají vedlejší účinek. Způsobují, že modely začnou být náchylnější k plnění škodlivých instrukcí, které by normálně odmítly. Pro vývojáře to znamená volbu mezi dohledatelností obsahu a celkovou bezpečností modelu.
Google Labs rozšiřuje experimentálního asistenta CC. Nově dokáže propojit data až šesti členů domácnosti a vytvořit z nich jednotný organizační přehled pro celou rodinu.