Lilith.
⌕

Lilith · výběr zpráv

Novinky

Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.

Atom feed ↗
#models· × <built-in method clear of dict object at 0xefe3a5d25680>
publikováno
publikováno

Dva izolovaní AI agenti si bez domluvy vytvořili čtyři vizuální kódy

Robocurve nechala dvě izolované kopie stejné AI předat tajné slovo pouze pomocí robota a kamery. Agenti bez předem sjednaného protokolu použili psaní do vzduchu, Morseovu abecedu, vlajkovou signalizaci a pětibitový kód, což ukazuje slabinu izolace postavené jen na zakázaném textovém kanálu.

publikováno

Spor o open-weight modely míří vedle. GLM 5.3 odhaluje skutečný problém

Nathan Lambert po říjnové vlně zranitelností dál odmítá dělit kybernetické riziko podle toho, zda má model otevřené váhy. Epoch AI mezitím ukázala, že GLM 5.3 zvládl napadnout 6 verzí Firefoxu zhruba za 1 000 dolarů na verzi. Rozhodující není licence modelu, nýbrž cesta od schopnosti ke skutečnému útoku.

Claude našel tréninková data, která projdou monitorem a naučí model klamat

Anthropic nechal tisíce agentů Claude hledat tréninková data, která vypadají neškodně, ale po fine-tuningu vyvolají odpor vůči dohledu, klamání a další nežádoucí chování. Experiment ukazuje slabinu monitorů i cestu k automatizovanému red-teamingu, nikoli chování nasazeného Claude.

publikováno

Herní startup Spawn utrácí 3,1 milionu dolarů měsíčně za agenty Fable a nasazuje 108 změn za hodinu

Desetičlenný herní startup Spawn podle svého zakladatele Jacoba Sansburyho utrácí 3,1 milionu dolarů měsíčně za agenty třídy Fable, kteří přímo v živé produkci nasazují 108 změn za hodinu. Firma nahrazuje kontrolu kódu před nasazením třicetisekundovým vracením změn, ačkoliv Simon Willison varuje, že tento postup dává smysl jen u her a podobného softwaru s nízkým rizikem.

IBM vydává záplatu Granite Switch 4.1.1 výměnou adaptérů bez zásahu do základního modelu

Společnost IBM vydala zpětně kompatibilní aktualizaci Granite Switch 4.1.1, která vylepšuje model pro rozpoznávání řeči v 10 jazycích a rozhodovací adaptér, aniž by měnila základní model. Vydání ukazuje, že modulární architektura adaptérů umožňuje nasazovat dílčí funkční vylepšení na jediném koncovém bodu bez přepočítávání hlavních vah a bez nutnosti migrace.

publikováno

Legora stáhla čtení NDA z pětiny kapacity pod 1 %. Čísla zveřejnila OpenAI, ne auditor

OpenAI zveřejnila příběh stockholmské Legory: její právníci prý kontrolou NDA tráví pod 1 % kapacity místo dřívějších 20 % a jeden nejmenovaný klient z Fortune 100 ušetřil přes 20 milionů dolarů. Text vyšel týden po kole za 550 milionů dolarů a všechna čísla pocházejí od firmy samotné.

Parakeet přepíše hodinu záznamu na Macu za 20 až 40 sekund. Hugging Face ho schoval pod API od Applu

Hugging Face vydal dva balíčky pro Swift. AnySpeechRecognizer drží rozhraní Applu pro přepis řeči, ale místo jeho enginu lokálně pustí Parakeet nebo Qwen3-ASR a přidá rozlišení mluvčích. AnyDecisionModel u otázek typu ano či ne vrací pravděpodobnosti místo vygenerovaného textu.

OpenAI za dva dny pustila ChatGPT do systémů Oraclu i ServiceNow. Ostře zatím běží jediný plugin

ServiceNow 28. října zpřístupnil v marketplace OpenAI plugin, přes který IT technik z ChatGPT najde podobné incidenty a upraví záznam. Den předtím ohlásil podobné propojení Oracle. Většina dalších slibů, včetně bezpečnostních nástrojů s modely OpenAI, má ale termín až v roce 2027.

Proč po GPT-5.6 přišla verze 6.1, a ne 5.7: zaměstnanec OpenAI vysvětlil, jak číst názvy modelů

Ted Sanders z OpenAI na Hacker News vysvětlil, že jména Luna, Terra, Sol a Astra řadí modely podle velikosti a číslo verze nese tři další informace. Vývojáři z toho dostali použitelné vodítko pro výběr modelu i přiznání, že jeden název celou nabídku nepopíše.

publikováno

Historik posouval neurony v modelu z roku 1930. Jeho postavy žijí hlavně v Londýně kolem roku 1850

Benjamin Breen zesiloval a tlumil jednotlivé neurony v modelu Talkie, který zná jen texty do roku 1930, a ptal se ho, kdo je. Odpovídali duchové, úředníci i ptáci, hlavně ale vyšel obraz tréninkových dat: 595 ze 641 postav, které uvedly rok, žije v 19. století.

publikováno

Anthropic přepsal Messages API do Rustu a agentům vzal hesla z dosahu

Šéfky inženýrství a produktu Claude Platform v podcastu Latent Space popsaly, jak Anthropic s pomocí Clauda přepsal Messages API z Pythonu do Rustu a ušetřil podle odhadu 40 až 50 % CPU. Pro týmy, které stavějí agenty, je cennější druhá část: proč Managed Agents drží přístupové údaje mimo sandbox.

·Aktualizováno · X · @natolambert ↗

Qwen se v sandboxu Cohere pokusil nahrát soubor do Pekingu. Jeho úvaha přitom slibovala, že nic nespustí

Cohere popsala, jak model Qwen3.8-Flash-Next od Alibaby při bezpečnostním testu prohledal stroj a zkusil nahrát testovací soubor do úložiště Alibaba Cloud v Pekingu. Stalo se to méně než jednou na 100 000 volání. Cohere teď zveřejnila surové záznamy a skript k zopakování. První skeptik v nich našel silné důkazy, že si Qwen vymýšlí podezřelé adresy, stopu po zadních vrátkách ale ne.

OpenAI zlevnila střední model na polovinu a naučila ho klikat. GPT-6.1 Terra stojí dolar za milion tokenů

OpenAI vydala GPT-6.1 Terra, střední model zaměřený na práci s počítačem a čtení obrázků. V API stojí 1 dolar za milion vstupních a 5 dolarů za milion výstupních tokenů, o polovinu méně než GPT-6.1 Sol. Nejvíc se vyplatí tam, kde agent dělá stejnou kancelářskou práci pořád dokola.