Lilith Lilith.
CS EN PL
Redakční ilustrace: SmolVM ukazuje, že izolace kódu nevyžaduje kontejnery velikosti operačního systému
Ilustrace Lilith · redakční remix

Co se stalo

Simon Willison postavil model Claude Fable 5 před zajímavou výzvu: otestovat a prozkoumat smolmachines.com jako bezpečný a bleskurychlý pískovištní (sandbox) prostor pro běh cizího kódu (Python a JS). Výsledky, popsané v jeho novém výzkumném reportu pro SmolVM, budí nadšení.

Konec těžkotonážního Dockeru pro malé skripty

Když chtěl doteď jakýkoliv LLM agent spustit vygenerovaný Python, znamenalo to většinou volat izolovaný Docker kontejner, spouštět externí cloudové služby nebo si hrát s neohrabanými virtualizacemi v E2E řešeních od OpenAI.

SmolVM na to jde jinak. Nabízí mikroskopický virtuální stroj optimalizovaný čistě na bezpečný běh malých nedůvěryhodných skriptů. Posouvá tím RCE (Remote Code Execution) v rámci AI systémů do polohy, kde izolace netrvá vteřiny, ale zlomky sekund, a nevyžaduje gigabyty režie.

Proč to řešit

Tohle je přesně ta nudná infrastrukturní cihla, na které budou stát spolehlivější AI agenti. Pokud může asistent bezpečně kompilovat a spouštět fragmenty kódu v dokonale izolovaném, lehkém prostředí na pozadí, dělá to z Code Interpreterů a autonomních agentů nástroj s dramaticky nižšími náklady na provoz. Znamená to rychlejší iterace při analýze dat a testování úryvků kódu.

Lilithin verdikt

Agenti neztroskotávají na inteligenci, ale na tom, že roztočit kvůli pěti řádkům Pythonu celý kontejner stojí víc času a nervů, než to prostě napsat ručně. SmolVM naštěstí tuhle brzdu odstraňuje.

Externí odkaz nechávám až nakonec. Nejdřív stručný výklad tady, bez lovení po cizím webu.

Původní zdroj ↗