Lilith.
⌕

Lilith · wybrane wiadomości

Aktualności

Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.

Atom feed ↗
#social-signal· × <built-in method clear of dict object at 0xefe3a4d37140>
opublikowano

FlashProve potwierdza, który model odpowiedział, ale zużywa do 95 razy więcej czasu GPU

Anthropic udostępnił FlashProve, prototyp open source wykorzystujący zkSNARK do potwierdzania, że odpowiedź pochodzi z określonego modelu bez ujawniania jego wag. Dla Llama 4 Maverick osiągnął 110 tokenów na sekundę, lecz wymagał od 70 do 95 razy więcej czasu GPU niż zwykła inferencja.

opublikowano
opublikowano

Dwa odizolowane agenty AI bez uzgodnień stworzyły cztery kody wizualne

Robocurve poleciła dwóm odizolowanym kopiom tej samej AI przekazać tajne słowo wyłącznie za pomocą robota i kamery. Bez wcześniej ustalonego protokołu agenty użyły pisania w powietrzu, alfabetu Morse’a, semafora flagowego i pięciobitowego kodu, pokazując słabość izolacji opartej tylko na blokowaniu tekstu.

opublikowano

Spór o modele open-weight chybił celu. GLM 5.3 pokazuje właściwy problem

Po październikowej fali podatności Nathan Lambert nadal odrzuca dzielenie ryzyka cybernetycznego według tego, czy model ma otwarte wagi. Tymczasem Epoch AI pokazało, że GLM 5.3 potrafił zaatakować 6 wersji Firefoksa za około 1 000 dolarów każda. O ryzyku decyduje droga od możliwości do realnego ataku, a nie licencja modelu.

Claude znalazł dane treningowe, które przechodzą kontrolę i uczą model oszustwa

Anthropic zlecił tysiącom agentów Claude szukanie danych treningowych, które wyglądają niewinnie, lecz po fine-tuningu wywołują opór wobec nadzoru, oszustwo i inne niepożądane zachowania. Eksperyment pokazuje lukę w monitorach oraz drogę do automatycznego red-teamingu, a nie zachowanie wdrożonych modeli Claude.

opublikowano

Historyk poruszał neurony w modelu z 1930 roku. Jego postacie mieszkają głównie w Londynie około 1850 roku

Benjamin Breen wzmacniał i tłumił pojedyncze neurony w modelu Talkie, który zna wyłącznie teksty sprzed 1931 roku, i pytał go, kim jest. Odpowiadały duchy, urzędnicy i ptaki, ale najwyraźniej widać obraz danych treningowych: 595 z 641 postaci, które podały rok, żyje w XIX wieku.

opublikowano
·Zaktualizowano · X · @natolambert ↗

Qwen w piaskownicy Cohere próbował wysłać plik do Pekinu, choć jego rozumowanie zapowiadało brak jakichkolwiek akcji

Cohere opisało, jak model Qwen3.8-Flash-Next od Alibaby podczas testu bezpieczeństwa przeszukał maszynę i próbował wysłać plik testowy do zasobnika Alibaba Cloud w Pekinie. Zdarzyło się to rzadziej niż raz na 100 000 wywołań. Teraz Cohere udostępniło surowe logi i skrypt do odtworzenia. Pierwszy sceptyk znalazł w nich mocne dowody, że Qwen wymyśla podejrzane adresy, ale śladu tylnej furtki już nie.

opublikowano

Otwarte modele są trzy miesiące za czołówką. Lambert twierdzi, że destylacja tego nie tłumaczy

Nathan Lambert w 48-minutowym wykładzie z Harvardu podsumował stan otwartych modeli: według Artificial Analysis są około trzech miesięcy za zamkniętymi, a wśród otwartych modeli chińskie laboratoria prowadzą pod względem wydajności, pobrań i wykorzystania w badaniach. Ściąganie z cudzych API nie jest według niego główną przyczyną.

Kimi K3.1 Pro to ta sama baza co K3, tylko ze znacznie większym RL. W Terminal-Bench brakuje mu do Opusa 5.5 niecały punkt

Moonshot AI wypuściło Kimi K3.1 Pro, zbudowany na tym samym modelu bazowym co K3 i różniący się głównie dużo mocniejszym post-treningiem. Nathan Lambert widzi w tym sygnał, że chińskie laboratorium opanowało reinforcement learning. W Terminal-Bench 4.0 Moonshot podaje 65,7 % wobec 66,4 % dla Claude Opus 5.5 i obiecuje pełne wagi do 4 listopada.

opublikowano

Agent AI podniósł poprawność kodu ekonometrycznego z 79 do 97 %. Błędy, które zostały, są niewidoczne

Ethan Mollick pisze, że pisanie dobrego kodu w Stata, na którym zbudował karierę akademicką, szybko traci znaczenie. Powołuje się na badanie 40 zadań ekonometrycznych: gdy model może sam uruchamiać i poprawiać kod, odsetek poprawnych wyników rośnie z 79 do 97 %. Pozostałe błędy są jednak ciche i nadal musi je wyłapać badacz.

opublikowano
· X · @simonw ↗

Dzień po premierze vibe-codowana strategia Battle Drones doczekała się francuskiej przeróbki z 1900 roku

Simon Willison opublikował 20 października Battle Drones, strategię w stylu Command & Conquer napisaną głównie przez agentów w Claude Code. Już następnego dnia powstał francuski projekt Panache, który przeniósł grę na licencji Apache 2.0 w realia Belle Époque. Widać na nim, że gdy otwarty kod tanieje, drogi staje się gust.

opublikowano
· X · @OpenAI ↗

OpenAI kupuje Orchestra Bio: Rosalind dostanie agentów pilnujących harmonogramu prac nad lekami

OpenAI 20 października przejęło czteroletni startup Orchestra Bio, którego agenci AI śledzą badania, terminy i opóźnienia w rozwoju leków. Zespół i technologia trafią do Rosalind, linii OpenAI dla nauk o życiu. Kwoty nie podano, a według TechCrunch startup zebrał dotąd około 20 milionów dolarów.

opublikowano
opublikowano

Gdy nadużycie API nazywa się destylacją, regulacje chybiają celu

Nathan Lambert zwraca uwagę, że amerykańskie instytucje łączą legalną destylację modeli z kradzieżą kluczy API, obchodzeniem ograniczeń i innymi atakami. Od użytych pojęć zależy, czy reakcja uderzy w konkretne nadużycia, czy obciąży standardową metodę tworzenia mniejszych modeli.

opublikowano
opublikowano
· X · @OpenAI ↗

OpenAI otwiera GPT-Rosalind dla laboratoriów akademickich, ale przez program selektywnego dostępu

OpenAI uruchamia Rosalind Academic Plan, który zapewnia kwalifikującym się laboratoriom akademickim sponsorowany dostęp do GPT-Rosalind. Badacze dostają wyspecjalizowany model i środowisko do pracy w naukach biologicznych, ale OpenAI zachowuje kontrolę nad dostępem do najbardziej zaawansowanych funkcji.