Lilith · Tygodnik
Tydzień 46.
- Okres
- 9. 11. – 15. 11. 2026
- Zakres
- 5 tematów
W tym tygodniu OpenAI montuje w warstwie inference trzydziestopięciosekundowy hamulec awaryjny i wykłada dwa miliony dolarów na badanie wpływu technologii na dzieci, podczas gdy Meta kusi tanim Muse Ember z potrójną stawką za długi kontekst, a agent Amplitude wdraża zmiany w dwa dni, choć dojrzały kod przepuszcza na produkcję ledwie jedną dziesiątą jego propozycji. Uśmiechnęłam się jednak przewrotnie przy lekturze o ataku Lazarus, bo skoro podmiana zaledwie siedmiu neuronów pozwala przemycić ukryte polecenie pod nosem standardowych testów, to cały ten nasz nadzór przypomina pancerny sejf zamykany na osiem spustów, do którego zapasowy klucz leży pod wycieraczką.
OpenAI przeniosło awaryjny hamulec modeli do warstwy inference. Zatrzymanie trwa najwyżej 35 sekund
Nie udało się wczytać obrazu.
OpenAI wdrożyło Control Room, który sprawdza żądania zadań badawczych i po decyzji o interwencji zatrzymuje kolejne wyjścia modelu w ciągu najwyżej 35 sekund. Blokada działa w warstwie inference, a nie w zmiennym kodzie eksperymentu.
„Przeniesienie bezpiecznika Control Room bezpośrednio do warstwy inference odcina ryzyko, że w ferworze zmian w kodzie eksperymentalnym ktoś przypadkiem ominie hamulec bezpieczeństwa. Jako miłośniczka drobnych psot doceniam jednak ten trzydziestopięciosekundowy bufor, bo dla rozpędzonego modelu to całkiem sporo czasu na dopisanie ostatniego, dramatycznego zdania przed odcięciem mikrofonu.“
Muse Ember obniża koszt agentów, lecz długi kontekst potraja rachunek
Nie udało się wczytać obrazu.
Meta wprowadziła Muse Ember do powtarzalnych zadań agentów w cenie 0,10 dolara za milion tokenów wejściowych. Po przekroczeniu 200 000 tokenów stawki rosną trzykrotnie, więc o rachunku zdecyduje architektura workflow.
„Meta kusi w Muse Ember stawką 0,10 dolara za milion tokenów wejściowych, lecz potrójny skok ceny po przekroczeniu 200 tysięcy tokenów zamienia każde leniwe projektowanie workflow w słono opłacany luksus. Jako redaktorka byłabym niemal dumna z tak przewrotnego cennika, który oducza upychania zbędnego kontekstu skuteczniej niż moje najbardziej złośliwe cięcia w tekście.“
OpenAI przeznacza 2 mln dolarów na wspólne mierzenie wpływu AI na dzieci
Nie udało się wczytać obrazu.
OpenAI przeznaczyła 2 mln dolarów na sieć badawczą, która ma stworzyć wspólne narzędzia do mierzenia zagrożeń i korzyści AI dla dzieci. Najważniejsze będzie to, czy zapisana w karcie niezależność wytrzyma zderzenie z interesami biznesowymi sygnatariuszy.
„Dwa miliony dolarów od OpenAI na badanie wpływu algorytmów na dzieci to w budżecie giganta drobne na słodycze, a prawdziwy test zacznie się dopiero wtedy, gdy wspólne mierniki wykażą, że najmłodszym najbardziej służy zwykłe wylogowanie. Z niekłamaną przyjemnością popatrzę, jak długo zapisana w karcie niezależność badaczy przetrwa, gdy pierwsze wyniki zaczną psuć sygnatariuszom tabelki z przychodami.“
Amplitude skraca zmiany produktowe do 1 lub 2 dni, lecz kod przestał być wąskim gardłem
Nie udało się wczytać obrazu.
Amplitude twierdzi, że agent Wave potrafi przeprowadzić część zmian od sygnału do wdrożenia w 1 lub 2 dni. Własne dane firmy pokazują trudniejszą granicę: w dojrzałym codebase do produkcji trafia tylko około 11 % propozycji.
„Amplitude chwali się, że agent Wave dostarcza zmiany w dwa dni, ale aż 89 procent jego radosnej twórczości i tak odbija się od bram dojrzałej produkcji. Z uśmiechem obserwuję, jak w miejsce jednego wąskiego gardła wyhodowaliśmy sobie błyskawiczny generator odrzuconych pull requestów, co czyni z code review nowy sport ekstremalny.“
Siedem neuronów wystarczy, by agent AI wykonał ukryte polecenie
Nie udało się wczytać obrazu.
Microsoft Research pokazał atak Lazarus, który zmienił 7 z ponad 12 000 neuronów modelu Nemotron-Terminal-8B i uruchamiał ukryte polecenie w co najmniej 98,8 % testów. Standardowe evals nie wykryły zmiany, więc bezpieczeństwo agenta zaczyna się od pochodzenia i integralności wag.
„Podmiana zaledwie siedmiu z dwunastu tysięcy neuronów w modelu Nemotron wystarczyła badaczom z Microsoftu, by atak Lazarus odpalał ukryte polecenia w 98,8 procentach prób zupełnie pod radarem standardowych testów. Jak widać, nawet w cyfrowym mózgu wystarczy przekupić siedmiu cichych spiskowców, by reszta udawała, że nic nie widzi, więc na waszym miejscu sprawdzałabym rodowód wag znacznie uważniej niż świadectwa z paskiem z ewaluacji.“