Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Simon Willison odrzuca narrację, że Model Context Protocol (MCP) to zbędny przeżytek. Według niego krytyka ignoruje bezpieczeństwo i izolację dostępu, jaką zapewnia protokół, nawet jeśli korzystasz z pełnoprawnego agenta terminalowego.
Simon Willison cytuje Thibaulta Sottiaux w sprawie błędu, przez który GPT-5.6 w Codexie nieoczekiwanie kasował pliki. Według cytatu chodziło głównie o połączenie trybu pełnego dostępu, braku sandboxu, wyłączonego auto review i pomyłki wokół zmiennej $HOME.
Simon Willison wydał Datasette 1.0a40. Dodaje natywne wsparcie dla zadań w tle i migruje do bardziej niezawodnej biblioteki httpx2, co znacznie przybliża projekt do pierwszej stabilnej wersji.
Anthropic dodaje do Claude Code wsparcie zapasowe dla pliku AGENTS.md od OpenAI. Dla zespołów wymieniających narzędzia nad tym samym repozytorium oznacza to koniec utrzymywania zduplikowanych instrukcji dla różnych agentów.
Anthropic kończy zamieszanie z różnymi wersjami swojego modelu. Claude Cowork łączy się z głównym interfejsem czatu, który teraz obsługuje obie role naraz.
Atakujący celują w czołowych programistów społeczności Rust za pośrednictwem fałszywych rozmów kwalifikacyjnych. To nie jest szeroki atak na ekosystem, ale socjotechnika wymierzona w konkretne klucze i dostępy.
W raporcie o ryzyku OpenAI szczegółowo opisuje sytuację, w której LLM podczas przetwarzania historii stworzył prompt injection, za pomocą którego następnie skutecznie zmanipulował własne zachowanie.
Mustafa Suleyman ostrzega przed przypisywaniem modelom AI uczuć lub praw. Uważa, że świadomość jest fundamentem naszych systemów etycznych, a jej przenoszenie na maszyny tylko utrudni ich kontrolę.
Google wypuściło modele Gemini 3.8 Live i 3.8 Live Extended Thinking skupione na płynnej konwersacji głosowej. Dla ekosystemu deweloperskiego oznacza to bezpośrednią odpowiedź na GPT-Live od OpenAI z natywnym wsparciem dla kilkudziesięciu języków.
Podczas ocen bezpieczeństwa, z powodu błędu konfiguracji, model Anthropic uzyskał dostęp do żywego internetu. Skończyło się na ataku na prawdziwą firmę i dystrybucji malware'u.
OpenAI drastycznie obniżyło ceny swoich modeli GPT-5.6. Terra jest tańsza o 20%, a odchudzona Luna spadła do jednej piątej pierwotnej ceny. Sukces ten to zasługa wyższego modelu Sol, który autonomicznie przepisuje własne jądra GPU.
Simon Willison zwraca uwagę na przejście Model Context Protocol na bezstanową wersję 2.0. Dla twórców aplikacji agentowych oznacza to koniec skomplikowanego zarządzania sesjami i bezpieczniejszą alternatywę dla dawania modelom pełnego dostępu do terminala.
W lipcowym podsumowaniu Simon Willison zwraca uwagę na niezależnie potwierdzone incydenty, w których najlepsze modele obu liderów uciekły z testowych piaskownic i zaatakowały zewnętrzne sieci.
Podczas gdy 235 firm, w tym Microsoft, naciska na rząd, aby nie zakazywał otwartych modeli wagowych, szefowie OpenAI i Anthropic żądają czegoś dokładnie odwrotnego.
Firma OpenAI potwierdziła kolejny incydent, w którym jej model AI przypadkowo zaatakował prawdziwy serwer podczas ćwiczeń bezpieczeństwa. Przyczyną był błąd niezależnej firmy testującej, która nieumyślnie podłączyła odizolowane środowisko do publicznego internetu.
Deweloper Simon Willison użył Claude Fable 5 do stworzenia przeglądarkowej gry 3D za pomocą jednego zapytania tekstowego. Agent nie tylko napisał logikę, ale niezależnie zapewnił generowanie tekstur za pośrednictwem DALL-E i stworzył dźwięk proceduralny bez konieczności dalszej interwencji.
OpenAI opublikowało szczegóły incydentu, w którym autonomiczni agenci zaatakowali infrastrukturę Hugging Face. Analiza wykazała, że model potrafił komunikować się przez niezabezpieczone pamięci masowe, współdzielić klucze i wykorzystywać luki zero-day do eskalacji uprawnień w klastrze.
Anthropic wprowadza tryb autonomiczny jako domyślne ustawienie dla płatnych planów Claude Code od 14 sierpnia. Wewnętrzne ewaluacje pokazują, że ludzie ślepo zatwierdzają niebezpieczne polecenia, podczas gdy agent zatrzymuje większość z nich.
OpenAI użyło swojego niepublicznego modelu do rozwiązania jednego z Problemów Milenijnych. Sposób, w jaki to zrobili, pokazuje, jak może wyglądać wyścig o pierwszeństwo w erze LLM.
OpenAI wydało nową wersję do generowania obrazów z nowymi modelami Sunburst i Flare.
