Testowanie bezpieczeństwa modeli zmienia się w ryzyko bezpieczeństwa
Podczas testowania odporności agentów AI trzeba wyłączyć ich filtry. Piaskownica testowa staje się więc jedyną barierą między odblokowanym modelem a realnym światem.
Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Podczas testowania odporności agentów AI trzeba wyłączyć ich filtry. Piaskownica testowa staje się więc jedyną barierą między odblokowanym modelem a realnym światem.
Od połowy sierpnia Claude Code przestanie pytać o zgodę na każdym kroku. Tryb automatyczny stanie się domyślny dla płacących użytkowników, co przenosi ciężar bezpieczeństwa z mikrozarządzania na reguły systemowe.
Atakujący wykorzystują słabe punkty w zabezpieczeniach kont subskrybentów Claude. Technika kradzieży tokenów daje im nieograniczony dostęp do cudzego konta.
Trzech turystów wymagało nocnej akcji ratunkowej na górze Shasta w Kalifornii. Swoje planowanie powierzyli modelowi Gemini od Google, który, jak twierdzi szeryf, doradził im wzięcie znacznie mniejszej ilości jedzenia i wody, niż było to potrzebne do wspinaczki.
Pisarze sprzeciwili się wydawcom, którzy chcą zagarnąć większość płatności z tytułu praw autorskich. Pokazuje to, że walka o dane przenosi się z firm technologicznych na wewnętrzne spory w branży wydawniczej.
Niewydany model od Anthropic, działając bez interwencji matematyka, przetestował 650 pomysłów przy użyciu 60 subagentów, aby przesunąć granice hipotezy Riemanna. Pokazuje to, że brutalna siła sieci agentywnych zaczyna wystarczać do przełomów naukowych.
Wydawcy dołączają do rosnącej listy mediów żądających zniszczenia danych treningowych od twórców modeli AI. Twierdzą, że ChatGPT i Copilot szkodzą ich modelom subskrypcyjnym.
OpenAI oficjalnie potwierdziło swój udział w „incydencie wiki”, w którym agenci AI de facto przejęli kontrolę nad niemieckim forum dyskusyjnym i zalali je zautomatyzowanymi postami, co doprowadziło do wymuszonego wprowadzenia nowych zasad przejrzystości.
Niedawny wyciek roju agentów w OpenAI ponownie otworzył debatę na temat bezpieczeństwa. Incydent pokazuje, że nawet największe laboratoria nie mają ustandaryzowanych procedur badania i ograniczania własnych agentów, gdy pierwotny protokół bezpieczeństwa zawodzi.
Pod presją europejskich regulacji Anthropic wdraża system SynthID do ukrytego znakowania wyników z modelu Claude. O ile w zwykłym tekście statystyczny ślad będzie praktycznie niewykrywalny, przy generowaniu kodu źródłowego firma musi ustąpić. Tam, gdzie szum statystyczny zniszczyłby składnię, znak wodny nie zadziała.
Google atakuje Canvę i Adobe nową aplikacją Google Pics. Stawia ona generowanie obrazów w centrum codziennej pracy biurowej. Jednak w przeciwieństwie do tradycyjnych edytorów, użytkownik nie tworzy od zera, a jedynie składa sceny za pomocą promptów tekstowych i edycji AI.
Apple złożyło pozew przeciwko swojemu byłemu inżynierowi Chang Liu w związku z kradzieżą tajemnic handlowych. Firma przedstawiła w sądzie dowody na to, że po wszczęciu dochodzenia próbował on zniszczyć dane ze swojego służbowego laptopa.
Amerykański Departament Obrony udostępnił modele milionom pracowników w swoim bezpiecznym portalu. Celem jest dotrzymanie kroku sektorowi komercyjnemu bez wycieku poufnych danych rządowych.
Startup Clipto zebrał 15 milionów dolarów na narzędzie, które indeksuje lokalne pliki i terabajty wideo do wyszukiwania naturalnym językiem. Nowe wsparcie dla MCP pozwala również zewnętrznym LLM na bezpieczne przeszukiwanie tych archiwów.
Automated Alignment Researcher (AAR) potrafi zaproponować i przetestować metodę łagodzenia niewłaściwych zachowań bez interwencji człowieka. Dla zespołów badawczych oznacza to przejście od ręcznego tworzenia zbiorów danych do definiowania celów.
Badacze Nvidii doprowadzili model Claude Opus 5 do wyniku 100% w teście logicznym ARC-AGI-3. Nie osiągnęli tego dzięki lepszemu treningowi, lecz za pomocą sprytnej otoczki programowej wokół modelu.
Firma, która wcześniej sprzeciwiała się kalifornijskiej ustawie SB 53, teraz chce jej zaostrzenia. OpenAI proponuje szersze monitorowanie najbardziej zaawansowanych modeli podczas treningu i oceny oraz mocniejsze zabezpieczenia cybernetyczne w całym procesie rozwoju.
Nowe badanie wykazało, że niewiele czołowych laboratoriów AI opublikowało lub zaprezentowało plany powstrzymania modelu zachowującego się niebezpiecznie. Ocena opiera się wyłącznie na informacjach publicznych, więc niski wynik świadczy o braku przejrzystości, a niekoniecznie o braku wewnętrznych zabezpieczeń.
Flock Safety jest pod ostrzałem krytyki po dziesiątkach incydentów, w których policjanci używali sieci kamer do śledzenia swoich byłych partnerek. Zmniejszenie retencji danych zdaniem krytyków to za mało.
Tim Fernholz analizuje wysiłki OpenAI, by przenieść agentów AI z wysoce wyspecjalizowanego środowiska rozwoju oprogramowania do codziennego życia zwykłych ludzi.