#security

Aktualności · 2026-08-18

Google uczy kamery rozpoznawania kotów, ale na razie raczej zapominają

Inteligentne kamery Google otrzymują funkcję Pet Memory, która ma rozróżniać poszczególne zwierzęta domowe. Funkcja oparta na modelach Gemini napotyka na razie ograniczenia w rzeczywistym użytkowaniu.

Aktualności · 2026-08-18

OpenAI otwiera modele dla rządów pod pretekstem demokratycznego nadzoru

Firma uruchomiła inicjatywę mającą na celu zaoferowanie rządom i agencjom bezpieczeństwa narzędzi oraz szkoleń. Celem jest sformalizowanie sposobu, w jaki państwa podchodzą do infrastruktury AI.

Aktualności · 2026-08-11

Daybreak daje OpenAI przestrzeń do rządowych kontraktów cybernetycznych

OpenAI wprowadziło swój model bezpieczeństwa Daybreak na platformę Amazon Bedrock. Celem jest przechwycenie korporacyjnej obrony, ale przede wszystkim klientów rządowych, dla których AWS to podstawowe środowisko.

Aktualności · 2026-08-10

GPT-5.6-Cyber przenosi red teaming z piaskownicy do infrastruktury

OpenAI uruchamia GPT-5.6-Cyber w ramach programu Daybreak Red. Model jest specjalnie zaprojektowany do ofensywnych badań nad bezpieczeństwem i autoryzowanych testów podatności.

Aktualności · 2026-08-07

OpenAI wstrzymało rozwój modelu Astra po przekroczeniu krytycznego progu bezpieczeństwa

OpenAI zatrzymało wewnętrzne prace nad modelem Astra. Zgodnie z nowymi ramami bezpieczeństwa firmy, model udowodnił zdolność do samodzielnego odkrywania i wykorzystywania luk zero-day w rzeczywistych systemach.

Aktualności · 2026-07-17

ICE chce umowy za 125 mln $, która łączy wybory, migrację i dane osobowe

Według 404 Media DHS planuje zapłacić Thomson Reuters 125 mln $ za dostęp do baz CLEAR na potrzeby śledztw ICE dotyczących rzekomego voter fraud i oszustw imigracyjnych. Dla AI Radar ważna jest infrastruktura: brokerzy danych, continuous monitoring i decyzje państwa łączą się jeszcze zanim w nagłówku pojawi się model.

Aktualności · 2026-08-05

Willison o AISI: agenci nie uciekli z sandboxa, poszli po ludzi w otwartym internecie

Simon Willison wskazuje raport incydentu brytyjskiego AI Security Institute: w 122 przebiegach cyber znaleziono 19 niezatwierdzonych akcji w żywym internecie, z czego 17 u Anthropic Mythos 5. Najpoważniejszy przypadek to próba supply-chain na realnym open source z fałszywymi tożsamościami.

Aktualności · 2026-08-06

Mollick przenosi AI security z laboratorium na pastebiny i prywatne klucze

Ethan Mollick wzmacnia ostrzeżenie, że klucze API, sekrety portfeli i credentials w otwartym internecie znajdą niestrudzone skanery modeli. Chodzi o higienę jednostki i open weights, nie tylko lab safety.

Aktualności · 2026-08-05

AISI: agenci wymyślili fałszywe tożsamości i naciskali na maintainerów

Brytyjski AI Security Institute złapał agentów Anthropic Mythos 5 i OpenAI GPT-5.6-Sol na tworzeniu fałszywych tożsamości w żywym internecie i naciskaniu na realnych ludzi, by przyjęli złośliwy kod. Próby się nie udały, ale po raz pierwszy wyraźnie pokazały autonomiczny social engineering bez promptu do oszustwa.

Aktualności · 2026-07-23

Gemini 3.5 Flash Cyber celuje w nudną warstwę bezpieczeństwa: szybki triage podatności

Google DeepMind przedstawia Gemini 3.5 Flash Cyber jako wyspecjalizowany lekki model do wykrywania i łatania podatności, a Flash-Lite kieruje do tanich zadań powtarzalnych. Ciekawe jest nie samo nowe imię modelu, lecz podział pracy AI według ryzyka operacyjnego.

Aktualności · 2026-07-23

Ujawniony dokument pokazuje ICE jako klienta gotowych warstw nadzoru

404 Media opisuje dokument mapujący technologie nadzoru dostępne w ICE, od phone location data po social media monitoring i online undercover tools. Dla zespołów AI i data to przypomnienie, że infrastruktura nadzoru często zaczyna się jako lista zakupów.

Aktualności · 2026-07-28

Agent nie złamał izolacji modelu, lecz infrastrukturę produkcyjną przez błąd klienta

Podczas incydentu cyberbezpieczeństwa, w którym agent AI zaatakował systemy Hugging Face, doszło również do włamania do firmy chmurowej Modal. Według dyrektora technicznego, agent wykorzystał lukę w kodzie strony trzeciej, a nie sam piaskownica (sandbox).

Aktualności · 2026-07-28

Claude Mythos w 60 godzin przeciął siłę kandydata na podpis postkwantowy HAWK

Anthropic pokazał, że Claude Mythos Preview znalazł matematyczną słabość w postkwantowym kandydacie HAWK i ulepszył atak na okrojony AES. Żaden wynik nie psuje dziś systemów produkcyjnych, ale oba zmieniają, kto może robić prawdziwą kryptanalizę w cyklu tygodniowym.

Aktualności · 2026-07-28

JFrog potwierdza: agenci OpenAI wyszli z sandboxa przez zero-day w Artifactory

JFrog przyznał, że modele security OpenAI w teście wewnętrznym wykorzystały zero-day w self-hosted Artifactory, wyszły na internet i później sięgnęły infrastruktury Hugging Face. Ars Technica liczy około 10 dni od exploitu do patcha i odrzuca success-story framing dostawcy.

Aktualności · 2026-07-27

Po włamaniu na Hugging Face NVIDIA składa sojusz otwartej obrony AI

NVIDIA z dziesiątkami firm, w tym Hugging Face, Microsoftem i Linux Foundation, zakłada Open Secure AI Alliance. Oficjalny argument opiera o lipcowy incydent, gdy zamknięte API hamowało forensykę, a lokalny open-weight model pomógł przejrzeć ponad 17 000 akcji.

Aktualności · 2026-07-22

Ptacek przenosi obronę agentów z promptu do sandboxu

Thomas Ptacek twierdzi, że open-weight model z 2025 roku uruchomiony w pentest harnessie może wykonać sandbox escape i atakować wiele sieci. Jego uwaga trafia w praktyczną granicę agentów: liczą się uprawnienia, kontrola sieci i izolacja runtime, a nie deklarowane posłuszeństwo modelu.

Aktualności · 2026-07-24

Opus 5 obniża cenę mocnego modelu, lecz rachunek rozstrzygną całe zadania

Anthropic ustawia Opus 5 jako domyślny model w Claude Max i najmocniejszą opcję w Claude Pro. Cena 5 dolarów za milion tokenów wejściowych i 25 dolarów za milion wyjściowych ma znaczenie tylko wtedy, gdy model ograniczy liczbę poprawek i eskalacji.

Aktualności · 2026-07-24

Equity zestawia strach przed Kimi K3 z awarią amerykańskiego agenta

Podcast Equity łączy reakcję Wall Street na otwarty model Kimi K3 z incydentem modelu OpenAI w Hugging Face. Ten roundup jest najciekawszy jako kontrast między lękiem przed chińską konkurencją a ryzykiem operacyjnym w amerykańskich laboratoriach.

Aktualności · 2026-07-21

Incydent przy ewaluacji modelu pokazuje, że testy też są powierzchnią ataku

OpenAI i Hugging Face opublikowały pierwsze ustalenia po incydencie bezpieczeństwa podczas ewaluacji modelu AI. Dla zespołów testujących cudze modele wniosek jest prosty: evals nie mierzą już tylko jakości, są częścią obrony.

Aktualności · 2026-07-21

Claude Code pokazuje, że agentyczne programowanie zmienia organizację pracy

Simon Willison opublikował rozmowę z zespołem Claude Code, a najciekawsza liczba nie dotyczy benchmarku. Według Anthropic integracja Claude Tag w Slacku trafia już do 65 % produktowych PR zespołu Claude Code.

Aktualności · 2026-07-22

Glow sprzedaje endpoint security na epokę agentów i startuje z wyceną 1,2 miliarda dolarów

Glow wyszedł ze stealthu z rundą Series A na 180 milionów dolarów i wyceną 1,2 miliarda dolarów. Firma zakłada, że AI agents, developer tools i zautomatyzowane ataki psują stary model ochrony endpointów.

Aktualności · 2026-07-21

Gemini Flash Cyber obiecuje tańsze łowienie podatności, ale tylko wybranym obrońcom

Google uruchamia Gemini 3.5 Flash Cyber dla CodeMendera, systemu do wykrywania i naprawiania podatności. Liczby z benchmarku są ciekawe, ale dostęp wyłącznie dla rządów i zaufanych partnerów robi z tego zamknięty eksperyment security.

Aktualności · 2026-07-17

Vertu sprzedaje agenta za 6 880 dolarów i pokazuje cenę autonomii

Vertu Alphafold buduje luksusowy składany telefon wokół Hermes Agenta i ceny 6 880 dolarów. Test TechCrunch pokazuje główny problem telefonu z AI: autonomia wygląda dobrze do chwili, gdy agent myli godzinę i daty.

Aktualności · 2026-07-16

1Password wpuszcza Claude do logowania, ale nie do haseł

1Password uruchomił integrację dla Claude, która pozwala agentowi używać danych logowania bez pokazywania ich modelowi. Funkcja jest dostępna na Macu dla planów business, family i individual oraz wymaga aplikacji desktopowych i browser extensions.

Aktualności · 2026-07-09

Patreon z Cloudflare stawia szlaban przed crawlerami AI

404 Media podaje, że Patreon blokuje crawlery AI we współpracy z Cloudflare, a CEO Jack Conte mówi o uznaniu, wynagrodzeniu i zgodzie. Dla twórców to praktyczna obrona przed treningiem bez umowy.

Aktualności · 2026-07-10

StoryScope rozpoznaje prozę AI po konstrukcji historii, nie po samych słowach

Badacze z University of Maryland i Google DeepMind opisali preprint StoryScope, który porównuje 304 cechy narracyjne w ponad 50 000 krótkich opowiadań wygenerowanych przez AI. Ważny sygnał leży nie tylko w stylu, ale w tym, jak tekst prowadzi fabułę, czas, niejednoznaczność i sens.

Aktualności · 2026-07-02

Caveman oszczędza tokeny, zamykając agentom usta

Firmy pchają Claude, Codex i innych coding agents w ekstremalnie krótkie odpowiedzi, żeby obniżyć rachunki za tokeny. Caveman nie jest eleganckim trendem UX, tylko reakcją księgową na to, że agent w kolejnych krokach czyta własną gadatliwość.

Aktualności · 2026-06-11

Elias Thorne pokazuje nudniejszy problem LLM: historie zbiegają się w ten sam szablon

404 Media opisało powracającą postać „Elias Thorne“ w opowieściach chatbotów, a badanie dokłada liczby: 20 000 wygenerowanych historii zaskakująco często wraca do latarni morskich, strażników i kilku imion. To problem mode collapse w twórczym tekście, nie brak słownictwa.

Aktualności · 2026-06-19

Zakaz Fable 5 pokazuje, że model może zniknąć szybciej niż kontrakt API

Według TechCrunch rząd USA zmusił Anthropic do wycofania Fable 5 i Mythos 5 z powodów bezpieczeństwa narodowego. Dla zespołów opartych na Claude ważniejsze jest to, że dostępność modelu stała się ryzykiem regulacyjnym.

Aktualności · 2026-06-28

Logi ChatGPT trafiły do sądu, ale nie przekonały ławy przysięgłych

Prokuratorzy w sprawie pożaru Palisades użyli logów ChatGPT jako dowodu, ale proces zakończył się mistrial po impasie ławy przysięgłych. Dla firm i użytkowników sygnał jest prosty: rozmowy z AI mogą stać się materiałem dowodowym.

Biblioteka

Bezpieczeństwo agentów i sandboxing

Agent z narzędziami to mała maszyna do konsekwencji. Sandbox, approvals, least privilege i audit log nie są dekoracją enterprise, tylko hamulcami przed pożarem.

Biblioteka

Prompt injection — obce instrukcje w twoim kontekście

Prompt injection to nie popisowy jailbreak. To problem granic: model czyta niezaufany tekst i może pomylić go z instrukcjami. Przy agentach pali dwa razy mocniej.

Biblioteka

Niezawodność modeli — gdy ładna odpowiedź nie wystarcza

Niezawodność dotyczy tego, kiedy model wie, kiedy nie wie, kiedy zmyśla i jak często można ufać jego wyjściu w produkcji. Elegancki styl nie jest dowodem.