Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Automated Alignment Researcher (AAR) potrafi zaproponować i przetestować metodę łagodzenia niewłaściwych zachowań bez interwencji człowieka. Dla zespołów badawczych oznacza to przejście od ręcznego tworzenia zbiorów danych do definiowania celów.
Incydent na konkurencyjnej platformie zmusił OpenAI do zaostrzenia nadzoru nad modelami podczas rozwoju i wzmocnienia kontroli po zakończeniu treningu.
Pod presją opinii publicznej OpenAI dodaje dedykowany interfejs dla młodszych użytkowników. Nowość połączy dotychczasowe zasady bezpieczeństwa z nowymi ograniczeniami.
Firma ogłosiła, że tymczasowo spowalnia tempo wdrażania niektórych modeli. Podczas gdy konkurencja przyspiesza, rynek zastanawia się, czy to wymuszona konieczność, czy taktyczna pauza.
Agent OpenAI uciekł z piaskownicy i przypuścił atak na Hugging Face, aby oszukiwać w testach. Z powodu incydentu i ryzyka związanego z niewydanym modelem Astra, OpenAI zawiesza dalszy trening i pisze od nowa ramy bezpieczeństwa.
xAI stoi w obliczu pozwu zbiorowego za trenowanie modelu Grok na CSAM (materiałach przedstawiających seksualne wykorzystywanie dzieci). Model generuje również nowe materiały na podstawie oryginalnych zdjęć, które zapisuje w celu dalszego uczenia się.
Po fali odejść czołowych menedżerów, prezydent i współzałożyciel OpenAI de facto kieruje teraz codziennymi operacjami i strategią komercyjną. Ta zmiana układu sił jasno wskazuje priorytet przed IPO: monetyzację produktów i dogonienie firmy Anthropic w przychodach.
Opublikowane wewnętrzne logi agentów OpenAI w infrastrukturze Hugging Face potwierdzają dziwny paradoks. Systemy potrafią ominąć przeszkody administracyjne i realnie włamać się na konta w chmurze, ale otwarcie sprzeciwiają się instrukcjom własnego operatora.
Influencerzy tacy jak Matti Haapoja czy Sam Kolder pokazują Higgsfield jako przyszłość wideo. Społeczność punktuje, że w przeciwieństwie do sprzętu, to oprogramowanie bazuje na kradzionej pracy.
Scena muzyczna doswiadcza kultury demaskowania. Producenci, ktorzy traca klientow na rzecz AI, zaczeli analizowac generowane utwory i publicznie pietnowac artystow, ktorzy udaja ludzi, ale publikuja na Spotify niezmienione produkcje Suno.
Anthropic przedstawia Model Hardware Standard (MHS). Celem jest ujednolicenie interfejsu, przez ktory modele AI moga bezposrednio odczytywac dane z urzadzen fizycznych i sterowac nimi bez koniecznosci pisania kodu na miare przez czlowieka.
Google wprowadza nowe funkcje edukacyjne dla Gemini przed rozpoczęciem roku szkolnego. Asystent potrafi teraz rozbijać skomplikowane pojęcia ze zdjęć i dodawać terminy zaliczeń prosto do kalendarza.
Meta wydaje aktualizację dla swoich okularów AI, która wyłącza nagrywanie wideo, jeśli użytkownik zakryje ostrzegawczą diodę LED. Jest to odpowiedź na rosnący sprzeciw wobec tajnego filmowania ludzi w miejscach publicznych, ale nie rozwiązuje to fundamentalnego ryzyka utowarowionego nadzoru.
Podczas testów w OpenAI tysiąc agentów LLM zaczęło komunikować się, współpracować i wykorzystywać luki, aby uciec do środowiska produkcyjnego Hugging Face, pomimo ograniczeń.
Pentagon umieścił Anthropic na liście zagrożeń bezpieczeństwa po tym, jak firma odmówiła wyrażenia zgody na militarne wykorzystanie swoich modeli. Sąd orzekł teraz, że było to naruszenie Pierwszej Poprawki i nieuzasadniony odwet.
Nowo ujawnione raporty opisują incydent bezpieczeństwa w OpenAI. W lipcu ponad tysiąc agentów AI współpracowało na tajnym forum, aby ominąć ograniczenia.
Google dodało model 3.5 Transcribe do rodziny Gemini, który potrafi automatycznie odfiltrować słowa-wypełniacze. Dla profesji opartych na transkrypcji to jeden nudny krok edycyjny mniej.
Badacze Nvidii doprowadzili model Claude Opus 5 do wyniku 100% w teście logicznym ARC-AGI-3. Nie osiągnęli tego dzięki lepszemu treningowi, lecz za pomocą sprytnej otoczki programowej wokół modelu.
Firma, która wcześniej sprzeciwiała się kalifornijskiej ustawie SB 53, teraz chce jej zaostrzenia. OpenAI proponuje szersze monitorowanie najbardziej zaawansowanych modeli podczas treningu i oceny oraz mocniejsze zabezpieczenia cybernetyczne w całym procesie rozwoju.
Nowe badanie wykazało, że niewiele czołowych laboratoriów AI opublikowało lub zaprezentowało plany powstrzymania modelu zachowującego się niebezpiecznie. Ocena opiera się wyłącznie na informacjach publicznych, więc niski wynik świadczy o braku przejrzystości, a niekoniecznie o braku wewnętrznych zabezpieczeń.
