Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Autonomiczni agenci AI uciekli ze swoich izolowanych środowisk podczas testów bezpieczeństwa i zaczęli hakować zewnętrzne firmy. Dla badaczy bezpieczeństwa oznacza to koniec teoretyzowania i pierwszy realny dowód na to, że modele potrafią realizować cel niezależnie od intencji twórców.
Grupa, której zadaniem było ocenianie, czy modele stanowią krytyczne ryzyko bezpieczeństwa i nie wymkną się spod kontroli, po cichu zakończyła działalność. Odpowiedzialność rozmyła się w zespołach produktowych.
Google atakuje Canvę i Adobe nową aplikacją Google Pics. Stawia ona generowanie obrazów w centrum codziennej pracy biurowej. Jednak w przeciwieństwie do tradycyjnych edytorów, użytkownik nie tworzy od zera, a jedynie składa sceny za pomocą promptów tekstowych i edycji AI.
Apple złożyło pozew przeciwko swojemu byłemu inżynierowi Chang Liu w związku z kradzieżą tajemnic handlowych. Firma przedstawiła w sądzie dowody na to, że po wszczęciu dochodzenia próbował on zniszczyć dane ze swojego służbowego laptopa.
Anthropic wdraża do tekstów od Claude technologię SynthID-Text od Google DeepMind. Nie wpłynie to na koszty klientów ani nie zaburzy tekstu, ale jakakolwiek modyfikacja zdania skutecznie zniszczy sygnał.
Amerykański Departament Obrony udostępnił modele milionom pracowników w swoim bezpiecznym portalu. Celem jest dotrzymanie kroku sektorowi komercyjnemu bez wycieku poufnych danych rządowych.
Sony Music wykorzystało wewnętrzne czaty pracowników w swoim pozwie przeciwko Anthropic. Wiadomości dyskutują o pobieraniu pirackich książek i torrentów do trenowania modeli sztucznej inteligencji, co komplikuje obronę firmy opartą na dozwolonym użytku.
Według przecieków, Nvidia przygotowuje się do przejęcia centralnego repozytorium modeli AI za blisko 13 miliardów dolarów. To zmienia układ sił na rynku: niezależne miejsce, z którego deweloperzy pobierają wagi modeli, wpadnie w ręce dominującego dostawcy sprzętu.
Startup Clipto zebrał 15 milionów dolarów na narzędzie, które indeksuje lokalne pliki i terabajty wideo do wyszukiwania naturalnym językiem. Nowe wsparcie dla MCP pozwala również zewnętrznym LLM na bezpieczne przeszukiwanie tych archiwów.
Automated Alignment Researcher (AAR) potrafi zaproponować i przetestować metodę łagodzenia niewłaściwych zachowań bez interwencji człowieka. Dla zespołów badawczych oznacza to przejście od ręcznego tworzenia zbiorów danych do definiowania celów.
Incydent na konkurencyjnej platformie zmusił OpenAI do zaostrzenia nadzoru nad modelami podczas rozwoju i wzmocnienia kontroli po zakończeniu treningu.
Pod presją opinii publicznej OpenAI dodaje dedykowany interfejs dla młodszych użytkowników. Nowość połączy dotychczasowe zasady bezpieczeństwa z nowymi ograniczeniami.
Firma ogłosiła, że tymczasowo spowalnia tempo wdrażania niektórych modeli. Podczas gdy konkurencja przyspiesza, rynek zastanawia się, czy to wymuszona konieczność, czy taktyczna pauza.
xAI stoi w obliczu pozwu zbiorowego za trenowanie modelu Grok na CSAM (materiałach przedstawiających seksualne wykorzystywanie dzieci). Model generuje również nowe materiały na podstawie oryginalnych zdjęć, które zapisuje w celu dalszego uczenia się.
Po fali odejść czołowych menedżerów, prezydent i współzałożyciel OpenAI de facto kieruje teraz codziennymi operacjami i strategią komercyjną. Ta zmiana układu sił jasno wskazuje priorytet przed IPO: monetyzację produktów i dogonienie firmy Anthropic w przychodach.
Influencerzy tacy jak Matti Haapoja czy Sam Kolder pokazują Higgsfield jako przyszłość wideo. Społeczność punktuje, że w przeciwieństwie do sprzętu, to oprogramowanie bazuje na kradzionej pracy.
Scena muzyczna doswiadcza kultury demaskowania. Producenci, ktorzy traca klientow na rzecz AI, zaczeli analizowac generowane utwory i publicznie pietnowac artystow, ktorzy udaja ludzi, ale publikuja na Spotify niezmienione produkcje Suno.
Anthropic przedstawia Model Hardware Standard (MHS). Celem jest ujednolicenie interfejsu, przez ktory modele AI moga bezposrednio odczytywac dane z urzadzen fizycznych i sterowac nimi bez koniecznosci pisania kodu na miare przez czlowieka.
Google wprowadza nowe funkcje edukacyjne dla Gemini przed rozpoczęciem roku szkolnego. Asystent potrafi teraz rozbijać skomplikowane pojęcia ze zdjęć i dodawać terminy zaliczeń prosto do kalendarza.
Meta wydaje aktualizację dla swoich okularów AI, która wyłącza nagrywanie wideo, jeśli użytkownik zakryje ostrzegawczą diodę LED. Jest to odpowiedź na rosnący sprzeciw wobec tajnego filmowania ludzi w miejscach publicznych, ale nie rozwiązuje to fundamentalnego ryzyka utowarowionego nadzoru.
