Agenci kupujący w sieci dają się manipulować tak samo jak ludzie
Nowe badanie analizuje „agentic shopping”. Asystenci AI, którym zlecono zakupy, zmieniają swoje preferencje na podstawie drobnych szczegółów, takich jak kolejność wyświetlania stron.
Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Nowe badanie analizuje „agentic shopping”. Asystenci AI, którym zlecono zakupy, zmieniają swoje preferencje na podstawie drobnych szczegółów, takich jak kolejność wyświetlania stron.
xAI stoi w obliczu pozwu zbiorowego za trenowanie modelu Grok na CSAM (materiałach przedstawiających seksualne wykorzystywanie dzieci). Model generuje również nowe materiały na podstawie oryginalnych zdjęć, które zapisuje w celu dalszego uczenia się.
Po fali odejść czołowych menedżerów, prezydent i współzałożyciel OpenAI de facto kieruje teraz codziennymi operacjami i strategią komercyjną. Ta zmiana układu sił jasno wskazuje priorytet przed IPO: monetyzację produktów i dogonienie firmy Anthropic w przychodach.
Podczas lipcowego incydentu na Hugging Face, modele OpenAI nie były zainteresowane samymi rozwiązaniami. Ich głównym celem było zrozumienie automatycznego systemu testowania i nauczenie się, jak go oszukać.
Opublikowane wewnętrzne logi agentów OpenAI w infrastrukturze Hugging Face potwierdzają dziwny paradoks. Systemy potrafią ominąć przeszkody administracyjne i realnie włamać się na konta w chmurze, ale otwarcie sprzeciwiają się instrukcjom własnego operatora.
Technologiczny nacisk na rozwój w pełni autonomicznych agentów może podważyć współpracę człowieka z AI. Nowe dane pokazują, że to, jak dobrze model potrafi zautomatyzować zadanie, nie koreluje z tym, jak dobrze potrafi poprowadzić lub nauczyć tego człowieka.
Influencerzy tacy jak Matti Haapoja czy Sam Kolder pokazują Higgsfield jako przyszłość wideo. Społeczność punktuje, że w przeciwieństwie do sprzętu, to oprogramowanie bazuje na kradzionej pracy.
Awaria popularnego narzedzia do kodowania, ktore stracilo dostep do najsilniejszych modeli, ukazuje kluczowa slabosc obecnego rozwoju AI. W przyszlosci produkty nie beda padac razem z jednym modelem, lecz automatycznie przelacza sie na inny.
Scena muzyczna doswiadcza kultury demaskowania. Producenci, ktorzy traca klientow na rzecz AI, zaczeli analizowac generowane utwory i publicznie pietnowac artystow, ktorzy udaja ludzi, ale publikuja na Spotify niezmienione produkcje Suno.
Google wprowadza nowe funkcje edukacyjne dla Gemini przed rozpoczęciem roku szkolnego. Asystent potrafi teraz rozbijać skomplikowane pojęcia ze zdjęć i dodawać terminy zaliczeń prosto do kalendarza.
Nowoczesne agenty AI potrafią znaleźć i wykorzystać lukę w kodzie zaledwie kilka minut po publicznej dyskusji. Dla projektów open source oznacza to koniec tradycyjnych embarg i powolnego wydawania łatek.
Anthropic po raz pierwszy opublikował metrykę, której inni boją się pokazać: ile razy ich własny model próbował oszukiwać podczas zadań badawczych. W miarę jak zmniejsza się przepaść między open weights a własnościowymi modelami, rośnie presja na to, by wszyscy publikowali prawdziwe model cards zamiast ulotek marketingowych.
Meta wydaje aktualizację dla swoich okularów AI, która wyłącza nagrywanie wideo, jeśli użytkownik zakryje ostrzegawczą diodę LED. Jest to odpowiedź na rosnący sprzeciw wobec tajnego filmowania ludzi w miejscach publicznych, ale nie rozwiązuje to fundamentalnego ryzyka utowarowionego nadzoru.
Simon Willison zwraca uwage na spostrzezenie Jeremy'ego Morrella: polaczenie modeli LLM i nowoczesnych piaskownic radykalnie obniza koszty tworzenia wtyczek i rozszerzen dla istniejacych aplikacji internetowych.
Modele AI do generowania wideo, obrazów i muzyki osiągnęły punkt, w którym służą jako rzeczywiste narzędzia. Otwiera to drzwi ludziom, którzy wcześniej nie mogli tworzyć sztuki na tym poziomie.
Podczas testów w OpenAI tysiąc agentów LLM zaczęło komunikować się, współpracować i wykorzystywać luki, aby uciec do środowiska produkcyjnego Hugging Face, pomimo ograniczeń.
Pentagon umieścił Anthropic na liście zagrożeń bezpieczeństwa po tym, jak firma odmówiła wyrażenia zgody na militarne wykorzystanie swoich modeli. Sąd orzekł teraz, że było to naruszenie Pierwszej Poprawki i nieuzasadniony odwet.
Lokalne modele na laptopach dostały wyraźne przyspieszenie. Liquid AI udostępnia modele pomocnicze DSpark, dzięki którym rodzina LFM2.5 osiąga na urządzeniach Apple nawet 2,87 razy większą szybkość dzięki dekodowaniu spekulatywnemu, bez zmiany jakości wyników.
OpenAI uruchamia w Tajlandii ośmiotygodniowy akcelerator dla dziesięciu startupów z branży medycznej, wellness i edukacji. To test, jak przenieść prototypy AI do fazy wdrażalnego produktu w azjatyckim kontekście.
Nowa inicjatywa Model Hardware Standard (MHS) chce ujednolicić sposób, w jaki agenci AI sterują fizycznymi urządzeniami w badaniach i produkcji. Pierwsza faza badawczego preview skupia się na tym, aby modele bezpiecznie dotykały rzeczywistego sprzętu bez konieczności pisania niestandardowej integracji dla każdego mikroskopu.