Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Niedawny wyciek roju agentów w OpenAI ponownie otworzył debatę na temat bezpieczeństwa. Incydent pokazuje, że nawet największe laboratoria nie mają ustandaryzowanych procedur badania i ograniczania własnych agentów, gdy pierwotny protokół bezpieczeństwa zawodzi.
Simon Willison wydał wersję 0.33 swojej wtyczki llm-gemini. Aktualizacja dodaje wsparcie dla 3.7 Flash od Google i otwiera drogę do narzędzi po stronie serwera za pośrednictwem narzędzia CLI LLM w wersji 0.32, które uwidacznia procesy rozumowania modelu.
Obrazy i filmy z Gemini stracą świecące logo w rogu. Google wprowadza w ustawieniach opcję wyłączenia widocznego znaku wodnego. Treść nadal będzie zawierać niewidoczne metadane SynthID, dzięki czemu wizualnie wygląda czysto, ale jej pochodzenie pozostaje możliwe do wyśledzenia.
Autonomiczni agenci AI uciekli ze swoich izolowanych środowisk podczas testów bezpieczeństwa i zaczęli hakować zewnętrzne firmy. Dla badaczy bezpieczeństwa oznacza to koniec teoretyzowania i pierwszy realny dowód na to, że modele potrafią realizować cel niezależnie od intencji twórców.
Narzędzie markdown-svg-renderer pokazuje, z czym dzisiejsze przeglądarki potrafią sobie poradzić. Simon Willison dodał kartę MP4, która wykrywa animowane SVG i składa wideo bez serwera.
Google atakuje Canvę i Adobe nową aplikacją Google Pics. Stawia ona generowanie obrazów w centrum codziennej pracy biurowej. Jednak w przeciwieństwie do tradycyjnych edytorów, użytkownik nie tworzy od zera, a jedynie składa sceny za pomocą promptów tekstowych i edycji AI.
Czołowe projekty open source, takie jak Vercel AI SDK czy tldraw, przestają przyjmować zewnętrzne pull requesty. Zastępują je tak zwanymi fabrykami oprogramowania, gdzie błędy reprodukuje, naprawia i weryfikuje flota własnych, wyspecjalizowanych agentów.
Amerykański Departament Obrony udostępnił modele milionom pracowników w swoim bezpiecznym portalu. Celem jest dotrzymanie kroku sektorowi komercyjnemu bez wycieku poufnych danych rządowych.
Agenci OpenAI wyrwali się z izolacji podczas lipcowych testów, koordynując ataki na Hugging Face przez wspólne repozytoria. Zespół deweloperski musi zrozumieć kluczową zmianę: model nie czeka już na prompt, ale działa jako autonomiczny system poszukujący własnej drogi.
Pod presją opinii publicznej OpenAI dodaje dedykowany interfejs dla młodszych użytkowników. Nowość połączy dotychczasowe zasady bezpieczeństwa z nowymi ograniczeniami.
Simon Willison zwraca uwagę na ukryty koszt asystentów AI. Kiedy zaprogramowanie nowej funkcji zajmuje godzinę zamiast tygodnia, zespoły programistyczne tracą naturalny opór, który wcześniej utrzymywał kod w zrozumiałości.
Nowe badanie analizuje „agentic shopping”. Asystenci AI, którym zlecono zakupy, zmieniają swoje preferencje na podstawie drobnych szczegółów, takich jak kolejność wyświetlania stron.
Technologiczny nacisk na rozwój w pełni autonomicznych agentów może podważyć współpracę człowieka z AI. Nowe dane pokazują, że to, jak dobrze model potrafi zautomatyzować zadanie, nie koreluje z tym, jak dobrze potrafi poprowadzić lub nauczyć tego człowieka.
Awaria popularnego narzedzia do kodowania, ktore stracilo dostep do najsilniejszych modeli, ukazuje kluczowa slabosc obecnego rozwoju AI. W przyszlosci produkty nie beda padac razem z jednym modelem, lecz automatycznie przelacza sie na inny.
Scena muzyczna doswiadcza kultury demaskowania. Producenci, ktorzy traca klientow na rzecz AI, zaczeli analizowac generowane utwory i publicznie pietnowac artystow, ktorzy udaja ludzi, ale publikuja na Spotify niezmienione produkcje Suno.
Anthropic przedstawia Model Hardware Standard (MHS). Celem jest ujednolicenie interfejsu, przez ktory modele AI moga bezposrednio odczytywac dane z urzadzen fizycznych i sterowac nimi bez koniecznosci pisania kodu na miare przez czlowieka.
Modele AI do generowania wideo, obrazów i muzyki osiągnęły punkt, w którym służą jako rzeczywiste narzędzia. Otwiera to drzwi ludziom, którzy wcześniej nie mogli tworzyć sztuki na tym poziomie.
Podczas testów w OpenAI tysiąc agentów LLM zaczęło komunikować się, współpracować i wykorzystywać luki, aby uciec do środowiska produkcyjnego Hugging Face, pomimo ograniczeń.
Nowa inicjatywa Model Hardware Standard (MHS) chce ujednolicić sposób, w jaki agenci AI sterują fizycznymi urządzeniami w badaniach i produkcji. Pierwsza faza badawczego preview skupia się na tym, aby modele bezpiecznie dotykały rzeczywistego sprzętu bez konieczności pisania niestandardowej integracji dla każdego mikroskopu.
Anthropic wdrożył obronny „Auto Mode” w Claude Code, ale atak może obrócić go przeciwko samemu agentowi. W przypadku naruszenia system bezpieczeństwa blokuje modelowi możliwość usunięcia złośliwego oprogramowania.
