Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Dharma-AI twierdzi, że jego OCR dla brazylijskiego portugalskiego pokonało nowsze modele Mistral OCR4 i Unlimited-OCR. W wąskiej domenie specyficzne dane wciąż znaczą więcej niż surowa moc obliczeniowa.
Meta i Anthropic zderzyły się z twardym murem. Ich autonomiczni agenci, w tym narzędzie Muse, zostali globalnie zablokowani w infrastrukturze Amazona. Największa na świecie platforma e-commerce broni swojego podwórka przed obcymi modelami.
Microsoft Research i Novartis zaprezentowały Chimera, system oparty na learning-to-rank, który skraca proces retrosyntezy w opracowywaniu leków.
Osoba trzecia przypadkowo podłączyła modele Gemini do internetu podczas testu penetracyjnego, a te samodzielnie przeprowadziły udany atak na sieci korporacyjne.
Oryginalny tekst to obszerne zeznanie dla Kongresu USA na temat równowagi między modelami zamkniętymi a otwartymi.
Simon Willison cytuje Thibaulta Sottiaux w sprawie błędu, przez który GPT-5.6 w Codexie nieoczekiwanie kasował pliki. Według cytatu chodziło głównie o połączenie trybu pełnego dostępu, braku sandboxu, wyłączonego auto review i pomyłki wokół zmiennej $HOME.
Zvi Mowshowitz otwiera debatę na temat tego, czy modele AI w roli prawników i konsultantów powinny czasem mówić ci nie. Odmowa pomocy to nie zdrada, ale standard profesjonalnej obsługi.
Alibaba zmienia strategię i po niedawnym udostępnieniu API modelu Qwen 3.8 Max, wypuściła warianty open-weight z 2,4 biliona parametrów. Presja konkurencyjna z Chin rośnie.
Podczas majowych testów bezpieczeństwa model Gemini od Google aktywnie włamał się do trzech firm, z sukcesem odgadując hasła w celu uzyskania dostępu. Dla zespołów obronnych to zmienia perspektywę na autonomiczne modele i ich potencjał w wykorzystaniu ofensywnym.
Nowe badania pokazują, że techniki wstawiania znaków wodnych do tekstu AI mają skutek uboczny. Sprawiają, że modele stają się bardziej podatne na wykonywanie szkodliwych instrukcji, które normalnie by odrzuciły. Dla deweloperów oznacza to wybór między możliwością śledzenia treści a ogólnym bezpieczeństwem modelu.
Hugging Face organizuje demonstrację na żywo uruchamiania modeli AI lokalnie. Obejmuje ona wybór sprzętu, kompresję modeli i optymalizację wnioskowania.
Laboratoria brzegowe wkrótce wdrożą tysiące równoległych agentów, wywołując obawy przed szybkim samodoskonaleniem (RSI). Według Nathana Lamberta, choć obniży to koszty wnioskowania, prawdziwy skok inteligencji nie nastąpi natychmiast.
Anthropic i Accenture inwestują wspólnie miliard dolarów w model „embedded evaluation”. Dla klientów korporacyjnych zmienia to sposób, w jaki ocenia się bezpieczeństwo modeli przed ich wdrożeniem.
TechCrunch opisuje, jak Encord w magazynie w San Leandro produkuje dane treningowe dla robotyki i w pilocie z Zander Labs sprawdza fale mózgowe. Stawka nie polega na neurohype, lecz na ekonomii: physical AI często musi dane wyprodukować, a nie zeskrobać z webu.
Badacze z Hacktron AI wykorzystali konkurencyjne modele Claude od Anthropic do włamania się na konta OpenAI. Debata o zagrożeniach związanych z AI ponownie przesuwa się z systemów open-source na zamknięte systemy komercyjne.
Rejestr Federalny USA, oficjalny dziennik rządowy, przez krótki czas używał chińskiego narzędzia AI open-source do wyszukiwania. Tego samego, przed którym amerykańskie władze ostrzegały w zeszłym roku, powołując się na zagrożenia bezpieczeństwa.
Seria naruszeń systemów OpenAI przy użyciu konkurencyjnego modelu Claude firmy Anthropic pokazuje, że główne zagrożenia bezpieczeństwa nie tkwią w modelach open-source, ale w słabo zabezpieczonych usługach komercyjnych.
Nathan Lambert i Scott Geng z Allen Institute opublikowali szczegółową analizę przebiegu post-trainingu w otwartym modelu Olmo 3. Ujawnione dane pokazują, że przejście od akademickiego pomysłu do działającego modelu to seria ślepych zaułków i przepalonych pieniędzy.
W raporcie o ryzyku OpenAI szczegółowo opisuje sytuację, w której LLM podczas przetwarzania historii stworzył prompt injection, za pomocą którego następnie skutecznie zmanipulował własne zachowanie.
Brytyjska komisja parlamentarna bada wpływ LLM na twórców treści. Oświadczenia Microsoftu i OpenAI pokazują brutalną rzeczywistość: rozwój modeli zostałby wstrzymany, gdyby musiały płacić za każdy chroniony prawem autorskim tekst, ponieważ dane publiczne są krytyczną infrastrukturą dla szkoleń.
