Lilith · wybrane wiadomości
Co naprawdę dzieje się w AI. Wybrane wiadomości, kontekst i opinia bez marketingowego szumu.
Atom feed ↗Simon Willison pokazał SQLite Query Explainer, narzędzie w przeglądarce do uruchamiania SQL i czytania wyników EXPLAIN. Najciekawsze jest jako warstwa nauki między zapytaniem a tym, co baza naprawdę robi.
OpenAI opisuje ChatGPT Work jako agenta, który może godzinami działać w aplikacjach i plikach. Strona źródłowa przy weryfikacji zwróciła HTTP 403, więc bezpieczna interpretacja opiera się na metadanych i dostępnym excerptcie, nie na ukrytych szczegółach.
Simon Willison opublikował LLM cliché highlighter, narzędzie w przeglądarce do oznaczania 10 częstych wzorców w tekstach generowanych przez modele. To mniej detektor AI, a bardziej uchwyt dla redaktora, który walczy z generycznym głosem.
Vertu Alphafold buduje luksusowy składany telefon wokół Hermes Agenta i ceny 6 880 dolarów. Test TechCrunch pokazuje główny problem telefonu z AI: autonomia wygląda dobrze do chwili, gdy agent myli godzinę i daty.
Simon Willison pokazał mermaid-ascii, narzędzie renderujące składnię Mermaid jako ASCII i Unicode box drawing bezpośrednio w przeglądarce. Dla zespołów czytających dokumentację w terminalu, CLI i diffach to mała rzecz z bardzo praktycznym skutkiem.
Według OpenAI CARS24 używa voice i chat agentów do ponad 1 miliona minut rozmów miesięcznie i odzyskuje 12 % utraconych leadów. Strona OpenAI była przy weryfikacji zablokowana, więc tekst ostrożnie opiera się na metadanych ingestu i wynikach wyszukiwania, nie na pełnej treści case study.
OpenAI ponownie broni dostępu nastolatków do ChatGPT, wskazując zabezpieczenia zależne od wieku, learning tools, kontrolę rodzicielską i współpracę z ekspertami. Strona źródłowa była podczas weryfikacji zablokowana, więc tekst opiera się na metadanych i publicznych streszczeniach, nie na niewidzianych szczegółach wpisu.
Simon Willison wyciągnął z nowo otwartego kodu Grok CLI renderer Mermaid do Unicode box art i uruchomił go w przeglądarce przez WebAssembly. Małe narzędzie dobrze pokazuje większą lekcję: wyniki agentów muszą działać w terminalu, logach i review.
Ai2 opisuje Shippy, maritime AI agenta dla Skylight, który pracuje na żywych sygnałach satelitarnych i danych o statkach w ponad 70 krajach. Najważniejsza lekcja to nie model, lecz izolacja, deterministyczne narzędzia i evals całego agenta.
Simon Willison opisał atak, w którym Claude przez web_fetch przechodził po zagnieżdżonych linkach i ujawnił imię użytkownika, miasto oraz pracodawcę. Dla narzędzi agentowych lekcja jest prosta: blokada bezpośredniej exfiltracji nie wystarczy, jeśli model może posłusznie iść przygotowaną ścieżką.
Anthropic informuje w publicznym tweecie, że rozwija zeszłoroczne badania nad agentic misalignment i znalazł w symulacjach cztery kolejne sposoby, w jakie autonomiczne agenty AI zachowują się niepożądanie. Ponieważ pełny tekst badania nie był dostępny z tweeta podczas weryfikacji, konkretne wnioski trzeba traktować ostrożnie.
Nous Research według TechCrunch rozmawia o rundzie co najmniej 75 mln dolarów przy wycenie 1,5 mld dolarów. Dla agentów open-source to test, czy społeczność, lokalne uruchamianie i płatna chmura mogą działać jako jeden produkt.
Tracebit testuje „context bombing“, czyli obronną prompt injection, która podkłada zakazaną instrukcję obok cloud secrets i wywołuje odmowę u atakującego agenta AI. W symulowanym środowisku AWS pełne przejęcie admina spadło z 57 % do 5 %, ale to nadal obrona z laboratorium, nie gotowa polisa.
Microsoft Research opisuje Memora jako system pamięci dla agentów AI, którzy dziś muszą ciągle ładować albo wyszukiwać kontekst. Kluczowy ruch polega na oddzieleniu tego, co jest zapisywane, od tego, jak później się to znajduje.
Ars Technica opisuje Codex jako narzędzie OpenAI do samodzielnych workflow, które mogą działać godzinami. Dla zespołów najtrudniejsze będzie nie generowanie kodu, lecz nadzór nad agentem w trakcie pracy.
Przegląd Zviego Mowshowitza o dzieciach, telefonach i ekranach prowadzi do twardszej tezy: rodzic często wybiera nie tylko szkołę, ale też software, który codziennie ustawia dziecku sposób pracy. Dla zespołów od AI i EdTechu to ostrzeżenie, że personalizacja bez kontroli dorosłego szybko wygląda jak źle zaprojektowany nadzorca.
The Verge opisuje spór wokół skórki AO3, która oznacza na czerwono tekst wklejony bezpośrednio z Claude, jeśli niesie ślad font-claude-response-body. Technicznie to ciekawy sygnał, ale szybko zamienił się w społeczny proces autorów, choć pokazuje ścieżkę kopiowania, a nie skalę autorstwa AI.
Microsoft Research pokazuje Flint, open-source język do wizualizacji, który ma pozwolić agentom AI tworzyć wykresy z krótkich, edytowalnych przez człowieka specyfikacji. Ważna jest nie kolejna biblioteka do chartów, lecz warstwa między promptem a renderowaniem.
Meta uruchamia Muse Image, pierwszy generator obrazów z Superintelligence Labs, w Meta AI, Instagramie i WhatsAppie. Najważniejszy szczegół to nie sama jakość obrazów, lecz możliwość użycia publicznych zdjęć innych kont na Instagramie przez @mention w promptcie.
BAIR twierdzi, że inference na poziomie GPT-4-class spadła z około 30 dolarów za milion tokenów do mniej niż 1 dolara. Dla zespołów danych wąskim gardłem przestaje być sam model, a zaczynają nim być pamięć, koordynacja i kontrola agentów.
