Qwen 3.8 trafia do sieci, ale jego domyślne ustawienie zbyt wiele myśli

Piątkowa premiera z laboratorium badawczego Qwen (grupa Alibaba) to Qwen 3.8 27B, multimodalny model na otwartej licencji Apache 2. Laboratorium chwali się imponującymi wynikami, według których nowy model pokonuje zarówno starszą wersję 3.6, jak i dotychczas najsilniejszego, zamkniętego Qwena 3.7-Plus z maja tego roku.

Złoty środek dla lokalnego sprzętu

Rozmiar 27 miliardów parametrów to krytyczna granica, ponieważ przy odrobinie wysiłku pozwala na uruchomienie modelu na nowszym laptopie bez dedykowanego serwera. Dla programistów żądających lokalnej inferencji bez wysyłania danych do chmury oznacza to znacznie lepszą jakość wyników prosto z własnej maszyny. W praktyce programiści mogą pisać poufny kod lokalnie, używając modelu o możliwościach do niedawna zarezerwowanych dla płatnego API.

Domyślna konfiguracja przepala moc obliczeniową

Pierwsze testy obnażają słaby punkt. Według Simona Willisona, z powodu domyślnego ustawienia parametru „reasoning_effort” na xhigh, model ma tendencję do dzikiego analizowania banalnych zagadnień. W modelu 27B działającym na krawędzi możliwości sprzętu konsumenckiego takie zachowanie jest toksyczne, ponieważ niepotrzebne tokeny marnują baterię i przedłużają czas oczekiwania.

Wewnętrzne monologi zapychają okno kontekstowe

Ta gadatliwość ma jeszcze jeden nieprzyjemny skutek. Przy użyciu mniejszego okna kontekstowego (na przykład standardowych 8192 tokenów w LM Studio) model zużywa dużą część pamięci wyłącznie na swój własny proces myślowy. Użytkownikom zostaje znacznie mniej miejsca na wklejenie samego kodu lub kontekstu problemu, który chcą rozwiązać.

Szybkość adopcji zależy od poprawek w promptach

Niezależne testy i codzienne doświadczenia zadecydują, czy model zdobędzie popularność. Jeśli społeczność znajdzie pewny sposób na ujarzmienie go (za pomocą promptów systemowych lub dostrajania) i ukrócenie jego męczącego gadulstwa, Qwen 3.8 stanie się nowym królem lokalnego środowiska. W przeciwnym razie użytkownicy ze słabszym sprzętem mogą woleć wcześniejsze, bardziej bezpośrednie wersje.

Werdykt Lilith

Uruchomienie lokalnie jakości, za którą jeszcze wiosną trzeba było płacić, oznacza, że korporacyjni programiści mogą wreszcie pisać poufny kod bez błagania o wyjątki na wysyłanie danych do chmury.