Parakeet przepisuje godzinę nagrania na Macu w 20 do 40 sekund. Hugging Face schował go pod API Apple

Hugging Face wydał dwa pakiety open source dla Swifta, które uruchamiają modele AI bezpośrednio na urządzeniach Apple. Dla twórców aplikacji najważniejsze jest to, że wystarczy zmienić jeden import, by rozpoznawanie mowy działało na innym modelu, bez wysyłania dźwięku do chmury.

Interfejs Apple zostaje, model pod spodem można wymienić

macOS 26 i iOS 26 przyniosły SpeechAnalyzer, nowe API Apple do zamiany mowy na tekst. Silnik pod nim dostarcza jednak tylko Apple. AnySpeechRecognizer zachowuje ten sam interfejs. Zamiast import Speech wystarczy wpisać import AnySpeechRecognizer i wybrać inny model: Parakeet od NVIDII, jego dotrenowaną wersję Parakeet Ultra od Moondream albo Qwen3-ASR od Alibaby. Autorzy przekonwertowali wszystkie do Core ML.

Parakeet v3 rozpoznaje 25 języków europejskich, w tym czeski i polski, i sam wykrywa język. Qwen3-ASR w rozmiarach 0,6B i 1,7B obsługuje 30 języków i 22 dialekty chińskie, na przykład japoński czy kantoński. Pakiet dodaje też rozpoznawanie mówców przez model Sortformer od NVIDII. Tej funkcji API Apple nie ma. Śledzi do czterech osób, nawet gdy wchodzą sobie w słowo.

Drugi pakiet, AnyDecisionModel, robi coś innego. Na pytanie typu tak lub nie, wybór z listy albo skalę ocen zwraca typowany wynik i prawdopodobieństwo każdej odpowiedzi. Odpowiedź odczytuje wprost z prawdopodobieństw modelu i nie generuje żadnego tekstu. Działa lokalnie przez MLX, Core AI albo llama.cpp, a także przez Ollamę lub hostowaną usługę Jev.

Transkrypcja spotkań i sortowanie zgłoszeń mogą zostać na komputerze

Autorzy mierzyli na Macu Studio z czipem M4 Max. Według nich Parakeet przepisuje godzinę dźwięku z pliku w 20 do 40 sekund, a na żywo w 1,5 do 2,5 minuty, zużywając około 100 MB pamięci. Na zbiorze LibriSpeech test-clean Parakeet v3 miał 1,55 % błędnych słów, wbudowana transkrypcja Apple 2,12 %.

Firmy, które nie mogą wysyłać nagrań rozmów do cudzej chmury, dostają tu praktyczne rozwiązanie. Infolinia, notatki ze spotkania czy dyktowanie mogą działać w aplikacji, a dźwięk zostaje na urządzeniu. AnyDecisionModel dokłada drugi krok. Aplikacja nie musi parsować tekstu z modelu językowego, tylko dostaje liczbę. Na niej da się oprzeć prostą regułę, na przykład że niepewne zgłoszenia trafiają do człowieka.

Na spotkaniach ginie ponad 23 % słów, a licencje różnią się między modelami

Na nagraniach spotkań ze zbioru AMI, gdzie ludzie wchodzą sobie w słowo, każdy testowany model miał ponad 23 % błędnych słów. Autorzy sami piszą, że mierzyli na jednej maszynie i kilku zbiorach danych. Na razie testowali tylko macOS 27, nie iPhone'a. AnySpeechRecognizer ma wersję 0.1.0, to więc wczesne wydanie.

Uwaga też na licencje. Parakeet v3 i Qwen3-ASR mają licencje CC BY 4.0 i Apache 2.0. Parakeet Unified i Sortformer v2.1 podlegają jednak NVIDIA Open Model License, więc warunki trzeba przeczytać. Przy AnyDecisionModel autorzy ostrzegają, że surowe prawdopodobieństwa modeli językowych bywają przesadnie pewne siebie. Wartość confidence pokazuje, jak mocno prawdopodobieństwo skupia się na jednej odpowiedzi. Nie mówi, czy odpowiedź jest trafna. Kalibrację trzeba więc dopasować na własnych danych.

Rozstrzygnie test na iPhonie i modele z własną głowicą decyzyjną

Autorzy chcą dodać kolejne silniki, w tym Core AI na macOS 27 i iOS 27. Dopiero pomiary na telefonie pokażą, czy lokalna transkrypcja zmieści się w baterii i pamięci smartfona. Qwen3-ASR potrzebuje kilku gigabajtów pamięci i pobiera od 0,9 do 2,4 GB.

Po stronie decyzji warto obserwować modele z wytrenowaną głowicą decyzyjną, takie jak Clef od Cloudflare. Wariant Clef-Flash ma 9B parametrów i w wersji 4-bitowej waży 6,2 GB. Jeśli takie modele się przyjmą, aplikacje przestaną wypytywać chatbota. Zapytają klasyfikator, który umie zasygnalizować, że nie jest pewien.

Werdykt Lilith

Hugging Face zostawił Apple kierownicę i deskę rozdzielczą, wymienił tylko silnik i dorzucił protokolantkę, która rozróżnia cztery głosy. Na spotkaniu, gdzie wszyscy wchodzą sobie w słowo, wciąż gubi prawie jedną czwartą słów, więc protokół na razie podpisuje człowiek.