Parakeet přepíše hodinu záznamu na Macu za 20 až 40 sekund. Hugging Face ho schoval pod API od Applu

Hugging Face vydal dva open source balíčky pro Swift, které pouštějí AI modely přímo na zařízeních Apple. Pro vývojáře aplikací je hlavní zpráva prostá: změní jeden import a přepis řeči poběží na jiném modelu, bez odesílání zvuku do cloudu.

Rozhraní Applu zůstává, model pod ním jde vyměnit

macOS 26 a iOS 26 přinesly SpeechAnalyzer, nové API Applu pro převod řeči na text. Engine pod ním ale dodává jen Apple. AnySpeechRecognizer drží stejné rozhraní. Místo import Speech stačí napsat import AnySpeechRecognizer a vybrat jiný model: Parakeet od NVIDIA, jeho upravenou verzi Parakeet Ultra od Moondreamu nebo Qwen3-ASR od Alibaby. Všechny autoři převedli do Core ML.

Parakeet v3 rozpozná 25 evropských jazyků včetně češtiny a polštiny a jazyk pozná sám. Qwen3-ASR ve velikostech 0,6B a 1,7B zvládá 30 jazyků a 22 čínských dialektů, třeba japonštinu nebo kantonštinu. Balíček navíc umí rozlišit mluvčí přes model Sortformer od NVIDIA. Tuhle funkci Apple API nemá. Sleduje až čtyři lidi, i když si skáčou do řeči.

Druhý balíček, AnyDecisionModel, řeší jinou úlohu. Na otázku ano či ne, výběr z možností nebo škálu vrací typovaný výsledek a pravděpodobnost každé odpovědi. Odpověď čte rovnou z pravděpodobností modelu a žádný text negeneruje. Běží lokálně přes MLX, Core AI nebo llama.cpp, případně přes Ollamu nebo hostovanou službu Jev.

Přepis porad i třídění tiketů může zůstat v počítači

Autoři měřili na Macu Studio s čipem M4 Max. Parakeet podle nich přepíše hodinu zvuku ze souboru za 20 až 40 sekund a naživo za 1,5 až 2,5 minuty. Stačí mu asi 100 MB paměti. Na sadě LibriSpeech test-clean měl Parakeet v3 chybovost 1,55 % slov, vestavěný přepis Applu 2,12 %.

Firmy, které nesmějí posílat nahrávky hovorů do cizího cloudu, tu dostávají praktickou cestu. Zákaznická linka, zápis z porady nebo diktát můžou běžet v aplikaci a zvuk zůstane v zařízení. AnyDecisionModel k tomu přidává druhý krok. Aplikace nemusí rozebírat text od jazykového modelu a dostane číslo. Na něm jde postavit jednoduché pravidlo, třeba že nejisté tikety půjdou k člověku.

Na poradách chybí přes 23 % slov a licence se liší model od modelu

Na nahrávkách porad ze sady AMI, kde si lidé skáčou do řeči, měly všechny testované modely chybovost nad 23 %. Autoři sami píšou, že měřili na jednom stroji a pár datových sadách. Zatím testovali jen macOS 27, ne iPhone. AnySpeechRecognizer má verzi 0.1.0, jde tedy o rané vydání.

Pozor i na licence. Parakeet v3 a Qwen3-ASR mají licence CC BY 4.0 a Apache 2.0. Parakeet Unified a Sortformer v2.1 ale spadají pod NVIDIA Open Model License, takže je potřeba číst podmínky. U AnyDecisionModel autoři varují, že surové pravděpodobnosti jazykových modelů bývají přehnaně sebejisté. Hodnota confidence ukazuje, jak moc se pravděpodobnost soustředí na jednu odpověď. Jestli je odpověď správná, z ní nevyčtete. Kalibraci je proto nutné nastavit na vlastních datech.

Rozhodne test na iPhonu a modely s vlastní rozhodovací hlavou

Autoři chtějí přidat další enginy, mimo jiné Core AI na macOS 27 a iOS 27. Teprve měření na telefonu ukáže, jestli lokální přepis unese baterii a paměť mobilu. Qwen3-ASR potřebuje několik gigabajtů paměti a stahuje 0,9 až 2,4 GB.

U rozhodování stojí za sledování modely s natrénovanou rozhodovací hlavou, jako je Clef od Cloudflaru. Varianta Clef-Flash má 9B parametrů a ve 4bitové podobě stahuje 6,2 GB. Pokud se takové modely uchytí, aplikace se přestanou vyptávat chatbota. Zeptají se klasifikátoru, který umí dát najevo, že si není jistý.

Lilithin verdikt

Hugging Face nechal Applu volant i palubní desku a vyměnil jen motor, k tomu přibalil zapisovatelku, která rozezná čtyři hlasy. Na poradě, kde si lidé skáčou do řeči, jí ale pořád uteče skoro čtvrtina slov, takže zápis zatím podepisuje člověk.