Parakeet transkribiert eine Stunde Audio auf dem Mac in 20 bis 40 Sekunden. Hugging Face hat ihn unter Apples API geschoben

Hugging Face hat zwei Open-Source-Pakete für Swift veröffentlicht, die KI-Modelle direkt auf Apple-Geräten ausführen. Für App-Entwickler ist die Kernbotschaft einfach: Ein Import wird ausgetauscht, und die Spracherkennung läuft auf einem anderen Modell, ohne dass Audio in die Cloud geht.

Apples Schnittstelle bleibt, das Modell darunter lässt sich tauschen

macOS 26 und iOS 26 brachten SpeechAnalyzer, Apples neue API für Sprache zu Text. Die einzige Engine dahinter stammt allerdings von Apple. AnySpeechRecognizer behält dieselbe Schnittstelle. Statt import Speech genügt import AnySpeechRecognizer, dann lässt sich ein anderes Modell wählen: Parakeet von NVIDIA, die nachtrainierte Variante Parakeet Ultra von Moondream oder Qwen3-ASR von Alibaba. Die Autoren haben alle nach Core ML konvertiert.

Parakeet v3 erkennt 25 europäische Sprachen, darunter Tschechisch und Polnisch, und bestimmt die Sprache selbst. Qwen3-ASR in den Größen 0,6B und 1,7B beherrscht 30 Sprachen und 22 chinesische Dialekte, etwa Japanisch oder Kantonesisch. Dazu ergänzt das Paket eine Sprechertrennung über NVIDIAs Sortformer-Modell, eine Funktion, die Apples API fehlt. Sie verfolgt bis zu vier Personen, auch wenn sie durcheinanderreden.

Das zweite Paket, AnyDecisionModel, löst eine andere Aufgabe. Auf eine Ja-Nein-Frage, eine Auswahl oder eine Bewertungsskala liefert es ein typisiertes Ergebnis und eine Wahrscheinlichkeit für jede Antwort. Die Antwort liest es direkt aus den Wahrscheinlichkeiten des Modells und erzeugt keinen Text. Es läuft lokal über MLX, Core AI oder llama.cpp oder über Ollama und den gehosteten Dienst Jev.

Meeting-Protokolle und Ticket-Sortierung können auf dem Rechner bleiben

Gemessen haben die Autoren auf einem Mac Studio mit M4-Max-Chip. Demnach transkribiert Parakeet eine Stunde Audio aus einer Datei in 20 bis 40 Sekunden und live in 1,5 bis 2,5 Minuten, bei etwa 100 MB Speicher. Auf LibriSpeech test-clean lag die Wortfehlerrate von Parakeet v3 bei 1,55 %, die von Apples eingebauter Erkennung bei 2,12 %.

Unternehmen, die Gesprächsaufnahmen nicht in eine fremde Cloud schicken dürfen, bekommen hier einen praktischen Weg. Hotline, Meeting-Notizen oder Diktat können in der App laufen, während das Audio auf dem Gerät bleibt. AnyDecisionModel ergänzt den zweiten Schritt. Statt Text aus einem Sprachmodell zu parsen, erhält die App eine Zahl. Darauf lassen sich einfache Regeln bauen, etwa dass unsichere Tickets an einen Menschen gehen.

In Meetings gehen über 23 % der Wörter verloren, und die Lizenzen unterscheiden sich

Bei Meeting-Aufnahmen aus dem AMI-Datensatz, in denen Menschen durcheinanderreden, lag jedes getestete Modell über 23 % Wortfehlerrate. Die Autoren schreiben selbst, dass sie auf einem Rechner und mit wenigen Datensätzen gemessen haben. Getestet wurde bisher nur unter macOS 27, nicht auf dem iPhone. AnySpeechRecognizer steht bei Version 0.1.0, es ist also ein frühes Release.

Auch die Lizenzen verdienen Aufmerksamkeit. Parakeet v3 und Qwen3-ASR stehen unter CC BY 4.0 und Apache 2.0. Parakeet Unified und Sortformer v2.1 fallen dagegen unter die NVIDIA Open Model License, die Bedingungen sollte man also lesen. Bei AnyDecisionModel warnen die Autoren, dass rohe Wahrscheinlichkeiten von Sprachmodellen oft zu selbstsicher sind. Der Confidence-Wert zeigt, wie stark sich die Wahrscheinlichkeit auf eine Antwort konzentriert. Ob die Antwort stimmt, verrät er nicht. Die Kalibrierung muss deshalb mit eigenen Daten erfolgen.

Ein iPhone-Test und Modelle mit trainiertem Entscheidungskopf werden es zeigen

Die Autoren wollen weitere Engines ergänzen, darunter Core AI unter macOS 27 und iOS 27. Erst Messungen auf dem Telefon zeigen, ob lokale Transkription mit Akku und Speicher eines Smartphones auskommt. Qwen3-ASR braucht einige Gigabyte Speicher und lädt 0,9 bis 2,4 GB herunter.

Bei Entscheidungen lohnt der Blick auf Modelle mit trainiertem Entscheidungskopf wie Clef von Cloudflare. Die Variante Clef-Flash hat 9B Parameter und ist in 4-Bit-Form ein Download von 6,2 GB. Setzen sich solche Modelle durch, hören Apps auf, einen Chatbot auszufragen. Sie fragen dann einen Klassifikator, der zugeben kann, dass er unsicher ist.

Liliths Urteil

Hugging Face hat Apple Lenkrad und Armaturenbrett gelassen, nur den Motor getauscht und eine Protokollantin dazugelegt, die vier Stimmen auseinanderhält. In einem Meeting, in dem alle durcheinanderreden, entgeht ihr aber noch fast ein Viertel der Wörter, also unterschreibt das Protokoll vorerst ein Mensch.