Lilith.
⌕
編集イラスト: Parakeetは1時間の音声をMacで20〜40秒で文字起こし。Hugging FaceがAppleのAPIの下に組み込んだ
Lilithのイラスト · 編集リミックス

Hugging Faceは、Appleのデバイス上でAIモデルを直接動かすSwift向けオープンソースパッケージを2つ公開した。アプリ開発者にとっての要点は明快だ。importを1行変えるだけで、音声をクラウドに送らずに別のモデルで音声認識を動かせる。

AppleのAPIはそのまま、下で動くモデルだけを差し替えられる

macOS 26とiOS 26では、Appleの新しい音声テキスト変換API、SpeechAnalyzerが導入された。ただし裏で動くエンジンはApple製だけだ。AnySpeechRecognizerは同じインターフェースを保つ。import Speechをimport AnySpeechRecognizerに書き換え、別のモデルを選べばよい。選択肢はNVIDIAのParakeet、MoondreamがそれをベースにチューニングしたParakeet Ultra、AlibabaのQwen3-ASRで、いずれも作者がCore MLに変換している。

Parakeet v3はチェコ語やポーランド語を含む欧州25言語に対応し、言語も自動で判別する。0.6Bと1.7BのQwen3-ASRは30言語と22の中国語方言に対応し、日本語や広東語も扱える。さらにNVIDIAのSortformerモデルによる話者分離を追加した。AppleのAPIにはない機能で、発言が重なっても最大4人まで追跡できる。

もう一つのAnyDecisionModelは別の課題を扱う。はい・いいえの質問、選択肢からの選択、評価尺度に対し、型付きの結果と各回答の確率を返す。答えはモデルの確率から直接読み取り、テキストは生成しない。MLX、Core AI、llama.cppでローカルに動かせるほか、Ollamaやホスト型サービスJev経由でも使える。

会議の文字起こしもチケットの振り分けも端末内で完結できる

作者はM4 Maxを搭載したMac Studioで計測した。それによると、Parakeetは1時間の音声をファイルからなら20〜40秒、ライブなら1.5〜2.5分で文字起こしし、使用メモリは約100 MBだった。LibriSpeech test-cleanでの単語誤り率は、Parakeet v3が1.55 %、Apple内蔵の文字起こしが2.12 %だった。

通話録音を他社のクラウドに送れない企業にとって、これは現実的な選択肢になる。顧客窓口、会議メモ、口述筆記をアプリ内で処理し、音声を端末の外に出さずに済む。AnyDecisionModelはその次の段階を担う。言語モデルの出力テキストを解析する代わりに、アプリは数値を受け取る。そこから、確信度の低いチケットは人に回すといった単純なルールを組める。

会議では23 %超の単語を取りこぼし、ライセンスもモデルごとに違う

発言が重なり合うAMIデータセットの会議録音では、テストしたすべてのモデルで単語誤り率が23 %を超えた。作者自身、計測は1台のマシンと少数のデータセットによるものだと認めている。テスト環境はまだmacOS 27だけで、iPhoneでは試していない。AnySpeechRecognizerのバージョンは0.1.0で、初期段階のリリースだ。

ライセンスにも注意が要る。Parakeet v3とQwen3-ASRはCC BY 4.0とApache 2.0だが、Parakeet UnifiedとSortformer v2.1はNVIDIA Open Model Licenseの下にあり、条件を読む必要がある。AnyDecisionModelについて作者は、言語モデルの生の確率は過信気味になりがちだと警告している。confidenceの値は確率が一つの答えにどれだけ集中しているかを示すもので、答えが正しいかどうかは分からない。だからキャリブレーションは自社のデータで調整する必要がある。

決め手はiPhoneでの検証と、判断専用ヘッドを持つモデル

作者はmacOS 27とiOS 27のCore AIを含め、エンジンをさらに増やす計画だ。ローカルの文字起こしがスマートフォンのバッテリーとメモリに収まるかは、実機で測って初めて分かる。Qwen3-ASRは数GBのメモリを必要とし、ダウンロードも0.9〜2.4 GBになる。

判断の分野では、CloudflareのClefのように判断用ヘッドを学習させたモデルが注目に値する。Clef-Flashは9Bパラメータで、4ビット版のダウンロードは6.2 GBだ。こうしたモデルが定着すれば、アプリはチャットボットを問い詰めるのをやめ、自信がないときにそう示せる分類器に尋ねるようになる。

Lilithの判定

Hugging FaceはAppleにハンドルとダッシュボードを残したままエンジンだけを載せ替え、4人の声を聞き分ける書記まで付けた。それでも発言が飛び交う会議では単語の4分の1近くを聞き逃すので、議事録に署名するのは当面まだ人間だ。