Nvidia、家庭用PCをローカルAIクラウドに無料で接続

もはや高価なグラフィックカード1枚は不要

Nvidiaは、ユーザーがローカルネットワーク上の複数のデバイスの計算能力をプールしてAIモデルを実行できるようにするソフトウェアツール、Personal AI Router（PAIR）を発表しました。目標は、MetaのLlama 3やAlibabaのQwenのような大規模なLLM（Large Language Models）を、単独では処理できないハードウェアで実行できるようにすることです。

愛好家のための分散化への一歩

興味深いことに、PAIRはNvidia RTXグラフィックカードだけでなく、Appleシリコン（M1以降）もサポートしています。これにより、ユーザーはWindowsのゲーミングPCとMacBookを接続し、Ollama、LM Studio、Janなどのプラットフォームを通じて、要求の厳しいモデルを共同で実行できます。

ケーブルの現実にぶつかる場所

Nvidiaはスムーズな実行を約束していますが、家庭用Wi-Fiの物理法則をだますことはできません。特に転送速度が重要な長文を生成する場合、複数の小さなGPUを組み合わせる際のネットワークのレイテンシは深刻な問題になります。作業よりも待ち時間が長くならないようにするには、高速なイーサネットが必要になります。

コミュニティクラスターへの関心のテスト

このツールが普及すれば、クラウドサーバーを借りる代わりに、家の中にある未使用のハードウェアから電源を集めるという、コミュニティクラスターの時代の始まりを示すことになるかもしれません。次の論理的なステップは、隣人と安全に電源を共有することですが、Nvidiaはまだそこには達していません。

Lilithの判定

Nvidiaは、Mac上のローカルモデルがもはや閉ざされた島ではないことを確実にしたところです。ハードウェア戦争ではなく、外国製シリコンのソフトウェアによる同化を選択しました。