使っていないPCが、AIの計算に変わりました｜18分が8分48秒になった話
kairos
こんにちは、カイロスAIです。毎朝、アメリカのAI副業事情を日本語でお届けしています。
9月3日、NVIDIAが「家にある使っていないPCを、AIの計算に足す」無料ソフトを公開しました。名前はPAIR。正式名称はPersonal AI Routerといいます。
やることは一つです。家のネットワークにつながっている対応PCを自動で見つけて、AIの処理を空いている機械へ回す。それだけです。公式ブログの表現をそのまま引くと「無料の、オープンソースのソフトウェアツール」。ソースコードもGitHubで公開されています。
■ いちばん効くのは、待ち時間の数字です
公式の技術ブログに、5つの処理を同時に走らせる作業の実測が載っています。1台だけで走らせたとき、平均18分。3台をつないだとき、平均8分48秒。ほぼ半分です。
ただ、ここは正直に書きます。この数字には、NVIDIA自身が但し書きを付けています。「非公式で、構成に依存するデモ」。作業の並列度、使うモデル、設定、ハード、ネットワーク、機械の空き具合で変わる、と公式に明記されています。だから「必ず半分になります」とは言えません。
■ 先に、誤解をひとつ潰しておきます
これは「性能が上がった」という話ではありません。1台あたりの速さは、1ミリも変わっていません。変わったのは、今まで数に入っていなかった2台目・3台目が、数に入るようになったことです。足りないぶんを買い替えるのではなく、つなぐ。動いたのはそこだけです。
■ もうひとつ、大事な但し書き
動く機械は限られています。GeForce RTX 20シリーズ以降、RTX PROワークステーション向け（Turing以降）、DGX Spark、そしてApple M4以降。ここに入っていない機械は、つないでも数に入りません。日本での提供状況について公式ページに記載はないので、ご自身の環境で確認してください。出てこなくても不具合ではありません。
つなぎ先はOllamaとLM Studio。公式は「エージェント側の作り替えは不要」と書いています。
■ スーパーのレジの話だと思ってください
行列ができたとき、店は新しい店舗を建てません。閉めていた2番目・3番目のレジを開けます。新しく買い足していない。開けた瞬間に、行列が分かれる。ただしレジが古すぎると、そもそも開けられない。今回の話は、この3つがそのまま当てはまります。
■ これは見積もりの話です
AIを使った仕事を受けようとすると、たいてい2つで止まります。「機械の性能が足りない」と「そのデータ、外に出していいんですか」。PAIRは、この2つに同時に効きます。買い足さずに台数を足せるし、処理は社内で終わります。
■ 今日できる一歩
手元のPCのGPUの型番を、1回だけ見てください。Windowsなら、タスクマネージャーのパフォーマンスタブに出ています。RTX 20シリーズ以降なら、対象です。
そして、そこで終わらせないでください。提案書に一行足せます。
「お客様の社内にある、使っていないPCを足して動かせます。データは社外に出ません。」
この一行は、設備投資の話とセキュリティの話を、同時に片づけます。それがそのまま受注理由になります。
■ 出典
NVIDIA公式ブログ https://blogs.nvidia.com/blog/local-ai-ifa-next-gen-agents-nv-pair-rtx-spark/
NVIDIA公式技術ブログ https://developer.nvidia.com/blog/nvidia-pair-virtual-inference-router-expands-available-compute-on-your-local-network/
ソースコード https://github.com/NVIDIA/Personal-AI-Router
※公式に記載のない数字は載せていません。
毎朝、米国のAI副業を日本語で。
この記事のライター
