トピック

卓上AIスパコン「DGX Spark」で24時間動かせるAIエージェント活用を実践してみよう!

 高い性能を誇るクラウドAIのフロンティアモデルですが、ここ最近は特定の分野において、手元のPCなどローカルで動作させられるオープンなAIモデルの性能がそれに迫りつつあります。

 しかもクラウドAIはここのところ、使った分だけ費用が発生する従量課金に重点を置く傾向にあります。今後膨れ上がっていくだろうランニングコストも考慮すると、いよいよ実用性が増してきたローカルAIを実務に取り入れる段階になってきた、と言えるかもしれません。

 そうしたときに、現時点で最も有力な選択肢の1つとなるローカルAI向けマシンがNVIDIAの「DGX Spark」です。デスク上にも置けるコンパクトなボディに、AI処理に特化したハードウェアを詰め込んだ、いわば「卓上AIスパコン」とも呼べるもの。

 このDGX Sparkの主戦場の1つは、昨今話題の「エージェンティックAI」にあります。具体的にどのようにしてセットアップし、どう活用できるのか、実例を交えて紹介しましょう。

DGX SparkはフツーのPCとどう違うの?

 入力データを外部に送信せず、セキュリティに配慮しながら安全に使えるメリットがあるローカルAI。家庭やオフィスにあるビジネスPCでも利用可能なものですが、DGX Sparkで使う場合にはそれらのPCにはない決定的な違いと優位性があります。

 1つは巨大なAIモデルを扱える128GBの大容量ユニファイドメモリを搭載していること。

 多くのデスクトップPCのメモリ容量(AIモデルの読み込みに使えるVRAM)はせいぜい数GB、ハイエンドGPUを搭載するPCでも32GBあたりが上限となります。業務で使える賢いAIモデルは読み込めないか、もし読み込めたとしても実用的な速度にならないことがほとんどです。

 一方、DGX Sparkは128GBある容量のうち、OSが使用するメモリを除く実質最大120GBほどをAIモデルの読み込みに充てられます。1つの巨大なAIモデルで単一のタスクに専念させるのはもちろんのこと、得意分野の異なる小~中規模のAIモデルを複数同時に読み込んで複雑なタスクを効率よく実行する、というような応用も可能です。

NVIDIA DGX Spark

 2つ目は、NVIDIAの成熟した「CUDAエコシステム」を利用できること。CUDAはAI処理に適したGPU向けの高速並列処理プラットフォームで、NVIDIAのGPUはそのCUDAを全面的にサポートしています。

 DGX SparkももちろんNVIDIA製のGPUである「NVIDIA GB10 Grace Blackwell Superchip」を搭載。1PFLOPS(1ペタフロップス=1秒間に1000兆回の浮動小数点演算が可能)という高い処理能力を発揮します。

 ただし、そうした強力なハードウェアだけがCUDAの本質ではありません。ハードウェアと組み合わせて用いるAI開発のためのライブラリやフレームワークが豊富に用意されており、さらには全世界の開発者の知見が集積されているコミュニティもCUDAエコシステムの重要な構成要素です。

CUDAの充実したリソースを活用することでAI開発を加速できます

 要するに、高速なGPUのポテンシャルを最大限に活かせる環境がすでに整っている、ということ。ユーザーの実現したいことを最小限のコスト(労力)で達成できるのが、CUDAエコシステムの、そしてDGX Sparkの特徴でもあるわけです。

 それともう1つ、見逃してはならないのが「小型」かつ「省電力」であること。一般にマシンが高性能になるほど主に冷却の観点で筐体が大きくなり、スペースの確保に苦労します。しかも消費電力が増えるので電気代もかさみます。

ハンディサイズと言っていい小さな筐体

 これだと物理的に設置できない、ということになりかねませんし、コスト面でも不利です。継続的に利用料金のかかるクラウドAIに対して、ローカルAIはランニングコストがほぼ電気代だけになるのもメリットとされていますが、電気代が膨れ上がってしまっては意味がありません。

 その点、DGX Sparkは片手で持てるようなコンパクトさで、狭いデスクでも余裕で置けるほど。消費電力もアイドル時が50W前後、高負荷時でも概ね100W余りと、エントリークラスの小型PC並みの消費電力に抑えられています。電気代をあまり気にせず長時間のAI処理が可能、というのもDGX Sparkの強みです。

DGX Sparkの消費電力を計測。アイドル時50W前後、負荷が高まった状態でも100Wを超える程度で、動作音もほぼ無音

エージェンティックAIとは?

 DGX Sparkでできることは、AIチャットや画像・動画生成、コーディング、機械学習などさまざま。そのうえで、最近注目されている「エージェンティックAI」と呼ばれる手法は、まさにDGX Sparkの性能とローカルAIの「使い放題」というアドバンテージを最大限に活かせるものでもあります。

 よくあるAIツールの使い方は、プロンプト(指示文)を送信して、その場でAIから回答をもらう、というチャット的なもの。基本的には1問1答になり、AIの出してきた内容に不足がある場合、もしくはユーザーが目標としている結果にたどり着いていない場合は、追加で指示を送るような作業をユーザーの手で何度も繰り返すことになります。

チャット形式が標準的なAIツールの使い方ですが、連続的に作業してもらうのには不向きです

 しかしエージェンティックAIならその必要はありません。AIが自律的に考え、分析し、目標としている結果が得られるまで作業を行なってくれます。作業の方向性が意図とずれてしまいそうなときにユーザーが指示を差し挟んで軌道修正することもできますが、いったん作業を任せたらあとはだいたい放置でOKなのです。

 このように一連の作業を任せられるエージェンティックAIは、当然ながら実際の作業量に応じて処理時間も長くなりがちです。むしろ、長時間に渡る作業をこなしてもらうことがエージェンティックAIを利用する目的でもあります。

 これをもしクラウドAIに任せるとどうなるでしょうか。トークン(処理量)の上限が決まっていたり従量課金だったりするため、最後まで完走できないか、コストが青天井となってしまう恐れがあります。でも継続課金不要なローカルAIと、それを着実に制御できるDGX Sparkなら、そんなこととは全く無縁でいられるのです。

クラウドAIでは常にトークンの使用量・残量が気になります

エージェンティックAIをマルチで動かしてみる

 それでは、DGX Sparkで実際にエージェンティックAIを使えるようにしてみたいと思います。DGX Spark自体のセットアップ手順については下記の記事で紹介しているので参考にしてみてください。

□DGX Sparkでゼロから始めるAIワークステーション
難しそうで難しくないDGX Spark、箱を開けたら30分でゴリゴリAIが使えてる!
https://ai.watch.impress.co.jp/docs/serial/dgxspark/2118958.html

 以上の準備が完了していることを前提として、エージェンティックAIを実現するのに適したツールの1つ「Hermes Agent」を使ってみることにします。この分野では「OpenClaw」も有名ですが、この後動かすサンプルプロジェクトの性格上、Hermes Agentが向いていると判断しました。

Hermes Agent

 Hermes Agentのインストール手順については、DGX Spark向けのポータルサイトにある「Run Hermes Agent with Local Models」で確認できます。リモートからコントロールできるようにする「Telegram」関連の設定もその手順に含まれていますが、DGX Spark上のターミナルから実行する分には不要なので、それを省略すれば比較的短時間で準備を終えられるはずです。

Hermes Agentのセットアップ手順は「Run Hermes Agent with Local Models」から

 それとともに、DGX Sparkと相性の良いオープンウェイトモデル「Qwen3.6-35B-A3B-NVFP4」も使えるようにしておきます。同じくポータルサイトの「vLLM for Inference」の手順を参考にして、バックグラウンド(仮想環境のDocker)で動作させます。ターミナルから「hermes setup model」コマンドを実行し、このLLMを指定すればOKです。

「vLLM for Inference」の手順でQwen3.6-35B-A3Bをセットアップできます

 今回はサンプルとして「音声の文字起こしと原稿化」をエージェンティックAIに任せてみたいと思います。せっかくなので1つのエージェントにすべて任せるのではなく、複数のエージェントが協調して作業し、録音した音声ファイルから原稿という最終成果物を出力する、というものにしています。エージェントの構成は下記の通り6つです。

【マルチエージェントの構成(使用AIモデル:Qwen3.6)】

・指揮役エージェント:以下5エージェントの指示役兼ユーザー窓口
・文字起こしエージェント:文字起こし、話者分離を行なう(主にwhisperを使用)
・分析エージェントA:文字起こしされたテキストを元にテーマ、状況を推定して文脈理解を高められるようにする
・分析エージェントB:文字起こしされたテキストから用語を収集して意味を調査し、文脈理解を高められるようにする
・執筆エージェント:分析データを元に原稿を作成する
・校正エージェント:作成された原稿を校正して仕上げる

このような内容のエージェントスキルで各エージェントを定義します
tmuxもインストールし、ペイン分割してHermes Agentを立ち上げ、各エージェントの動作を把握できるようにしたところ

 ユーザーは「指揮役エージェント」に音声ファイルの場所と、どういう記事体裁にするか(Q&A形式にするか、地の文でまとめるか)などを伝えるだけ。あとはその指揮役エージェントが「文字起こしエージェント」、「分析エージェントA/B」、「執筆エージェント」、「校正エージェント」に進捗に応じて指示していく、というような流れになります。

 処理の都合上、複数のエージェントが同時に作業する場面はあまり多くはありませんが、下記に動画化したものを見てもらえれば、Hermes Agentの処理中の雰囲気がわかるのではないかと思います。

【複数エージェントが動作している様子(4倍速)】

 おそらく音声ファイルから文字起こしするのにAIを利用している人も多いかと思います。ですが、たいていは「文字起こし」してから「執筆・校正(要約)」してもらうくらいではないでしょうか。それだと手作業が追加で発生しやすいですし、成果物のクオリティを上げるのが難しかったりします。

 それに対して、今回のように統合的に管理する指示役エージェントを用意したり、原稿として書き始める前に状況把握して用語などを抽出しておく「分析」タスクを挟んだりすることで、ユーザーの手間を省きつつも最終成果物の品質を高められます。

 また、長時間の録音データを複数原稿化する必要があるときに、帰宅前に指示役エージェントに対して「全部まとめて作業して」のように依頼しておけば、翌朝にはきれいに整形された原稿が全部できあがっている、みたいな状況にできるはず。

 このように、エージェンティックAIを24時間稼働させられるDGX Sparkは、「人間だと無限に時間と手間がかかってしまうもの」や「クラウドAIだと無限にコストがかかってしまうもの」を、現実的な時間とコストで実現でき、確実に業務の生産性向上に寄与してくれるのです。

チームで共有して使うことで本領を発揮する

 DGX SparkとエージェンティックAIで、ユーザーがこれまで手間をかけていた作業は間違いなく楽になります。すべての処理がローカルで完結するので、外部に出せない機密が含まれるデータを問題なく扱えるのも大きなメリットです。部署に1台DGX Sparkを導入し、社員が自由にアクセスして使えるようにすれば無駄なく稼働させることができ、チーム全体のパフォーマンス向上につながるでしょう。

 さらに言うと、今回の例のような文字起こしツールを共有して利用する形にすれば、より進んだ自動化も可能になるかもしれません。たとえば各チームの議事録を分析し、互いのタスクに関連する情報を抽出して関係者に共有したり、新たなタスクを立てて提示したり、レポートにして上層部へ送信したり……。

 そんな風に昼夜を問わず淡々と仕事をこなす従業員が少なくとも1人増えた、というような感覚で扱えることを考えれば、DGX Sparkのコストパフォーマンスは意外と高いのでは、と感じるに違いありません。