ABC、購入前にNVIDIA DGX SparkでLLMを実機検証できるサービス

DGX Sparkを4台使う場合の接続例。左はリング接続、右は200GbE対応スイッチを介した接続（模式図）

　ABCは11月13日、NVIDIA DGX Sparkを使った大規模言語モデル（LLM）のベンチマークと動作検証を受託するサービスを開始した。料金は1回20万円から（検証項目や構成など、作業量に応じて個別に見積もり）。

　同サービスでは、検証に使うDGX Spark（もしくは同等のOEM機）をABCが用意するため、想定する使い方に近い条件で得た測定結果をもとに、採用するモデルや導入する台数を検討できる。検証は、ユーザーが指定した条件で同社が行ない、結果を5営業日程度でレポートにまとめて提出する。

　1回の依頼で、最大2種類のLLMを検証する。例えば、同じ指示文を入力し、応答が始まるまでの時間や1秒あたりに生成するトークン数を測ることで、候補モデルの応答速度を比較可能。

　なお、DGX Sparkは1台から最大8台までの構成に対応。1台での動作確認に加え、複数台をリング状に接続した構成や、200GbE対応スイッチを介して接続した構成でも検証できる。同じモデルを使い、台数や接続方法で処理時間がどう変わるかを確認する。