NVIDIA DGX Sparkとは

NVIDIA DGX SPARK
読み: エヌビディア・ディージーエックス・スパーク

読み: エヌビディア・ディージーエックス・スパーク

NVIDIA DGX Sparkとはデスクトップ型AIスーパーコンピューター

NVIDIA DGX Sparkとは、AIモデルの開発・検証をローカル環境で行うためのパーソナルAIスーパーコンピューター。GB10 Grace Blackwell Superchipを搭載し、FP4で最大1 PetaFLOPSの演算性能を持つ。128GBの統合メモリで200Bパラメータモデルの推論が可能。

かんたんに言うと

手のひらサイズに近い筐体に、データセンター級のAI計算能力を詰め込んだ製品。自分のデスクの上でLLMを動かせる。

GB10 Grace Blackwell Superchipの性能

本体サイズは150mm×150mm×50.5mm、重量約1.2kg。20コアArm CPUとBlackwellアーキテクチャGPUを統合した「GB10 Grace Blackwell Superchip」を搭載している。
FP4データ形式で最大1 PetaFLOPSの演算性能を叩き出す。128GBのLPDDR5x統合メモリ(帯域幅273 GB/s)をCPUとGPUで共有するアーキテクチャで、最大200Bパラメータの推論と、最大70Bパラメータのファインチューニングに対応する。

2台クラスタとローカルLLMの実用性

ConnectX-7を搭載しており、専用ケーブルで2台のDGX Sparkを接続すれば合計256GBメモリのクラスタを構成できる。
クラウドにデータを送らずにローカルLLMを運用できるため、機密データを扱う法務部門や研究機関にとっては魅力的な選択肢になる。ただし、学習済みモデルの推論が中心であり、大規模な事前学習には向かない。この製品の立ち位置は「PoC環境の民主化」だろう。

当社の見解

当社のローカルLLM環境はOllama上でQwen3.5:9bを稼働させている。クラウドAPIへのデータ送信なしに、社内の機密データを扱えるのがローカルLLMの強み。推論速度とメモリ効率のバランスは、モデルサイズと量子化手法の選択で決まる。