DGX Sparkの性能について、店頭でも聞かれるようになりました。「128GBもメモリを積んでるらしいんですけど、あれを買えば何でも動きますか」と。動きます。動くんですが、動くことと快適に動くことのあいだには、そこそこの崖があります。
最大1 PFLOP。200Bパラメータ対応。128GB統合メモリ。カタログに並ぶ数字は、たしかに立派です。ただ私はこの手の数字を、勝手にカタログ筋肉と呼んでいます。見た目のサイズと、実際に持ち上げられる重さが、必ずしも一致しないやつです。
先に結論
DGX Sparkの性能は、パラメータ数ではなくモデルの構造で決まります。ほぼ同じ30B級でも、MoE構造なら毎秒約89トークン、Dense構造なら毎秒約10トークンと、8倍以上の差がつきます。
128GBの統合メモリで巨大なモデルを「載せられる」ことと、それが「速く動く」ことは別問題です。速度を決めているのは演算性能ではなく、メモリ帯域273GB/sのほうです。
DGX Sparkの性能を決めるのは、パラメータ数ではない
まず前提として、DGX SparkはNVIDIAが出した小型のAI開発用コンピューターです。150mm四方の箱にArmのCPUとBlackwellのGPUが同居していて、128GBのメモリを両者が共有しています。パソコンというより、机に置ける小さなAIサーバーだと思ったほうが近いです。
で、性能の話です。ローカルLLMのベンチマークを眺めていると、直感に反する数字にぶつかります。公開されているllama.cppの実測レポートで、ほぼ同じサイズの2つのモデルを比べたものがあります。
Qwen3 32B（Dense）
10.7tok/s
※llama.cppでの実測。量子化・コンテキスト長により変動します
パラメータ数は2Bしか違わないのに、生成速度は8倍以上違います。数字が2つ並んでいるだけなのに、これはなかなかの事件です。違いはサイズではなく、中の作りにあります。
用語：MoEとは
MoE（Mixture of Experts）とは、モデル内部を複数の「専門家」に分割し、入力に応じてその一部だけを使って推論する構造である。総パラメータが30Bあっても、1トークンを生成する際に実際に計算されるのは3B程度にとどまる。対してDense（密）モデルは、1トークンごとにほぼ全パラメータを読み出して計算する。同じ「30B」でも、動作時の負荷はまったく別物になる。
店長より
全員で会議するのがDense、担当者だけ呼び出すのがMoE。人数は同じでも、会議が終わる時間は全然違います。
なぜ30BのMoEは32BのDenseより8倍速いのか？
答えはメモリ帯域です。ここがDGX Sparkという製品を理解するうえで、いちばん大事な一点だと思っています。
計算してみると、あっけないほど筋が通っている
用語：メモリ帯域とは
メモリ帯域とは、1秒間にメモリから読み書きできるデータ量である。DGX Sparkは273GB/s。LLMはトークンを1つ生成するたびに、使うパラメータをメモリから読み出す必要があるため、Denseモデルではこの帯域が上限を決める。演算がどれだけ速くても、データが届かなければ計算は始まらない。
32Bクラスのモデルを4bit量子化すると、1トークンあたり約18GBの読み出しが発生します。273GB/sで割ると、理論上の上限は毎秒15トークン前後。実測が10.7だったということは、演算性能ではなくメモリ帯域で天井を打っている証拠です。
一次情報
GitHubで公開されているDGX Spark向けllama.cppベンチマークレポートでは、32B Denseの理論上限を約15トークン毎秒と見積もったうえで実測10.7を記録し、LPDDR5Xのメモリ帯域に強く縛られていると結論づけています。同レポートは30B MoEを約89トークン毎秒と測定しており、MoEこそがこのハードの主戦場だとしています。
MoEは、1トークンごとに読み出す量そのものが小さい。だから同じ帯域でも回転が速い。つまりDGX Sparkは、大きいモデルに強いのではなく、読み出し量が少ないモデルに強い機械です。
店長より
道幅が273GB/sで固定なので、荷物が重い車ほど遅くなる。単純な話でした。
どのくらいのLLMまで快適に動くのか
ここからは実測値です。国内でDGX Sparkを検証した記事のうち、条件が揃っていて比較しやすいのがNTTPCコミュニケーションズのベンチマークでした。並列数1、入力1024トークン、出力1024トークンに固定し、複数の推論エンジンを同じ物差しで測っています。
一次情報
NTTPCの検証（2025年12月時点の環境）では、GPT-OSS-120Bの生成速度がvLLMで毎秒34.57トークン、標準のSGLangで41.66、DGX Spark向けに最適化されたSGLangコンテナで52.01、Ollamaで40.65。一方、Llama 3.3 70Bは量子化しても毎秒4.10〜4.69トークンにとどまりました。同じ機械で、120Bのほうが70Bより10倍以上速いという結果です。
GPT-OSS-120Bは、名前のとおり約1,200億パラメータの巨大モデルですが、これもMoEです。だから速い。逆にLlama 3.3 70BはDenseなので、パラメータ数が半分近くても遅い。ここでも構造がすべてを決めています。
「快適」の境界線はどこか
同じNTTPCの記事では、検証したエンジニア本人が体感の目安を書いています。10トークン毎秒未満は明確に遅い。10〜20は待ち時間を感じて実用が難しい。20〜30はもたつくがまだ実用レベル。30以上でほぼストレスなく使える、と。ネット上で見かける「10 tok/sあれば普通に使える」という記述より、だいぶ辛口です。私も後者のほうが実感に近いと思います。
実測から見える目安
DGX Sparkで日常的にチャットとして使うなら、20B〜30B級のMoEモデルが中心になります。GPT-OSS-120BもMoEなので、設定次第で常用圏に入ります。
逆に70B級のDenseモデルは、毎秒4トークン前後。1,000トークンの回答を待つのに4分かかります。夜間のバッチ処理や挙動確認なら使えますが、対話にはつらい速度です。
……と、ここまで書いてきて、自分がすっかり量子化形式と推論エンジンの話に入り込んでいることに気づきました。修理店のブログでMXFP4とNVFP4の優劣を語り始めたら、たぶん誰かが止めたほうがいい段階です。いったん引き返します。
この記事を読んでいる方が本当に知りたいのは、たぶん「で、これ買って幸せになれるのか」です。そちらに戻ります。
速い。でも、素直には動かない
ベンチマークの数字だけ見ると、GPT-OSS-120Bは「120Bなのに50 tok/s出る夢のモデル」に見えます。実際、条件が揃えばそのとおりです。ただ、その条件を揃えるまでが荒野だという報告が、2026年に入ってからいくつも出ています。
数字が出ても、実務で使えるとは限りません
GPT-OSS-120Bが採用するMXFP4という量子化形式は、DGX SparkのGPU世代でハードウェアの直接対応がなく、ソフトウェア側の経路を通ります。実際にフリーズやクラッシュが連鎖したという検証記事や、8モデルを比較した結果このモデルだけがツール呼び出しで不正なJSONを返して失敗したという報告があります。AIエージェント用途を考えているなら、生成速度だけで選ぶと足をすくわれます。
同じ検証では、より小さいFP8のMoEモデルのほうが最初の一回で素直に立ち上がり、実運用では結局そちらが選ばれています。ベンチマークで一番速いモデルと、毎日使えるモデルは、しばしば別のモデルです。
このあたりは、ソフトウェア側の更新でどんどん改善されていく領域でもあります。実際、発売直後より数字は伸びています。ただ「買ってきて電源を入れたら快適」という製品ではない、という前提は変わっていません。
店長より
Linuxの環境構築を楽しめる人向けの機械です。ここが苦にならない方なら、たぶん相当おもしろい。
で、今これを買っていいのか？
性能の話が終わったので、財布の話をします。ここが2026年時点でいちばん動いている部分です。
Windowsは動きません
DGX Sparkが動かすのはArm64向けのDGX OS、つまりLinuxです。手持ちのWindowsアプリもx86向けのゲームも動きません。運用としては、普段使いのWindows PCやMacからSSHやブラウザ経由で接続する形になります。「AI用の高性能パソコンが1台増える」と思って買うと、想像と違うものが届きます。
そして価格です。発売時と今とで、状況がかなり変わっています。
一次情報
NVIDIAは2026年2月、DGX Spark Founders Editionの希望小売価格を3,999ドルから4,699ドルへ引き上げると発表しました。理由はメモリ部品の供給逼迫で、ハードウェア構成の変更はありません。日本国内の実売も、2026年前半の時点で70万円台から100万円近くまで幅があります。さらに2026年5月末、Windowsで動くコンシューマ向けの「RTX Spark」が発表され、同年秋の出荷が予定されています。DGX Sparkは開発者向けとして併売される見込みです。
つまり「値上がりした直後に、別系統のWindows版が控えている」という、判断が難しいタイミングです。急ぐ理由がないなら、秋の情報を待つ選択肢は普通にあります。
DGX Sparkが向く人
32GBのVRAMに収まらない大きめのモデルを、手元で試したい人。データを外に出せない前提でRAGやAIエージェントを検証したい人。Linuxでの環境構築が苦にならない人。24時間動かす小型AIサーバーが欲しい人。
RTX 5090が向く人
動かしたいモデルが32GBに収まる人。画像生成や動画生成もやりたい人。Windowsの既存環境をそのまま使いたい人。純粋な生成速度を求める人。この条件なら、帯域の差がそのまま速度差になります。
最初に書いたカタログ筋肉の話に戻ります。1 PFLOPも200Bパラメータ対応も、嘘ではありません。ただそれは、特定の条件で測った上限値です。実際に持ち上げられる重さは、動かすモデルの構造と、その日のソフトウェアの成熟度で決まります。
選ぶときに見るべきなのは、カタログ筋肉のサイズではなく、自分が持ち上げたい荷物の重さのほうです。100万円近い買い物なら、なおさら。
Q
DGX Sparkがあれば70Bクラスのモデルも快適に動きますか？
A
快適とは言いにくいです。Llama 3.3 70BのようなDenseモデルは、公開されている実測で毎秒4トークン前後にとどまります。1,000トークンの回答に約4分かかる計算なので、対話用途より夜間のバッチ処理や動作検証に向いています。
Q
DGX SparkでWindowsは使えますか？
A
使えません。DGX SparkはArm64向けのDGX OS、つまりLinuxで動作する開発機です。Windows用アプリケーションやx86向けのゲームは動作しないため、別のPCから接続して使う運用が前提になります。
Q
RTX 5090搭載PCとDGX Sparkはどちらを選ぶべきですか？
A
動かしたいモデルが32GBのVRAMに収まるかどうかで決まります。収まるならRTX 5090のほうが大幅に速く、画像生成やゲームにも使えます。収まらない大きなモデルを手元で試したい場合にDGX Sparkが選択肢になります。競合というより役割が違う製品です。
この記事を書いた人
ピシコ店長
苫小牧市のパソコン・スマホ修理店「ピシコ」店長。PC・スマホ修理歴16年。店頭での実際の修理事例やAI活用のご相談をもとに、地域の方に役立つ情報を発信しています。なお本記事はDGX Sparkの実機検証ではなく、公開されている実測値の突き合わせに基づく解説です。
プロフィール詳細
スペック表の数字より、動かしたい中身の話をしましょう。
社内でAIをどう使いたいのか、そこが決まると必要な機材はかなり絞れます。100万円の箱を買う前に、話すだけ話してみてください。
まずはご相談から
LINEは24時間受信・返信は月〜土 9:30〜19:00
ポチップ
