おすすめのハードウェア

ローカルAI用のハードウェアを選ぶとき、GPUの性能表だけを見ても答えは出ません。 LLMでは、まずモデルを載せられるメモリ容量、その次に生成速度を左右するメモリ帯域が重要です。 ここでは性格の違う3台から、用途に合う1台を選ぶための基準を整理します。

先に結論:LLMではGPU性能だけを追わなくていい

ローカルAI用PCというと、GPUのコア数やTFLOPS、TOPSの数字に目が向きます。 しかし、LLMで文章を生成する用途では、GPUの演算性能がそのまま体感速度になるわけではありません。

LLMは、文章を1トークンずつ生成するたびにモデルの重みをメモリから読み込みます。 そのため、まず重要なのはモデル全体を載せられるメモリ容量です。 載せられた後の生成速度は、1秒間にどれだけデータを読めるかを示すメモリ帯域に強く左右されます。

選ぶ順番は、次のように考えると整理しやすくなります。

  1. 動かしたいモデルが収まるメモリ容量があるか
  2. 待てる速度で動かせるメモリ帯域があるか
  3. OS、対応ソフト、消費電力、持ち運びやすさが用途に合うか
  4. 画像生成や学習もするなら、GPUの演算性能を比較する

つまり、LLMの推論が中心なら「GPU性能が一番高いもの」ではなく、必要な容量と帯域を持つものから選ぶのが基本です。 画像生成、動画処理、モデル学習、長いプロンプトの読み込みでは演算性能も効くため、すべてのAI処理でGPU性能が不要という意味ではありません。

大きいモデルには容量、快適さには帯域が効く

メモリ容量は、動かせるモデルの上限を決めます。 96GBや128GBのメモリがあれば、一般的な24GB GPUでは載せにくい70Bクラス以上のモデルも選択肢に入ります。 ただし、容量が大きければ必ず速いわけではありません。

たとえば、今回紹介するDGX SparkとMacBook Pro M5 Maxは、どちらも128GBのユニファイドメモリを選べます。 一方で、メモリ帯域はDGX Sparkが273GB/s、MacBook Pro M5 Maxが最大614GB/sです。 同じサイズのモデルが載っても、生成速度には大きな差が出ます。

RTX PRO 6000 Blackwellは容量が96GBなので、載せられるモデルの上限では128GB機に届きません。 しかし帯域は1,792GB/sあり、96GBに収まるモデルを速く動かすことを重視するなら別格です。

容量と帯域の関係は、ローカルAIの速度は何で決まるのかでも詳しく整理しています。

おすすめ3機種の比較

  • NVIDIA DGX Spark — 128GBユニファイドメモリ、273GB/s。大きなモデルを載せることを優先する人向けです。
  • MacBook Pro M5 Max — 最大128GBユニファイドメモリ、最大614GB/s。容量・速度・持ち運びやすさを両立したい人に向きます。
  • NVIDIA RTX PRO 6000 Blackwell — 96GB GDDR7 ECC、1,792GB/s。96GBに収まるモデルを最高速で回したい人向けです。

この3機種に万能な1位はありません。 容量、速度、CUDA環境、持ち運び、消費電力のどれを優先するかで答えが変わります。

1. NVIDIA DGX Spark:容量を最優先する

DGX Sparkは、128GBのユニファイドメモリを備えた小型のAI開発機です。 一般的なコンシューマ向けGPUでは載らない大きさのモデルを、デスク上の1台で動かせることが最大の価値です。

一方、メモリ帯域は273GB/sです。 大きなモデルを載せることはできても、対話でスラスラ返答させる速さには限界があります。 常時稼働の処理、夜間バッチ、検証、結果を待てるエージェント処理など、「速さより載ること」が重要な用途に向いています。

CUDAを前提にしたソフトウェア環境を使いたいことも、Macにはない利点です。 反対に、日常のPCを兼ねたい人や、レスポンス速度を最優先する人には合いにくい選択です。

NVIDIA DGX Sparkの詳しいスペックと向く用途を見る

2. MacBook Pro M5 Max 128GB:容量と速度を持ち運ぶ

MacBook Pro M5 Maxは、最大128GBのユニファイドメモリと最大614GB/sのメモリ帯域を備えます。 DGX Sparkと同じ128GBクラスの容量を持ちながら帯域は倍以上あり、普段使いのノートPCをそのままローカルAI機にできます。

Ollama、LM Studio、MLXなどでLLMを動かしつつ、開発、資料作成、画像や動画の編集まで1台でこなしたい人に向いています。 電源や設置場所に縛られず、作業環境ごと持ち運べることも大きな強みです。

注意点は、NVIDIA CUDAを前提にしたツールがそのまま動くわけではないことです。 モデルやソフトの対応状況を確認し、Macで完結できるワークフローかを先に見ておく必要があります。

MacBook Pro M5 Max 128GBの詳しいスペックと向く用途を見る

3. NVIDIA RTX PRO 6000 Blackwell:速度を最優先する

RTX PRO 6000 Blackwell Workstation Editionは、96GBのGDDR7 ECCメモリと1,792GB/sのメモリ帯域を持つプロ向けGPUです。 96GBに収まるモデルであれば、今回の3機種では最も生成速度を期待できます。

大きなLLMを対話速度で使いたい、複数の推論ジョブを回したい、画像生成や学習など演算性能が効く処理も行いたい場合に向きます。 NVIDIAのソフトウェア環境を広く使える点も強みです。

ただし、これはGPU単体です。 対応するワークステーション、十分な電源と冷却が必要で、最大消費電力は600Wです。 価格、騒音、設置性まで含めて運用できる人向けの選択になります。

NVIDIA RTX PRO 6000 Blackwell 96GBの詳しいスペックと向く用途を見る

迷ったときの選び方

  • モデルを載せる容量が最優先なら、128GBのDGX Spark
  • 容量と速度、普段使いを両立したいなら、128GBのMacBook Pro M5 Max
  • 96GBに収まるモデルの速度を最優先するなら、RTX PRO 6000 Blackwell

ここで先に決めるべきなのは製品名ではなく、動かしたいモデルのサイズです。 必要な容量がまだ分からない場合は、VRAM別・現実的に動かせるモデル早見表から確認してください。

また、価格や在庫、搭載できるメモリ構成は変わります。 購入時には製品ページで最新仕様を確認し、自分が使うモデルと推論ソフトの対応状況も確かめる必要があります。

仕様の確認先

結論

ローカルLLM用ハードウェアは、GPUの演算性能だけで選ぶものではありません。 大きいモデルを動かすにはメモリ容量、実用的な速度で使うにはメモリ帯域が重要です。

DGX Sparkは容量、MacBook Pro M5 Maxはバランスと可搬性、RTX PRO 6000 Blackwellは速度に強みがあります。 自分が動かしたいモデルの大きさと、どれくらい待てるかを決めれば、3機種のどれを選ぶべきかが見えてきます。