LLM向けSoCには何が入っているのか

NVIDIAのN1X、あるいはRTX Sparkは、LLMやローカルAIを動かすための新しいSoCとして注目されています。

この記事では、まずN1X / RTX Sparkの革新性を整理し、そのあとに使われているテクノロジーをひとつずつ解説していきます。

N1X / RTX Sparkには、Blackwell GPU、Grace CPU、CUDAコア、第5世代Tensor Core、FP4演算、128GB統合メモリ、NVLink-C2C、CUDAやRTXを含むソフトウェア環境など、AI向けPCを作るための技術が組み込まれています。

名前だけ見ると難しそうですが、それぞれを分けて見ると役割は理解しやすくなります。

この記事では、IT辞書を開かないと分からないような言葉を、できるだけかみ砕きながら整理していきます。

N1X / RTX Sparkとは

N1X / RTX Sparkは、NVIDIAがWindows PC向けに展開するAI向けSoCです。

NVIDIAはRTX Sparkについて、1 PFLOP級のAI性能、最大128GBの統合メモリ、NVIDIAのAI・グラフィックス技術、そしてMicrosoftとの連携によるローカルAIエージェント向けWindows体験を特徴として説明しています。

ここでいうSoCとは、CPUやGPU、メモリ制御などをひとつのチップにまとめたものです。

ただし、N1X / RTX Sparkで重要なのは、単に「CPUとGPUをひとつにしました」という点ではありません。

NVIDIAが持っているGPU技術、AI向け演算技術、大容量メモリ、ソフトウェア環境を、個人用PC向けにまとめてきたことが大きなポイントです。

つまりN1X / RTX Sparkは、普通のノートPC用チップというより、ローカルLLMやAIエージェントを手元のPCで動かすための新しい土台として見ると分かりやすいです。

N1X / RTX Spark 主要スペック

項目	スペック
CPU	Grace CPU
CPUコア数	最大20コア
CPU方式	Arm系
GPU	Blackwell RTX GPU
CUDAコア数	6,144基
Tensor Core	第5世代Tensor Core
対応精度	FP4
AI性能	最大1 PFLOP級
メモリ容量	最大128GB
メモリ方式	統合メモリ
メモリ種類	LPDDR5X
メモリ帯域	約273GB/s
CPU-GPU接続	NVLink-C2C
消費電力	45〜80W級
OS	Windows on Arm
互換技術	Prism
主な用途	ローカルLLM / AIエージェント / 生成AI / 動画編集 / 3D制作 / ゲーム / AI開発

N1X / RTX Sparkの革新性

N1X / RTX Sparkの革新性は、SoCという形式そのものではありません。

SoCはスマートフォンやApple Siliconでも使われている考え方です。CPU、GPU、メモリ制御などを近い場所にまとめることで、効率よく処理するための仕組みです。

N1X / RTX Sparkが新しいのは、そこにNVIDIAのAI向け技術をまとめて入れている点です。

Blackwell GPU。
第5世代Tensor Core。
FP4演算。
最大128GBの統合メモリ。
NVLink-C2C。
CUDAを中心としたAIソフトウェア環境。
RTXやDLSSなどのグラフィックス技術。
Windows上でローカルAIエージェントを動かすための仕組み。

これらを組み合わせることで、N1X / RTX Sparkは「AIをクラウドだけで使うPC」ではなく、「AIを手元で動かすPC」を目指しています。

これまで大きなLLMを動かすには、高価なGPUを積んだデスクトップPCや、クラウド上のAIサーバーに頼る場面が多くありました。

しかしRTX Spark系では、最大128GBの統合メモリと1 PFLOP級のAI性能を使い、ローカルAIエージェントや大規模モデルの実行を個人用PCに持ち込もうとしています。NVIDIAのDGX Spark公式情報でも、128GBの統合メモリと1 PetaFLOPの並列処理性能を特徴として説明しています。

特に重要なのは、GPU性能だけではありません。

LLMでは、モデルを載せるためのメモリ容量が大きな壁になります。GPUが速くても、VRAMが足りなければ大きなモデルは扱いにくくなります。

その点で、128GB級の統合メモリを持つ設計は、ローカルLLM向けPCとして大きな意味があります。

N1X / RTX Sparkは、CPU、GPU、メモリ、AI演算、ソフトウェア環境をまとめて、ローカルAI時代のPCを作ろうとするチップです。

SoCとは

SoCとは「System on a Chip」の略です。

CPU、GPU、メモリ制御、通信機能など、コンピューターに必要な主要機能をひとつのチップにまとめたものです。

従来のPCでは、CPU、GPU、メモリ、通信機能などが別々の部品として存在していました。

CPUは処理の中心。
GPUは画像処理やAI計算。
メモリは作業中のデータを置く場所。

SoCでは、こうした機能を近い場所にまとめます。

部品同士の距離が近くなるため、データのやり取りを効率化しやすく、消費電力も抑えやすくなります。

ただし、SoCであること自体が特別にすごいわけではありません。

大事なのは、そのSoCの中にどんな技術が入っているかです。

N1X / RTX Sparkの場合は、AI処理に強いBlackwell GPU、大容量の統合メモリ、AI向けのTensor Core、そしてCUDAを中心としたNVIDIAのソフトウェア環境が組み込まれている点が重要です。

用語メモ：SoC
CPU、GPU、メモリ制御などをひとつのチップにまとめたもの。スマートフォンやApple Siliconでも使われている仕組み。

Grace CPUとは

Grace CPUは、NVIDIAのArm系CPUです。

CPUは、パソコン全体の基本処理を担当する部品です。OSを動かしたり、アプリを制御したり、GPUに仕事を渡したりします。

NVIDIAは長い間、GPUの会社として知られてきました。ゲーム用のGeForce、AI用のH100やBlackwellなど、GPUやAIアクセラレータで大きな存在感を持っています。

しかしN1X / RTX Sparkでは、NVIDIAがCPU側にも深く入ってきます。

報道では、RTX Sparkは20コアのArm CPUとBlackwell GPUを組み合わせた構成として紹介されています。

AI PCでは、GPUだけが強くても十分ではありません。

LLMを動かすには、CPU、GPU、メモリ、ストレージ、OS、ソフトウェアが連携する必要があります。

CPUが弱いと、GPUへ仕事を渡す部分で詰まります。
メモリとの連携が悪いと、大きなAIモデルを扱いにくくなります。

Grace CPUは、NVIDIAがGPUだけでなく、AI PC全体の設計に入ってくるための重要な部品です。

用語メモ：CPU
パソコン全体の基本処理を担当する部品。OSやアプリを動かし、GPUに仕事を渡す役割も持つ。

Blackwell GPUとは

Blackwell GPUは、NVIDIAの新しいGPU世代です。

GPUはもともと、ゲームや映像の画像処理を高速に行うための部品でした。

しかし現在では、AI処理にも使われています。

LLMは文章を扱っているように見えますが、内部では巨大な数値計算を行っています。この大量の計算を並列に処理するのがGPUの得意分野です。

RTX Sparkでは、Blackwell RTX GPUが使われると説明されています。NVIDIAの発表では、RTX SparkはBlackwell RTX GPU、1 PFLOP級AI性能、最大128GBの統合メモリを特徴とするWindows PC向けプラットフォームとして紹介されています。

Blackwell GPUは、N1X / RTX Sparkの中で、LLM推論、生成AI、画像処理、動画編集、3D制作、ゲームなどを支える演算エンジンです。

用語メモ：GPU
大量の計算を並列に処理する部品。ゲームの描画だけでなく、AIの計算にも使われる。

CUDAコアとは

CUDAコアは、NVIDIA GPUの中にある計算ユニットです。

ざっくり言えば、GPUの中にいる小さな計算作業員のようなものです。

CPUは少数の高性能なコアで複雑な処理をこなします。
一方、GPUは大量のコアを使って、同じような計算を一気に処理します。

AIでは、この並列処理が重要になります。

RTX Sparkについては、Blackwell GPUに6,144 CUDAコアを搭載すると報じられています。

ただし、CUDAコア数だけで実性能が決まるわけではありません。

同じCUDAコア数でも、消費電力、冷却性能、動作クロック、メモリ帯域によって性能は変わります。

特にN1X / RTX SparkのようなノートPCや小型PC向けSoCでは、デスクトップGPUほど大きな電力や冷却を使えません。

そのため、6,144 CUDAコアという数字は重要ですが、それだけでデスクトップGPUと同じ性能だと考えるのは危険です。

実際に見るべきなのは、LLMを動かしたときのトークン生成速度、発熱、消費電力、長時間負荷での性能維持です。

用語メモ：CUDAコア
NVIDIA GPUの中にある計算ユニット。数が多いほど並列計算に強くなるが、実性能は電力やメモリ帯域にも左右される。

Tensor Coreとは

Tensor Coreは、NVIDIA GPUに搭載されているAI向けの専用計算ユニットです。

CUDAコアが汎用的な計算作業員だとすると、Tensor CoreはAI計算に特化した専門作業員です。

AIでは、行列計算という大量の数値処理が使われます。
LLMも画像生成AIも、内部では膨大な行列計算をしています。

Tensor Coreは、そのAI向け計算を高速に行うための仕組みです。

DGX Sparkで使われるGB10 Grace Blackwellについて、NVIDIA公式は128GBの統合メモリと1 PetaFLOPの並列処理性能を特徴として説明しています。

このTensor CoreとFP4演算が、LLM向けSoCとしての大きなポイントになります。

用語メモ：Tensor Core
AIでよく使われる行列計算を高速に処理するNVIDIA GPU内の専用ユニット。

FP4演算とは

FP4とは、4ビット浮動小数点形式のことです。

難しく聞こえますが、簡単に言えば、AIの計算に使う数値をかなり小さく表現する方式です。

コンピューターでは、数値をビットで表します。
ビット数が多いほど正確に表現できますが、そのぶんメモリも計算量も必要になります。

FP32は32ビット。
FP16は16ビット。
FP8は8ビット。
FP4は4ビットです。

FP4は精度を落とす代わりに、メモリ使用量を減らし、AI計算を軽くしやすい形式です。

LLMの推論では、すべてを高精度で計算しなくても、実用上問題ない場面があります。そこでFP4のような低精度演算を使うことで、大きなモデルをより効率よく動かすことができます。

NVIDIAのDGX Spark公式情報では、GB10 Grace BlackwellがFP4精度で最大1 petaFLOP級のAI性能を持つとされています。ここでいう1 petaFLOPは、通常のCPU性能やゲーム性能ではなく、FP4でのAI演算性能として見る必要があります。

用語メモ：FP4
4ビットで数値を表す低精度形式。LLM推論ではメモリ使用量を減らし、計算を軽くするために使われる。

128GB統合メモリとは

N1X / RTX Sparkで特に重要なのが、最大128GBの統合メモリです。

従来のPCでは、CPUが使うメインメモリと、GPUが使うVRAMが分かれています。

たとえば、メインメモリが64GBあっても、GPUのVRAMが12GBなら、大きなLLMをGPUに載せるのは難しくなります。

LLMでは、モデルのサイズが大きくなるほど必要なメモリも増えます。

7B、13B、70B、120B、200Bといった数字は、モデルのパラメータ数を表します。
パラメータとは、AIが学習によって得た数値の集まりです。

統合メモリでは、CPUとGPUが同じメモリ空間を共有できます。

たとえるなら、CPUとGPUが別々の机で作業するのではなく、同じ大きな机を使うようなものです。

NVIDIAはRTX Sparkについて最大128GBの統合メモリを特徴として説明しており、DGX Sparkでも128GBの統合メモリと大規模AIモデル向けの処理性能を押し出しています。

N1X / RTX SparkがLLM向けとして注目される理由は、GPUが強いことだけではありません。
大きなモデルを載せるためのメモリ設計も重要です。

用語メモ：統合メモリ
CPUとGPUが同じメモリ領域を共有する仕組み。大きなLLMを扱いやすくなる。

コヒーレント統合メモリとは

DGX Sparkでは、128GBの統合メモリが特徴として説明されています。

ここで重要になるのが、CPUとGPUがメモリをどう共有するかです。

コヒーレントとは、CPUとGPUがメモリの中身を食い違いなく扱えるという意味です。

普通のPCでは、CPU側のメモリとGPU側のメモリが分かれているため、データをコピーしたり、同期したりする必要があります。

しかしコヒーレントな統合メモリでは、CPUとGPUが同じメモリ空間をより自然に共有できます。

これはLLMでは重要です。

LLMはモデルの重みや中間データが大きくなりやすく、CPUとGPUの間でデータを効率よく扱う必要があります。

コヒーレント統合メモリは、CPUとGPUが別々に作業するのではなく、同じ大きな作業台を共有しやすくする仕組みです。

用語メモ：コヒーレント
CPUとGPUがメモリの中身を食い違いなく扱える状態。データのコピーや同期の負担を減らしやすい。

メモリ帯域とは

メモリ容量が大きいだけでは、AI処理は速くなりません。

もうひとつ重要なのが、メモリ帯域です。

メモリ帯域とは、メモリからCPUやGPUへ、どれくらい速くデータを運べるかを表す数字です。

机のたとえで言えば、メモリ容量は机の広さです。
メモリ帯域は、机の上の資料をどれだけ速く手元に持ってこられるかです。

LLM推論では、モデルの重みを大量に読み出しながら計算します。
そのため、GPUの計算性能だけでなく、メモリ帯域も重要になります。

大容量メモリによって大きなモデルを載せられても、帯域が足りなければ速度が出にくくなります。

そのためN1X / RTX Sparkを見るときは、128GBという容量だけでなく、実際のメモリ帯域とトークン生成速度も確認したいところです。

用語メモ：メモリ帯域
メモリとCPU/GPUの間で、どれくらい速くデータをやり取りできるかを表す数字。

NVLinkとNVLink-C2Cとは

NVLinkは、NVIDIAの高速接続技術です。

NVLinkという名前は、もともとGPU同士を高速につなぐ技術として有名です。

AIサーバーでは、複数のGPUをNVLinkやNVSwitchで接続し、大きなAIモデルを分散して処理します。

一方、NVLink-C2CのC2Cは「Chip-to-Chip」の略です。

これはGPU同士だけでなく、CPUとGPUのようなチップ同士を高速につなぐための技術です。

普通のPCでは、CPUとGPUはPCI Expressという規格で接続されることが多いです。
PCI Expressは広く使われている便利な接続方式ですが、AI処理ではCPUとGPUの間で大量のデータが行き来します。

NVLink-C2Cは、そのデータの通り道を高速化するための接続技術です。

NVIDIA公式はNVLink-C2Cをチップ間接続技術として説明しており、Grace CPUやBlackwell / Rubin系のGPUとCPUをつなぐ用途に使われています。

つまり、NVLinkは「GPU同士をつなぐ技術」として有名ですが、NVLink-C2Cはそこから発展して、CPUとGPUなどのチップ同士を高速につなぐためにも使われます。

N1X / RTX SparkでNVLink-C2Cが重要なのは、CPUとGPUをただ同じSoCに載せるだけでなく、AI処理向けに高速につなぐところです。

用語メモ：NVLink-C2C
NVIDIAのチップ間接続技術。NVLinkはGPU同士の接続で有名だが、NVLink-C2CはCPUとGPUなど、チップ同士を高速につなぐために使われる。

CUDAとは

CUDAは、NVIDIA GPUをAIや科学計算に使うための開発基盤です。

もともとGPUは、画像を描くための部品でした。
しかしCUDAによって、GPUを画像処理以外の計算にも使いやすくなりました。

現在のAI開発では、NVIDIA GPUが強い地位を持っています。

その理由は、GPUの性能だけでなく、CUDAを中心としたソフトウェア環境が整っているからです。

AIフレームワークやライブラリの多くが、NVIDIA GPUで動きやすいように作られています。

N1X / RTX Sparkの強みも、ハードウェア単体だけではありません。

CUDAを中心としたNVIDIAのソフトウェア資産を使えることが大きな意味を持ちます。

用語メモ：CUDA
NVIDIA GPUをAIや科学計算に使うための開発基盤。NVIDIAのAIエコシステムの中心。

NVIDIA AI Software Stackとは

AI向けPCで重要なのは、チップだけではありません。

どれだけハードウェアが強くても、ソフトウェア環境が整っていなければ使いにくくなります。

NVIDIAは、CUDAだけでなく、AI向けのソフトウェアスタックを持っています。

ソフトウェアスタックとは、ある目的を実現するために積み重なったソフトウェア群のことです。

AIモデルを動かすためのライブラリ。
推論を高速化する仕組み。
開発用ツール。
クラウドやデータセンターへ移行するための環境。
AIエージェントを作るための基盤。

こうしたものをまとめて提供することで、NVIDIAは単なるチップメーカーではなく、AI開発環境そのものを提供する会社になっています。

RTX Sparkも、NVIDIAのAI・グラフィックス技術をまとめたWindows PC向けプラットフォームとして説明されています。

用語メモ：ソフトウェアスタック
目的を実現するために積み重なったソフトウェア群。AIではライブラリ、推論エンジン、開発ツールなどを含む。

RTXとは

RTXは、NVIDIAのリアルタイムレイトレーシングやAI支援グラフィック技術を含むブランドです。

レイトレーシングとは、光の反射や影をより現実に近く表現する技術です。
ゲームや3D制作で使われます。

RTXには、DLSSのようなAIを使った描画支援技術も含まれます。

DLSSは、低い解像度で描いた映像をAIで高解像度化し、画質とフレームレートを両立させる技術です。

RTX Sparkは、LLMだけを動かすためのチップではありません。

AIエージェント。
ローカルLLM。
画像生成。
動画編集。
3D制作。
ゲーム。

これらをまとめて扱うPC向けのプラットフォームとして見ることができます。

用語メモ：RTX
NVIDIAのグラフィック・AI支援技術のブランド。レイトレーシングやDLSSなどを含む。

Windows on Armとは

N1X / RTX Sparkは、Arm系のWindows PCとして語られています。

Armとは、CPUの設計方式のひとつです。
スマートフォンやタブレットでは広く使われており、省電力性に強いのが特徴です。

一方、これまでのWindows PCは、IntelやAMDのx86系CPUが中心でした。

そのため、Arm版Windowsでは互換性が問題になります。

古いWindowsアプリ、ゲーム、ドライバ、周辺機器などが、すべて問題なく動くとは限りません。

MicrosoftはPrismという変換技術を使って、x86向けアプリをArm環境で動かす仕組みを用意しています。

ただし、変換して動かす以上、性能低下や相性問題が出る可能性はあります。

N1X / RTX Sparkが成功するには、AI性能だけでなく、普通のWindows PCとして使いやすいことも重要になります。

用語メモ：Windows on Arm
Arm系CPUで動くWindows。省電力に強い一方、従来のx86アプリとの互換性が課題になる。

OpenShellとは

OpenShellは、NVIDIAがMicrosoftと連携して進めているローカルAIエージェント向けの仕組みです。

AIエージェントとは、ユーザーの指示を受けて、PC上で作業を進めるAIのことです。

たとえば、ファイルを探す。
文章を要約する。
アプリを操作する。
予定を整理する。

こうした作業をAIが補助する使い方が考えられます。

ただし、AIエージェントがPC上で動くなら、セキュリティが重要になります。

個人情報を勝手に送らないか。
重要なファイルを誤って操作しないか。
クラウドに渡してよい情報と、ローカルで処理すべき情報を分けられるか。

NVIDIAはRTX Sparkについて、Microsoftの新しいWindows security primitivesとNVIDIA OpenShellを組み合わせ、主要デバイス上でAIエージェントを安全に動かす方向性を説明しています。

AI PCは、ただAIが速く動けばよいわけではありません。

ユーザーのデータや操作権限を守りながら、AIに作業させる仕組みも必要になります。

用語メモ：AIエージェント
ユーザーの指示を受けて、アプリ操作や情報整理などを進めるAI。PC上で動かす場合はセキュリティ管理が重要になる。

N1X / RTX Sparkは何に使われるのか

N1X / RTX Sparkは、普通の事務作業だけを目的にしたSoCではありません。

主に想定されるのは、ローカルAIやGPU処理を使う作業です。

まず、ローカルLLMの実行です。

ChatGPTのようなAIは、基本的にはクラウド上の大きなサーバーで動いています。
しかしローカルLLMでは、自分のPCの中でAIモデルを動かします。

NVIDIAはRTX Sparkについて、ローカルAIエージェントや個人用AIコンピューターを意識したWindows PC向けプラットフォームとして紹介しています。

ローカルでAIを動かせると、通信環境に左右されにくくなります。
処理の一部を手元で完結できます。
プライバシー面でも、クラウドに送らなくてよいデータを増やせる可能性があります。

次に、AIエージェントです。

AIエージェントは、ユーザーの指示を受けて、ファイル整理、文章作成、要約、アプリ操作などを補助するAIです。

N1X / RTX SparkのようなPCでは、こうしたAIエージェントをローカルで動かす用途が想定されています。

画像生成や動画編集にも使われます。

生成AIではGPU性能が重要になります。Blackwell GPU、Tensor Core、FP4演算は、こうしたAI処理を高速化するための技術です。

3D制作やゲームにも関係します。

RTX、DLSS、レイトレーシングなどの技術が使えるため、AI用途だけでなく、クリエイティブ作業やゲーム用PCとしての側面もあります。

さらに、AI開発にも向いています。

CUDAやNVIDIAのAIソフトウェア環境を使えるため、開発者がローカル環境でモデルを試したり、推論環境を作ったりする用途にも使えます。

つまりN1X / RTX Sparkは、ローカルLLM、AIエージェント、画像生成、動画編集、3D制作、ゲーム、AI開発を一台で扱うためのチップとして考えられます。

注意点：まだ実機で確認したい部分

N1X / RTX Sparkには期待できる技術が多く入っています。

ただし、実際の使い勝手は搭載PCが出てから確認する必要があります。

見たいポイントは、まずLLMの実行速度です。

7B、13B、70B、120B級のモデルが、それぞれ何 tokens/sec で動くのか。

次に発熱と消費電力です。

AI処理は重いので、長時間動かしたときに性能が落ちないかが重要になります。

さらに、Windows on Armの互換性もあります。

AI処理が速くても、普段使うアプリ、ゲーム、ドライバ、周辺機器で問題が多ければ、メインPCとしては使いにくくなります。

そして価格も重要です。

128GB統合メモリやBlackwell GPUを積んだPCがどの価格帯になるのかによって、一般ユーザー向けなのか、開発者・クリエイター向けなのかが変わってきます。

まとめ

N1X / RTX Sparkは、LLMやローカルAIを個人用PCで動かすための新しいSoCです。

革新性は、単にCPUとGPUをひとつにまとめたことではありません。

NVIDIAのBlackwell GPU、第5世代Tensor Core、FP4演算、最大128GB統合メモリ、NVLink-C2C、CUDAを中心としたソフトウェア環境を、AI向けPCのために組み合わせている点にあります。

これにより、クラウドに頼るだけではなく、手元のPCで大きなAIモデルを動かす方向性が見えてきます。

使われる用途としては、ローカルLLM、AIエージェント、画像生成、動画編集、3D制作、ゲーム、AI開発などが考えられます。

もちろん、実際の評価は搭載PCが出てからです。

LLMの実行速度、発熱、消費電力、価格、Windows on Armの互換性などは確認する必要があります。

それでも、N1X / RTX Sparkは、AI時代のPCがどのような形になるのかを考えるうえで重要なチップです。

単なる新型CPUでも、ただのGPU内蔵SoCでもなく、ローカルAIを動かすためのPCを作る試みとして見ると分かりやすいです。