この項目で混ざったもの
ハード側72GPU＋36CPUを液冷ラックに集約ソフト側ラック全体を1つのGPUとして扱える
2024年3月18日、NVIDIAはGTCでBlackwellのプラットフォームを発表しました。「GB200 NVL72」は、36個のGrace Blackwell Superchipを第5世代NVLinkでつないだシステムで、Blackwell GPUが72個、Grace CPUが36個です。プレスリリースは、複数のノードをまとめた液冷のラック型システムで、「1つのGPUのように動く」と書いています。AI性能は1.4エクサフロップス、高速メモリは30TBです。
1個のSuperchipは、2つのB200 GPUと1つのGrace CPUを、毎秒900ギガバイトのチップ間の接続でつなぎます。GPUどうしは、第5世代NVLinkで、1つのGPUあたり双方向毎秒1.8テラバイトで通信します。現行の製品ページは、72個のGPUのNVLinkがまとまった範囲を「巨大な1つのGPUのように動く」と説明し、その通信は毎秒130テラバイトとしています。つまり、チップの内側にあった「速くつなぐ」仕組みを、ラック全体まで広げたのが特徴です。
NVIDIAはその目的を、兆個のパラメータを持つ大規模言語モデルで、リアルタイムの生成AIを低いコストと消費電力で動かせるようにするためと説明しています。同社は、同じ数のH100と比べて、LLM推論で最大30倍としています。コストと消費電力を最大25分の1にするとも書いていますが、プレスリリースにその比較の条件は書かれていません。
製品ページには、この30倍は入力3万2768トークン・出力1024トークンなど特定の条件での試算で、数字は変更される可能性があると書かれています。ページには、より新しい構成として、72個のBlackwell Ultra GPUと36個のGrace CPUを積むGB300 NVL72も載っています。ここからは僕らの見立てです。H100の項目で見たNVLinkを外へ伸ばす流れが、ラック単位で売る形につながったのだと思います。
- 発表日
- 2024年3月18日（GTC）
- 構成
- Blackwell GPU 72個＋Grace CPU 36個
- NVLinkの範囲の通信量（製品ページ）
- 毎秒130テラバイト
- H100との比較（NVIDIA試算）
- LLM推論で最大30倍（特定条件下）
確認できていない点
- 現在の出荷状況・価格（製品ページに記載なし）
- 1.4エクサフロップスの測定条件（プレスリリースに記載なし）
- 『コストと消費電力が最大25分の1』の比較対象と条件（プレスリリースに記載なし。製品ページの25倍は『同じ電力での性能』でH100空冷インフラ比）
出典
- NVIDIA Blackwell Platform Arrives to Power a New Era of Computing（NVIDIA ニュースルーム）
- NVIDIA GB200 NVL72（NVIDIA製品ページ）
- NVIDIA Announces Hopper Architecture（NVIDIA ニュースルーム）
2026年10月18日に、上の出典（会社・研究機関の公式の資料と原著論文）を読んで確かめました。製品の仕様や提供状況は変わることがあります。この記事は、製品を試した記録ではありません。