エヌビディア（NVDA：Nvidia）の強み：BlackwellやGB200とは？製品の詳細と推論最適化の仕組みに迫る！

※「エヌビディア（NVDA）は何がすごい？3月のジェンセンCEOによる基調講演の分析を通じて、同社の強みと魅力を徹底解説！」の続き

エヌビディア（NVDA：Nvidia）の製品

まずはエヌビディア（NVDA：Nvidia）の象徴ともいえるGPUから見ていきましょう。

関連用語

GPU（Graphics Processing Unit）: 画像処理や並列計算に特化したプロセッサで、特にゲームやAI、科学計算などに使用される。

HBM（High Bandwidth Memory）: 高速なデータ転送を可能にするメモリで、複数の層を積み重ねた構造を持ち、GPUなどの高性能なコンピューティングで利用される。

CPU（Central Processing Unit）: コンピュータの中心的な処理装置で、さまざまなタスクの制御と計算を行う一般的なプロセッサ。

エヌビディア（NVDA：Nvidia）のBlackwell GPU（B100）

エヌビディア（NVDA：Nvidia）のBlackwell GPUは既存のH100（エヌビディアの最新世代の高性能GPU）と互換性がありますが、多くの顧客は新規システムへの導入時に使用することが多いでしょう。

このGPUは8 TB/s（テラバイト毎秒）のメモリ帯域幅を持ち、8段積みの8-Hi HBM（高速なメモリであるHBMが8層に積み重ねられた構造を示しており、より高いメモリ帯域幅を実現するために使われる）を搭載しています。

基本的には空冷が推奨されていますが、メモリ容量がさらに大きいSKU（Stock Keeping Unit）では将来的に水冷が採用される可能性があります。

しかし、エヌビディアが注目している「大きな」GPUはこれだけではありません。

当基調講演で紹介されたのは、GPUとCPUの比率を2倍にしたGB200（エヌビディアの最新世代のコンピューティングユニット）で、GH200（GB200の前世代）から大幅に改良されています。

エヌビディア（NVDA：Nvidia）のGB200

以下の図に示す通り、GB200は2つのBlackwellと1つのGrace CPU（エヌビディアが開発した高性能なサーバー向けCPUで、AIやデータセンターのワークロードに特化）で構成されており、これによりCPUコストが抑えられ、GPUのメモリコントローラー（CPUやGPUとメモリの