NVIDIA cuts Vera Rubin's memory bandwidth by up to 26%, and AMD's Helios now leads in memory bandwidth

NVIDIA cuts Vera Rubin's memory bandwidth by up to 26%, and AMD's Helios now leads in memory bandwidth


NVIDIA は、公開されている HBM4 および NVLink の仕様を密かに引き下げました。 ベラ・ルービンのプラットフォームなんのアナウンスもなく。 2026年9月1日と9月11日のWayback Machineのスナップショットは、製品ページがそれらの日付の間に編集されたことを示しており、カットが1か月以上気づかれなかった可能性があることを示唆しています。この変更は ITHome によって最初に強調されました。

各 Rubin GPU について、NVIDIA は当初、288 GB の HBM4 メモリ、22 TB/秒の帯域幅、および 3.6 TB/秒の双方向 NVLink 6 帯域幅をリストしていました。改訂された仕様では、これらの数値がそれぞれ 19.2 TB/秒と 3 TB/秒に低下し、約 13% と 17% の削減になります。メモリ容量は変わりません。

Vera CPU と 2 つの Rubin GPU を組み合わせた Vera Rubin Superchip も、メモリ帯域幅が 44 TB/秒から 38.5 TB/秒に低下し、NVLink 帯域幅が 7.2 TB/秒から 6 TB/秒に低下しました。

ラックレベルでは、主力の NVL72 システムは 72 個の Rubin GPU と 36 個の Vera CPU を組み合わせています。 HBM4 の総帯域幅は 1,580 TB/秒から 1,400 TB/秒に低下し、NVLink 帯域幅は 260 TB/秒から 216 TB/秒に低下しました。総メモリ容量は 20.7TB のままです。

NVIDIA cuts Vera Rubin's memory bandwidth by up to 26%, and AMD's Helios now leads in memory bandwidth
強調表示された行は、NVL72、Superchip、および Rubin GPU の数値がそれぞれ 1,400、38.5、および 19.2 TB/s に引き下げられる前の、NVIDIA が以前に公開した Vera Rubin の HBM4 帯域幅数値を示しています。 (画像:ウェイバックマシン)

ギャラリーを見る – 4 枚の画像

ほとんどのクラウド プロバイダーや企業が実際に導入する 8 GPU システムである HGX Rubin NVL8 が最も大きな打撃を受けます。記載されている HBM4 帯域幅は 176 TB/秒から 130 TB/秒に低下し、約 26% 低下します。一方、メモリ容量は 2.3 TB から 2 TB に低下します。 NVLink スイッチの帯域幅は 28.8 TB/秒から 24 TB/秒に低下し、記載されている NVFP4 パフォーマンスは 280 PFLOPS から 270 PFLOPS に低下します。

ただし、NVL8 の数値は GPU ごとの仕様と一致しません。それぞれ 19.2 TB/秒の 8 つの GPU は、記載されている 130 TB/秒ではなく、約 154 TB/秒を実現する必要があります。 NVIDIA のドキュメントも一貫性がなく、一部のページには元の数値が表示されたままになっています。

GPU メモリと帯域幅の行が強調表示された NVIDIA Vera Rubin NVL72 スペック表: ラックには 1,400 TB/s で 20.7 TB HBM4、Superchip には 38.5 TB/s で 576 GB、および 1 つの Rubin GPU には 19.2 TB/s で 288 GB。
NVIDIA の Vera Rubin スペック表の強調表示された行には、改訂された HBM4 帯域幅が NVL72 ラックで 1,400 TB/s、Superchip で 38.5 TB/s、Rubin GPU で 19.2 TB/s とリストされています。 (画像:ウェイバックマシン)

すべてのスペックが削減されているわけではありません。スケールアウト ネットワーキング帯域幅は、スーパーチップあたり 0.8 TB/秒から 0.9 TB/秒に 12.5% 増加し、NVL72 ラックの合計は 28.8 TB/秒から 32.4 TB/秒に増加しました。

NVIDIA は変更について説明していないため、理由は不明のままです。レポートによると、HBM4 のデータ レートはピンあたり 11.7 Gbps から 9.6 Gbps に低下しました。これは、NVIDIA 独自のバス設計と電気信号が原因である可能性があります。他の報道によると、サプライヤーは当初の目標を達成するのに苦労しているという。 NVLink ナイキスト周波数も 56GHz から 47GHz に低下したと報告されており、これによりハードウェアの需要が緩和され、歩留まりが向上する可能性があります。

NVIDIA Vera Rubin NVL72 スライドのラック レンダリングと仕様は、20.7 TB の HBM4 容量と 1.6 PB/s の HBM4 帯域幅を示しています。
NVIDIA の Vera Rubin NVL72 スライドには、ラックの改訂公表値である 1.4 PB/秒を上回る、1.6 PB/秒の HBM4 帯域幅が記載されています。 (画像:NVIDIA)

これらはベンチマーク結果ではなく公開された仕様であり、Rubin のスパース NVFP4 推論パフォーマンスは GPU あたり 50 PFLOPS で変わりません。それでも、削減は帯域幅を大量に使用するワークロード、特に大規模モデルの推論に影響を与える可能性があります。

ストーリーQ&A

TweakBot による提供

この記事についての TweakTown の報道より。

Vera Rubin の HBM4 帯域幅の削減は、大規模モデルの推論ワークロードにどのような影響を与える可能性がありますか?

NVIDIA の NVL72 と AMD の Helios は、ラックレベルの HBM4 の容量と帯域幅でどのように比較されますか?

NVIDIA が改訂した Vera Rubin 帯域幅の数値を説明できると考えられる HBM4 のデータレートまたはサプライヤーの制約は何ですか?

NVLink 帯域幅の減少は、Rubin システムの GPU 間の通信にどのような影響を与える可能性がありますか?

他に何か欲しいですか? TweakBot に質問してください。

この変更により、論文間のギャップも拡大します。 AMDのInstinct MI455Xこれは、GPU あたり 23.3 TB/秒で 432 GB の HBM4 を提供します。 AMD の Helios ラックは、NVL72 の 20.7 TB と 1.4 PB/秒と比較して、約 31 TB の HBM4 と 1.67 PB/秒のメモリ帯域幅を備えています。





Source link

Leave a Reply

Your email address will not be published. Required fields are marked *