NVIDIA Vera Rubinがもたらすパフォーマンスとコスト効率の革新
サマリー
NVIDIA Vera Rubinが新たなAIインフラを提供し、パフォーマンスとコスト効率を大幅に向上させています。CoreWeaveなどのパートナーと共に、メガワットあたりのトークン数を10倍に増加させる成果を上げています。これにより、AI工場の効率的な運用が可能になります。
本文
NVIDIA Vera Rubinが登場し、ギガスケールの運用が始まっています。Vera Rubin NVL72の生産がCoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureのパートナーと共に加速しており、30カ国以上の350以上の工場サイトを網羅しています。このプラットフォームは、最高のパフォーマンスと最低のトークンコストを実現するよう設計されています。CoreWeaveのDeepSeek-R1の初期ベンチマークによると、Grace Blackwell NVL72と比較して、メガワットあたり10倍のスループットを達成しています。
Vera Rubinは、7つのチップと5つのラックトレイを極限まで共同設計することで、これを実現しています。NVIDIA Vera CPUはその中心にあり、エージェント時代に向けて設計され、競合するチップレット設計に対して2倍のシングルスレッド性能、3倍のコア間帯域幅、40%低いメモリレイテンシを提供します。
また、ネットワーキングにおいては、プラットフォームの第6世代NVLinkが複雑なワークロードに対して2倍以上のスループットを提供し、レイテンシを3倍低下させ、パケットレートを10倍向上させます。CoreWeave、Microsoft、SpaceXAI、Teslaなどの業界リーダーが、AI工場を加速させるためにSpectrum-6スイッチを導入しています。Vera Rubinは、ヨーロッパのAIインフラストラクチャの基盤を提供し、MicrosoftとMistralのパートナーシップを通じて、オープンなモデルを地域に持ち込む役割を果たしています。
Vera Rubinは、7つのチップと5つのラックトレイを極限まで共同設計することで、これを実現しています。NVIDIA Vera CPUはその中心にあり、エージェント時代に向けて設計され、競合するチップレット設計に対して2倍のシングルスレッド性能、3倍のコア間帯域幅、40%低いメモリレイテンシを提供します。
また、ネットワーキングにおいては、プラットフォームの第6世代NVLinkが複雑なワークロードに対して2倍以上のスループットを提供し、レイテンシを3倍低下させ、パケットレートを10倍向上させます。CoreWeave、Microsoft、SpaceXAI、Teslaなどの業界リーダーが、AI工場を加速させるためにSpectrum-6スイッチを導入しています。Vera Rubinは、ヨーロッパのAIインフラストラクチャの基盤を提供し、MicrosoftとMistralのパートナーシップを通じて、オープンなモデルを地域に持ち込む役割を果たしています。
