NVIDIAとAWSが協力し、AIを大規模に生産へ
サマリー
NVIDIAとAWSが協力し、AIシステムの大規模展開を実現するための新しいインフラを提供します。EC2 G7インスタンスは、GPU性能を最大限に活用し、運用の複雑さを軽減します。これにより、企業はAIを迅速に生産環境に導入できるようになります。
本文
大規模なAIシステムの構築は、低遅延の推論、高速なベクトル検索、優れたGPUの価格性能、そして運用の複雑さを増やさずに成長できるインフラが求められます。NVIDIAの最新の取り組みは、Amazon Web Services（AWS）と連携し、これらの制約に対処しています。Amazon OpenSearchとAmazon EC2を通じて、NVIDIAのAIインフラは企業にAIを生産規模で展開するための実用的な道を提供しています。
EC2 G7インスタンスは、NVIDIA RTX PRO 4500 Blackwell Server Edition GPUを搭載し、AI、グラフィックス、ビデオ、データ分析のワークロードのための計算層を拡張します。また、NVIDIA cuVSライブラリは、OpenSearch ServerlessにおいてGPUによるベクトルインデックスをデフォルトにすることで、取得層を加速します。AWSはNVIDIA GB300に対してNVIDIA Exemplar Cloudの地位を達成しており、顧客はトレーニングワークロードに対して最適化されたパフォーマンスを受け取ることができます。
G7インスタンスは、AI推論、グラフィックス、空間コンピューティング、GPU加速データ分析のために設計された新しいインスタンスタイプを提供し、顧客管理のGPUプラットフォームの運用オーバーヘッドなしにパフォーマンスを実現します。G6インスタンスと比較して、G7はAI推論性能を最大4.6倍、グラフィックス性能を最大2.1倍向上させ、NVIDIA cuDFライブラリを使用したApache Sparkワークロードにおいてデータ分析を大幅に高速化します。
G7インスタンスは、最大8つのGPU、256GBのGPUメモリ、700 GbpsのEFA対応ネットワーク、最大7.6TBのローカルNVMe SSDストレージをサポートし、顧客はワークロードに応じたインフラを適切にサイズ調整できます。このプラットフォームの多様性により、AIチームは低遅延の推論を実現し、メディアやエンターテインメントチームは高解像度のビデオワークフローとレンダリングを行い、シミュレーション、CAD、仮想デスクトップインフラ、ゲーム、空間コンピューティングチームはグラフィックス集約型アプリケーションのために同じインスタンスタイプを利用できます。データチームは、GPUメモリ、ローカルストレージ、ネットワークの改善を分析パイプラインやベクトルデータベースワークロードに適用できます。
G7インスタンスは、AWS Deep Learning Amazon Machine Images（AMIs）、Amazon Deep Learning Containers、Amazon EMR、Amazon EKS、Amazon ECS、グラフィックスAMIsを通じてアクセス可能で、近日中にAmazon SageMaker AIにも対応予定です。
NVIDIA cuVSは、Amazon OpenSearchにおけるGPU加速ベクトル検索をデフォルトにします。次世代のAmazon OpenSearch Serverlessは、インフラ管理なしでエージェントAIや動的ワークロードを支え、NVIDIA cuVSによるGPU加速ベクトルインデックスをすべてのベクトルコレクションのデフォルト計算選択肢として使用します。このシフトは、取得強化生成、セマンティック検索、推薦システム、エージェントAIアプリケーションを構築するチームにとって重要です。これにより、GPUによるベクトル検索が専門的な最適化プロジェクトから標準的なAWS機能に変わります。
顧客への影響は直接的で、CPUのみのビルドと比較してベクトルインデックスが最大10倍速く、コストは4分の1になります。これにより、10億規模のベクトルデータベースを1時間以内に構築することが実現可能になります。NVIDIA cuVSをOpenSearch Serverlessのデフォルトにすることで、AWSの顧客は生データから生産準備が整ったAI取得インフラへの迅速な移行が可能になり、ワークロードがアイドル状態のときの運用オーバーヘッドが削減されます。
AWSは、トレーニングワークロードに対してNVIDIA GB300でNVIDIA Exemplar Cloudの地位を達成しました。これは、AWSがNVIDIAがAIワークロードを基準アーキテクチャに対して評価するために使用する厳格なパフォーマンス基準を満たしていることを意味します。この成果は、AWSとNVIDIAチームの深い共同エンジニアリングの結果です。NVIDIA Exemplar Cloudsイニシアティブを通じて、開発者やAIリーダーは、大規模トレーニングのための一貫した高性能クラウドインフラを使用していることに自信を持つことができ、クラウドプロバイダーの評価をより確実に行い、総所有コストを改善し、AIプロジェクトを計画から生産へとより効率的に移行できます。
これらの進展は、AWS上のAIインフラストラクチャスタックのすべての層を強化します。共通のテーマは、運用の負担を増やすことなくスケールでパフォーマンスを発揮する生産グレードのAIインフラストラクチャです。
EC2 G7インスタンスは、NVIDIA RTX PRO 4500 Blackwell Server Edition GPUを搭載し、AI、グラフィックス、ビデオ、データ分析のワークロードのための計算層を拡張します。また、NVIDIA cuVSライブラリは、OpenSearch ServerlessにおいてGPUによるベクトルインデックスをデフォルトにすることで、取得層を加速します。AWSはNVIDIA GB300に対してNVIDIA Exemplar Cloudの地位を達成しており、顧客はトレーニングワークロードに対して最適化されたパフォーマンスを受け取ることができます。
G7インスタンスは、AI推論、グラフィックス、空間コンピューティング、GPU加速データ分析のために設計された新しいインスタンスタイプを提供し、顧客管理のGPUプラットフォームの運用オーバーヘッドなしにパフォーマンスを実現します。G6インスタンスと比較して、G7はAI推論性能を最大4.6倍、グラフィックス性能を最大2.1倍向上させ、NVIDIA cuDFライブラリを使用したApache Sparkワークロードにおいてデータ分析を大幅に高速化します。
G7インスタンスは、最大8つのGPU、256GBのGPUメモリ、700 GbpsのEFA対応ネットワーク、最大7.6TBのローカルNVMe SSDストレージをサポートし、顧客はワークロードに応じたインフラを適切にサイズ調整できます。このプラットフォームの多様性により、AIチームは低遅延の推論を実現し、メディアやエンターテインメントチームは高解像度のビデオワークフローとレンダリングを行い、シミュレーション、CAD、仮想デスクトップインフラ、ゲーム、空間コンピューティングチームはグラフィックス集約型アプリケーションのために同じインスタンスタイプを利用できます。データチームは、GPUメモリ、ローカルストレージ、ネットワークの改善を分析パイプラインやベクトルデータベースワークロードに適用できます。
G7インスタンスは、AWS Deep Learning Amazon Machine Images（AMIs）、Amazon Deep Learning Containers、Amazon EMR、Amazon EKS、Amazon ECS、グラフィックスAMIsを通じてアクセス可能で、近日中にAmazon SageMaker AIにも対応予定です。
NVIDIA cuVSは、Amazon OpenSearchにおけるGPU加速ベクトル検索をデフォルトにします。次世代のAmazon OpenSearch Serverlessは、インフラ管理なしでエージェントAIや動的ワークロードを支え、NVIDIA cuVSによるGPU加速ベクトルインデックスをすべてのベクトルコレクションのデフォルト計算選択肢として使用します。このシフトは、取得強化生成、セマンティック検索、推薦システム、エージェントAIアプリケーションを構築するチームにとって重要です。これにより、GPUによるベクトル検索が専門的な最適化プロジェクトから標準的なAWS機能に変わります。
顧客への影響は直接的で、CPUのみのビルドと比較してベクトルインデックスが最大10倍速く、コストは4分の1になります。これにより、10億規模のベクトルデータベースを1時間以内に構築することが実現可能になります。NVIDIA cuVSをOpenSearch Serverlessのデフォルトにすることで、AWSの顧客は生データから生産準備が整ったAI取得インフラへの迅速な移行が可能になり、ワークロードがアイドル状態のときの運用オーバーヘッドが削減されます。
AWSは、トレーニングワークロードに対してNVIDIA GB300でNVIDIA Exemplar Cloudの地位を達成しました。これは、AWSがNVIDIAがAIワークロードを基準アーキテクチャに対して評価するために使用する厳格なパフォーマンス基準を満たしていることを意味します。この成果は、AWSとNVIDIAチームの深い共同エンジニアリングの結果です。NVIDIA Exemplar Cloudsイニシアティブを通じて、開発者やAIリーダーは、大規模トレーニングのための一貫した高性能クラウドインフラを使用していることに自信を持つことができ、クラウドプロバイダーの評価をより確実に行い、総所有コストを改善し、AIプロジェクトを計画から生産へとより効率的に移行できます。
これらの進展は、AWS上のAIインフラストラクチャスタックのすべての層を強化します。共通のテーマは、運用の負担を増やすことなくスケールでパフォーマンスを発揮する生産グレードのAIインフラストラクチャです。
