AWSは、4,000のNVIDIAA100を備えたクラウドクラスターを提供します

AWSは、AWSP4dと呼ばれるNVIDIAA100アクセラレータを備えた新世代のEC2インスタンスを導入しました。 AWS P4dインスタンスは、NVLinkを介して接続された8つのAmpere A100プロセッサによってサポートされ、単一のマシンで2.5ペタフロップのフローティングポイントパフォーマンスと320GBの高帯域幅GPUメモリを提供します。

さらに、新しいP4dインスタンスは、IntelXeonスケーラブルカスケードレイク世代に基づく96個のvCPU、合計1.1TBのシステムメモリおよび8TBのNVMeストレージも備えています。

AWSによると、新しいインスタンスは、Elastic Fabric Adapter（EFA）を使用した400 Gbpsネットワーキングと、仮想化サーバーのCPUをオフロードするNVIDIA GPUDirectRDMAテクノロジーのサポートを備えた最初のインスタンスです。 NVIDIA V100GPUを搭載した最新世代のP3インスタンスの16倍の合計ネットワーク帯域幅。

Amazonによると、新しいP4dインスタンスは、機械学習コストを最大60％削減し、深層学習の2.5倍以上のパフォーマンスを実現します。新しいAmazonP4dインスタンスは、今日ますます一般的になりつつある、より大きく、より複雑なモデルのトレーニングに役立ちます。

さらに、Amazonは、EC2UltraClustersを使用してP4dインスタンスを作成する機能も提供します。最大の処理能力を必要とするユースケースに合わせて調整されたEC2UltraClustersは、他のクラウドプロバイダーの2倍のサイズである4,000 A100GPUユニットまで拡張できます。

価格に関しては、AWSは現在P4dインスタンスに対して1つの構成のみを提供しています。 8つのNVIDIAA100 GPU、96のvCPU、400Gb接続、8TB NVMe SSD、19 GbpsEBSボリュームおよび600Gbps NVSwitchスイッチを備えたp4d.24xlarge構成は、1時間あたり32.77ドルの費用がかかります。コピーを1年または3年間予約すると、1時間あたりの費用はそれぞれ19.22ドルと11.57ドルに下がります。