AWS bietet Cloud-Cluster mit 4.000 NVIDIA A100 an

AWS hat eine neue Generation von EC2-Instanzen mit NVIDIA A100-Beschleunigern namens AWS P4d eingeführt. AWS P4d-Instanzen werden von acht Ampere A100-Prozessoren unterstützt, die über NVLink verbunden sind. Sie bieten 2,5 Petaflops Gleitkomma-Leistung und 320 GB GPU-Speicher mit hoher Bandbreite auf einem einzelnen Computer.

Darüber hinaus werden die neuen P4d-Instanzen 96 vCPUs enthalten, die auf der Intel Xeon Scalable Cascade Lake-Generation basieren, insgesamt 1,1 TB Systemspeicher und 8 TB NVMe-Speicher.

Laut AWS verfügen die neuen Instanzen als erste über ein 400-Gbit / s-Netzwerk mit Elastic Fabric Adapter (EFA) und Unterstützung für die NVIDIA GPUDirect RDMA-Technologie, mit der die CPUs von Virtualisierungsservern ausgelagert werden. 16x mehr Gesamtnetzwerkbandbreite als P3-Instanzen der neuesten Generation mit NVIDIA V100-GPUs.

Amazon behauptet, dass die neuen P4d-Instanzen bis zu 60% niedrigere Kosten für maschinelles Lernen und mehr als das 2,5-fache der Leistung von Deep Learning bieten. Die neuen Amazon P4d-Instanzen werden dazu beitragen, die größeren, komplexeren Modelle zu trainieren, die heutzutage immer häufiger eingesetzt werden.

Darüber hinaus bietet Amazon die Möglichkeit, P4d-Instanzen mit EC2 UltraClusters zu erstellen. EC2 UltraCluster, die auf Anwendungsfälle zugeschnitten sind, die maximale Verarbeitungsleistung erfordern, können bis zu 4.000 A100-GPU-Einheiten skalieren, doppelt so groß wie jeder andere Cloud-Anbieter.

In Bezug auf die Preisgestaltung bietet AWS derzeit nur eine Konfiguration für P4d-Instanzen an. Eine p4d.24xlarge-Konfiguration mit 8 NVIDIA A100-GPUs, 96 vCPUs, 400-Gbit-Konnektivität, 8-TB-NVMe-SSD, 19-Gbit / s-EBS-Volumes und 600-Gbit / s-NVSwitch-Switches kostet 32,77 USD pro Stunde. Wenn Sie ein Exemplar für ein oder drei Jahre reservieren, sinken die Stundenkosten auf 19,22 USD bzw. 11,57 USD.