行业
热点
栏目
产品
NVIDIA A100登陆AWS，开启加速云计算的下一个十年
云栖网：十年前，AWS（AmazonWebServiCES）发布了首个采用NVIDIAM2050GPU的实例。当时，基于CUDA的应用主要专注于加速科学模拟，AI和深度学习还遥遥无期。
自那时起，AW就不断扩充云端GPU实例阵容，包括K80（p2）、K520（g3）、M60（g4）、V100（p3/p3Dn）和T4（g4）。
现在，已全面上市的全新AWSP4d实例采用最新NVIDIAA100TensorCoreGPU，开启了加速计算的下一个十年。
全新的P4d实例，为机器学习训练和高性能计算应用提供AWS上性能与成本效益最高的GPU平台。与默认的FP32精度相比，全新实例将FP16机器学习模型的训练时间减少多达3倍，将TF32机器学习模型的训练的时间减少多达6倍。
这些实例还提供出色的推理性能。NVIDIAA100GPU在最近的MLPerfInference基准测试中一骑绝尘，实现了比CPU快237倍的性能。
每个P4d实例均内置八个NVIDIAA100GPU，通过AWSUltraClusters，客户可以利用AWS的ElasticFabricAdapter（EFA）和AmazonFSx提供的可扩展高性能存储，按需、可扩展地同时访问多达4,000多个GPU。P4d提供400Gbps网络，通过使用NVLink、NVSwitch、NCCL和GPUDirectRDMA等NVIDIA技术，进一步加速深度学习训练的工作负载。EFA上的NVIDIAGPUDirectRDMA在服务器之间可通过GPU传输数据，无需通过CPU和系统内存，从而确保网络的低延迟。
此外，许多AWS服务都支持P4d实例，包括AmazonElasticContainerServices、AmazonElasticKubernetesService、AWSParallelCluster和AmazonSageMaker。P4d还可使用所有NGC提供的经过优化的容器化软件，包括HPC应用、AI框架、预训练模型、Helm图表以及TensorRT和TritonInferenceServer等推理软件。
目前，P4d实例已在美国东部和西部上市，并将很快扩展到其他地区。用户可以通过按需实例（On-Demand）、SavingsPlans、预留实例（ReservedInstances）或竞价型实例（SpotInstances）几种不同的方式进行购买。
GPU云计算发展最初的十年，已为市场带来超过100exaflops的AI计算。随着基于NVIDIAA100GPU的AmazoNEC2P4d实例的问世，GPU云计算的下一个十年将迎来一个美好的开端。
NVIDIA和AWS不断帮助各种应用突破AI的界限，以便了解客户将如何运用AI强大的性能。
