亚马逊云科技宣布 Amazon Elastic Compute Cloud (Amazon EC2) P5 实例正式可用。这是一款下一代 GPU 实例，可以满足客户在运行人工智能、机器学习和高性能计算工作负载时对高性能和高扩展性的需求。该实例由最新的英伟达 H100 Tensor Core GPU 提供支持，与上一代基于 GPU 的实例相比，训练时间最多可缩短6倍（从几天缩短到几小时）。这一性能提升将帮助客户降低高达40%的训练成本。

Amazon EC2 P5 实例提供8个英伟达 H100 Tensor Core GPU，具有 640GB 高带宽 GPU 内存，同时提供第三代 AMD EPYC 处理器、2TB 系统内存和 30TB 本地 NVMe 存储。Amazon EC2 P5 实例还提供 3200Gbps 的聚合网络带宽并支持 GPUDirect RDMA，从而能够绕过 CPU 进行节点间通信，实现更低的延迟和高效的横向扩展性能。