由 NVIDIA Blackwell GPU 提供支持的新 Amazon EC2 P6-B200 实例可加速 AI 创新

快速阅读: 据《亚马逊云科技》称，亚马逊宣布Amazon EC2 P6-B200实例全面可用，搭载英伟达B200芯片，专为AI、ML和HPC设计，性能大幅提升，现已在美西（俄勒冈）区域上线。

今天，我们宣布了亚马逊弹性计算云（Amazon EC2）P6-B200实例的全面可用性。这些实例由英伟达B200芯片驱动，旨在满足客户在人工智能（AI）、机器学习（ML）和高性能计算（HPC）应用中对高性能和可扩展性的需求。Amazon EC2 P6-B200实例能够加速广泛的GPU赋能工作负载，尤其适用于大规模分布式AI训练和推理任务，包括强化学习（RL）及蒸馏、多模态训练和推理的基础模型（FMs），以及气候建模、药物发现、地震分析和保险风险建模等HPC应用程序。当与弹性网卡适配器（EFAv4）网络、EC2超集群的超大规模集群以及AWS Nitro系统的先进虚拟化和安全功能结合使用时，您可以以更高的速度、规模和安全性训练和服务基础模型。这些实例还比EC2 P5en实例提高了多达两倍的AI训练（训练时间）和推理（每秒令牌数）性能。您可以加速基础模型的训练上市时间，并提供更快的推理吞吐量，这可以降低推理成本，并帮助增加生成式AI应用的采用，以及提高HPC应用程序的处理性能。

### EC2 P6-B200实例规格

新的EC2 P6-B200实例提供了八个英伟达B200 GPU，拥有1440 GB的高带宽GPU内存，第五代英特尔至强可扩展处理器（Emerald Rapids），2 TiB的系统内存和30 TB的本地NVMe存储。以下是EC2 P6-B200实例的规格：

| 实例大小 | GPU（英伟达B200） | GPU内存（GB） | vCPU | GPU点对点通信（GB/s） | 实例存储（TB） | 网络带宽（Gbps） | EBS带宽（Gbps） |
|——————–|——————-|—————-|——|———————–|—————-|——————|—————–|
| P6-b200.48xlarge | 8 | 1440 HBM3e | 192 | 1800 | 8 x 3.84 | 8 x 400 | 100 |

这些实例的GPU TFLOPs提升了高达125%，GPU内存大小增加了27%，GPU内存带宽增加了60%相比P5en实例。

### P6-B200实例的实际应用

您可以在**美国西部（俄勒冈）AWS区域**通过用于机器学习的EC2容量块使用P6-B200实例。要保留您的EC2容量块，请在亚马逊EC2控制台选择容量预留。选择购买机器学习容量块，然后选择您的总容量并指定您需要p6-b200.48xlarge实例的容量块的时间长度。您可以保留EC2容量块的总天数为1-14天、21天、28天或最多182天的7的倍数。您可以提前最多8周选择最早的开始日期。现在，您的EC2容量块将成功安排。EC2容量块的总价格将在购买后提前收取，购买后价格不会更改。购买EC2容量块后的12小时内，账单将计入您的账户。如需了解更多信息，请访问Amazon EC2用户指南中的容量块用于机器学习。

在启动P6-B200实例时，您可以使用AWS深度学习AMI（DLAMI）来支持EC2 P6-B200实例。DLAMI为机器学习从业者和研究人员提供了基础设施和工具，在预配置环境中快速构建可扩展、安全的分布式机器学习应用程序。要运行实例，您可以使用AWS管理控制台、AWS命令行界面（AWS CLI）或AWS软件开发工具包。您可以无缝地将EC2 P6-B200实例集成到各种AWS托管服务中，例如亚马逊弹性Kubernetes服务（Amazon EKS）、亚马逊简单存储服务（Amazon S3）和Amazon FSx for Lustre。Amazon SageMaker超导支持也将很快推出。

### 已经上市

Amazon EC2 P6-B200实例今天在美国西部（俄勒冈）区域可用，并且可以作为用于机器学习的EC2容量块购买。请在亚马逊EC2控制台中尝试Amazon EC2 P6-B200实例。如需了解更多，请参阅Amazon EC2 P6实例页面，并通过AWS re:Post for EC2或通过您的常规AWS支持联系人发送反馈。

——查尼新闻博客做得如何？参与这个1分钟的调查！（该调查由外部公司主办。AWS按照AWS隐私声明所述处理您的信息。AWS将拥有通过此调查收集的数据，并且不会与调查参与者共享所收集的信息。）

(以上内容均由Ai生成)