亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。 据了解,实例张家口市某某工业设备有限责任公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马张家口市某某工业设备有限责任公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用 据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。 Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。 此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读
- 最近发表
- 随机阅读
-
- 刚刚,中美机器人爆发了一场论战
- 中新真探:年年做体检,最后查出癌症是晚期,说明做体检没用?
- 日本宫崎县日向滩发生5.3级地震
- 越南海军舰艇到广东,什么情况?
- 净利暴增285%!380亿光伏玻璃巨头,熬过至暗时刻
- 网友曝景区平台休息收50元?景区:收的是垃圾费
- 湖北一景区漂流艇侧翻致多名游客落水
- 小组第一!中国男子4×100米接力进决赛
- 北大博士收割1000亿,人抓回来一年,钱没了
- 林雨薇复活赛小组第6无缘半决赛
- 中国拳击首金!常园夺女子54公斤级金牌
- 中新真探:喝硬水更容易患结石病吗?
- 米兰冬奥会火种抵达罗马
- OpenAI,雪崩开始了吗?
- 连续4个月盈利,盒马明确“不会被卖”
- 近期多名基金经理“回炉重造”,什么情况?
- 高市早苗被控涉嫌违规收受企业政治捐款
- 以色列同意8月15日恢复加沙停火谈判
- 越南海军舰艇到广东,什么情况?
- 向上,向上!伍鹏为中国摘得奥运男子速度攀岩银牌
- 搜索
-