亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例乌海市某某电子商务客服中心亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马乌海市某某电子商务客服中心用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读 (责任编辑:探索)
- 刚上任2个月,A股80后董事长被留置
- 埃及总统与叙利亚总统通电话 重申支持“两国方案”
- 宁夏公布提前批投档分数线,北大清华最低投档分是多少?了解一下
- 16年高考,是对是错?唐尚珺的故事引人深思
- 新雪季开启!新手也能放心冲的滑雪安全指南来了
- 韩检方向最大在野党前党首李在明及其夫人发出传票
- 【清澈的爱只为中国】图评丨奋斗进取 共绘祖国蓝图 views+
- 轻松一刻:怎么就六号了怎么就六号了怎么就六号了 views+
- 知名女演员被曝违法!紧急道歉 views+
- 向松祚:不要错误解读人民银行的货币政策工具 views+
- 文化中国行丨遇见三苏祠 聆听“一门三杰”背后点滴故事 views+
- 黎真主党高级官员:仍需时间选择真主党新任总书记 views+
- 以军空袭黎巴嫩贝鲁特南郊多处真主党据点 views+
- “以色列陷入更大规模战争,正合他意” views+
- 王楚钦梁靖崑夺得WTT中国大满贯男双冠军 views+
- 派出所凌晨3点还有游客排队打卡,“有时候警察都很想报警” views+
