您现在的位置是:焦点 >>正文
亚马逊云科技:Amazon EC2 P5e 实例正式可用
焦点7人已围观
简介9月18日消息,亚马逊云科技宣布由英伟达H200 GPU提供支持的 Amazon Elastic Compute Cloud P5eAmazon EC2 P5e)实例现已正式可用。据了解,亚马逊云科技 ...
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例漳州市某某地暖科技售后客服中心亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马漳州市某某地暖科技售后客服中心用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读 Tags:
相关文章
“豆包手机”被监管机构约谈?知情人士:消息不实
焦点豆包AI助 手。视觉中国 图豆包手机持续引发关注。12月1日,字节跳动旗下AI大模型“豆包”宣布上线手机助手并与中兴通讯合作推出“豆包手机”——努比亚M153,作为一款拥有系统级权限的手机助手,它能像 ...
【焦点】
阅读更多警方披露23年前南京中山陵景区湖底沉尸案侦破始末
焦点每一起命案积案,都是一块难啃的硬骨头。可无论案发年代多么久远、无论逃犯藏得多深,南京警方都坚定“命案必破、积案必清”信念,耐心细致、锲而不舍,直至将凶犯捉拿归案。2023年,南京警方创造了一个纪录:一 ...
【焦点】
阅读更多方回春堂一门诊部医生被曝涉嫌猥亵女患者,警方已立案侦查
焦点近日,来自杭州的王女士向澎湃公众互动平台“服务湃”反映称,8月13日至9月4日,经家人介绍,她到杭州方回春堂下沙门诊部接受中医师吴某某的针灸治疗。治疗过程中,吴某某多次以治疗为名,实施不当行为。她提出 ...
【焦点】
阅读更多