亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例武威市某某自动化科技经销部亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马武威市某某自动化科技经销部用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读(责任编辑:热点)
-
美联储下周降息稳了? 北京时间11月1日晚间,美国劳工统计局发布的数据显示,美国10月非农新增就业人数从9月的25.4万暴跌至1.2万人,增速创2020年最慢纪录,远不及预期的10万人;美国10 ...[详细]
-
司美格鲁肽进医保了 国家医保局:用来减肥不报销2024-04-16 13:56:10 来源:中国新闻网 作者 ...[详细]
-
陪诊师变身“号贩子” 行业边界亟待划清2024-05-07 10:41:14 来源:羊城晚报 作者:姜雨薇 ...[详细]
-
宁夏开展全国孤残儿童护理员高级技师、技师职业技能等级认定工作
宁夏开展全国孤残儿童护理员高级技师、技师职业技能等级认定工作2024-05-06 16:34:01 来源:中国新闻网 ...[详细] -
01今日长难句Their theory is that if a lot of traders have already sold stocks, there will be fewer potent ...[详细]
-
科学减脂,“迈开腿”要跟上 | 科普时间2024-05-06 09:33:33 来源:健康中国微信公众号 作 ...[详细]
-
宁夏开展全国孤残儿童护理员高级技师、技师职业技能等级认定工作
宁夏开展全国孤残儿童护理员高级技师、技师职业技能等级认定工作2024-05-06 16:34:01 来源:中国新闻网 ...[详细] -
雨水多、湿气重 缓解“春困”有良方2024-05-07 10:51:22 来源:广州日报 作者:李岩 ...[详细]
-
△美国防部长奥斯汀 总台记者当地时间11月1日获悉,四名美国官员透露,美国防部长奥斯汀下令将几架B-52“同温层堡垒”战略轰炸机、加油机和海军驱逐舰部署到中东,以加强美国在该地区的存在。总台记者 张 ...[详细]
-
新型疫苗有望终止结核病流行2024-05-06 10:16:02 来源:科技日报 作者:曹子健 ...[详细]