Amazon Web Services启动了由Nvidia Ampere驱动的实例
亚马逊网络服务(AWS)宣布了一个新的基于GPU的实例Amazon P4d的可用性,该实例基于Nvidia的新Ampere架构,并且两家公司都在宣称性能。
AWS十年来一直提供基于GPU的实例,最新一代的实例称为P3。AWS和Nvidia都声称,与P3实例相比,P4d实例在机器学习培训和高性能计算工作负载方面的性能提高了三倍,成本降低了60%,GPU内存增加了2.5倍。
根据Nvidia的说法,与默认的FP32精度相比,使用FP16实例可以将机器学习模型的训练时间减少三倍,而使用TF32则可以将训练时间减少多达六倍,但是还可以训练更大,更复杂的模型。
这些也是一些重量级的实例。在一个EC2实例中,具有八个Nvidia A100 GPU的P4d实例能够提供高达2.5 petaflops的混合精度性能和320GB的高带宽GPU内存。AWS表示,P4d实例是第一个通过Elastic Fabric Adapter(EFA)和Nvidia GPUDirect RDMA网络接口提供400 Gbps网络带宽的设备,以实现跨服务器的GPU之间的直接通信,从而降低延迟和提高扩展效率。
每个P4d实例还提供96个Intel Xeon可扩展(级联湖)vCPU,1.1TB系统内存和8TB本地NVMe存储,以减少单节点训练时间。通过将上一代P3实例的性能提高一倍以上,P4d实例可以将训练机器学习模型的成本降低多达60%。
“随着数据变得越来越丰富,客户正在训练具有数百万甚至数十亿个参数的模型,例如用于自然语言处理以进行文档摘要和问题解答,用于自动驾驶汽车的对象检测和分类,用于大规模内容审核的图像分类等参数,电子商务网站的推荐引擎,以及智能搜索引擎的排名算法,所有这些都需要增加网络吞吐量和GPU内存。” AWS在一份声明中说。
该公司表示,客户可以使用带有Amazon Elastic Kubernetes服务(Amazon EKS)或Amazon Elastic Container Service(Amazon ECS)库的AWS深度学习容器运行P4d实例。为了获得更全面的管理体验,客户可以通过Amazon SageMaker使用P4d实例,该实例旨在帮助开发人员和数据科学家快速构建,训练和部署ML模型。
HPC客户可以将AWS Batch和AWS ParallelCluster与P4d实例结合使用,以帮助协调作业和集群。P4d实例支持所有的ML学习框架,包括TensorFlow,PyTorch和Apache MXNet,使客户可以灵活地选择他们喜欢的框架。
P4d实例在美国东部(弗吉尼亚北部)和美国西部(俄勒冈)地区可用,并计划在不久的将来提供更多的可用性。AWS实例的起价为每小时32.77美元,但一年保留实例的价格降至每小时19.22美元,三年下来为11.57美元。
- 1bat的大数据(BAT的大数据来源)
- 2三星s8屏幕上端2(三星s8屏幕上端2个按键)
- 3三星屏幕坏了如何导出(三星屏幕摔坏了如何导出数据么)
- 4红米3x怎么关闭自动更新(红米k40s怎么关闭自动更新)
- 5微信上防止app自动下载软件怎么办(微信上防止app自动下载软件怎么办啊)
- 6押镖多少钱(押镖一个月有多少储备金)
- 7瑞星个人防火墙胡功能(瑞星个人防火墙协议类型有哪些)
- 8cf现在等级是多少(cf等级2020最新)
- 9老滑头多少条鱼(钓鱼老滑头有什么用)
- 10WPS自动调整语法(wps如何修改语法)
- 11dell控制面板防火墙(dell的防火墙怎么关闭)
- 12丑女技能升多少(丑女技能需要满级吗)
- 13智能家居系统怎么样(智能家居系统好吗)
- 14戴尔屏幕(戴尔屏幕闪烁)
- 15y85屏幕信息(vivoy85息屏显示时间怎么设置)
- 16魅蓝note3屏幕出现方格(魅蓝note屏幕竖条纹)
- 17v8手指按屏幕(触屏手指)
- 18金为液晶广告机(液晶广告机lb420)
- 19三星显示器怎么校色(三星显示器 调色)
- 20hkc显示器dvi音频(hkc显示器有音响么)
- 21康佳液晶智能电视机(康佳液晶智能电视机怎么样)
- 22做液晶画板电脑(做液晶画板电脑怎么操作)
- 23液晶屏极化现象原理(液晶屏极化现象原理是什么)
- 24企业网络安全防火墙(企业网络防护)
- 256splus黑屏屏幕不亮(苹果6s plus屏幕突然黑屏)
- 26充电导致屏幕失灵(充电导致屏幕失灵怎么办)
- 27超极本屏幕旋转(笔记本电脑屏幕旋转,怎么转过来?)
- 28igmp防火墙(防火墙配置ipv6)
- 29荣耀王者多少经验(王者荣耀经验多少一级)
- 30lol老将还剩多少(qg老将)