拳打TPU，脚踢英特尔，亚马逊自研CPU和AI云芯片曝光

关键词： CPU , AI云芯片 , Graviton , InferenTIa

　　文/文强、张干、大明
　　来源：新智元（ID：AI_era）

　　【新智元导读】本周，亚马逊推出首款自研Arm架构云服务器CPU Graviton和首款云端AI推理芯片AWS InferenTIa，拳打TPU，脚踢英特尔，力图走一条自己的云端芯一体化路线，未来云计算市场将迎巨变！
　　亚马逊出手了，一出手就是两颗炸d！
　　本周一，亚马逊推出首款自研Arm架构云服务器CPU Graviton，目标直指英特尔；
　　昨天，亚马逊又推出了首款云端AI推理芯片AWS InferenTIa，目标是杀伤微软Azure、谷歌云等一批对手，并让中小玩家无牌可打。
　　亚马逊力图走一条自己的云端芯一体化路线，似乎没有给其他人留出可趁之机。
　　未来云计算的市场，将迎来巨变！
　　亚马逊自研Arm架构数据中心CPU，成本最低降45%
　　据The Register报道，本周公布的亚马逊AWS定制版Graviton——支持AWS的A1EC2实例的多核Arm处理器，处理器性能几乎与AMD的基于Arm的芯片相当，这些虚拟机现在可在美国和欧洲使用。

6 天前 上传

下载附件 (31.71 KB)

Graviton：亚马逊基于Arm架构的CPU
　　关于Graviton的性能参数，目前能了解到的是：CPU内核基于Arm 2015年的Cortex-A72设计，主频为2.3GHz，为64位Armv8-A、非NUMA处理器，具备浮点数学计算、SIMD、AES，SHA-1、SHA-256、GCM和CRC-32算法的硬件加速功能。
　　片上系统使用Arm的数据中心优化型Neoverse技术和Annapurna的内部设计。 16个vCPU实例排列在4个四核集群中，每个集群有2MB的共享L2缓存，每个核有32KB的L1数据缓存和48KB的L1指令缓存。一个vCPU对应一个物理核心。

6 天前 上传

下载附件 (20.56 KB)

　　亚马逊一位发言人表示：“AWS Graviton处理器是由AWS定制设计的新处理器系列，设计中融入了亚马逊为大规模云应用程序构建平台方案上的广泛专业知识。”
　　据亚马逊全球基础设施和客户服务VP Peter DeSanTIs所说，使用新的芯片能让AWS虚拟机特定工作负载的价格再降低45%。
　　亚马逊云首款AI芯片问世，降低推理成本75%
　　在亚马逊美国拉斯维加斯大会上，昨天还放出另一个炸d——首款云端AI芯片AWS Inferentia。

6 天前 上传

下载附件 (14.13 KB)

　　AWS Inferentia是一款机器学习推理芯片，支持TensorFlow、Apache MXNet和PyTorch深度学习框架，以及使用ONNX格式的模型。

6 天前 上传

下载附件 (24.19 KB)

　　使用经过训练的机器学习模型进行预测可以驱动应用程序高达90%的计算成本。开发人员可以将GPU支持的推理加速附加到Amazon EC2和Amazon SageMaker实例中，从而将推理成本降低75%。
　　根据官网介绍，每个Inferentia芯片提供高达几百TOPS的算力，使复杂的模型能够做出快速的预测。多个AWS Inferentia芯片可以一起使用来驱动，形成成千上万的TOPS算力。
　　这款芯片将于2019年底上市，AWS用户可以通过Amazon SageMaker、Amazon EC2等一起使用 Inferentia的算力。
　　云计算巨头自己造芯：摆脱束缚、降低成本、打击对手
　　Graviton的问世显示出亚马逊AWS摆脱英特尔的决心。
　　目前，英特尔拥有全球数据中心计算几乎全部市场份额，英特尔的服务器芯片价格居高不下，而且有供应短缺的风险。
　　为了摆脱这种束缚，越来越多互联网巨头们正考虑使用Arm，OpenPower，RISC-V和AMD Epyc产品，定制自己的芯片，全球云计算巨头（包括微软，谷歌，Facebook，亚马逊，百度等） 都在寻找替代芯片供应商。
　　早在2015年左右，亚马逊与AMD合作开发64位Arm服务器处理器，用于亚马逊的数据中心。AMD还在2016年就推出了与亚马逊合作的Arm芯片，代号“西雅图”的Opteron A1100处理器。
　　不过，AMD未能达到亚马逊的性能标准，于是亚马逊退出了与AMD的合作，收购了Arm授权许可持有者和片上系统设计企业Annapurna Labs，让收购后的团队开始设计物联网网关及其Nitro芯片组，负责处理托管EC2虚拟机的亚马逊服务器的网络和存储任务。
　　今天的高端Arm CPU的应用范围，远远超出了智能手机，还能够运行桌面端和轻型服务器上的应用程序。Graviton的问世就是Annapurna Labs的成果。
　　而AWS Inferentia的问世则是打击对手的思路。
　　第三季度，亚马逊有一半利润来自AWS云服务，AWS业务在第三季度的营业利润率为31％，这是四年多以来的最高水平。
　　市场份额也印证了AWS的业绩。根据Synergy Research的数据，亚马逊的AWS控制着34%的云基础设施服务市场。微软以15%的市场份额位居第二，其次是IBM（第三）和谷歌（第四），市场份额均为个位数。

6 天前 上传

下载附件 (27.41 KB)