AI正在落地 未来建设硬件和软件才是重点

今年，AI 的热潮在慢慢退去，从创业者、投资人，到学术机构，大家提到 AI 都不再爆发出“打鸡血“一般的狂热，对待 AI 的定位更加理性。前一段时间，与非网针对 AI 芯片做了盘点：从发烧到退热，国内 AI 芯片市场经过了怎样的“水深火热”？，2018 年，国内发布的 AI 芯片媒体能够统计到的有近 10 款，今年到目前为止，只有 5 款，AI 创业开始变冷，创业者都在等待新的赛道出现，难道眼看 AI 就要成为“明日黄花”了吗？

就在上周英特尔的 AI 业务交出一份答卷：营收近 35 亿美金。这是一个什么概念？放眼全球半导体公司营收排行榜，35 亿美金相当于 ST 的三分之一，AMD 的一半，Xilinx 的全年营收，果然是强者恒强。英特尔人工智能事业部副总裁兼人工智能平台和市场研究总经理 Julie Choi 还表示，“从 CPU 到 GPU，再到 FPGA，再到客户定制的 ASIC，我们要把 AI 融入到一切。”

KEEM BAY：又见Nervana新品

你还记得曾经的深度学习公司 Nervana 吗？它被 VentureBeat 评为值得关注的五家深度学习初创公司之一，在 2015 年被英特尔豪掷 4 亿美元收入囊中，随后声音越来越小，用户一度认为 Nervana 就要销声匿迹了。

就在上周，Julie Choi 展示了将在 2020 年上半年推出的 Movidius VPU，代号为 KEEM BAY，这款产品就来自 Nervana 团队。它被定义为一款低功耗、高性能、边缘推理处理器，为深度学习视觉以及媒体来打造。Julie Choi 介绍，“KEEM BAY 采用了专用架构，性能高度优化，针对边缘推理，在性能上有巨大提升，提供了 10 倍于上一代 Myraid X 的通量。在处理速度上，KEEM BAY 是英伟达 TX2 的 4 倍，而且要比 Ascend 310 快 25％；在能耗上，KEEM BAY 提供的每瓦的推理性能是英伟达 TX2 的 6 倍，每一平方毫米的推理性能是英伟达 TX2 的 8．7 倍。”

尤其是，KEEM BAY 和 OpenVINO 工具包相结合，客户能够充分的利用 KEEM BAY 的独特的深度学习优化架构，有可能获得再多 50％的性能。但是这并不仅仅是关于硬件的创新，英特尔一直都是致力于去赋能生态系统的开发者。2020 年，英特尔将推出一个新的开发者项目——面向边缘的 DEVCLOUD，让开发者在购买硬件前，可以在各类英特尔的处理器上尝试、部署原型和测试 AI 解决方案，OpenVINO 将继续帮助开发者在众多的硬件架构基础之上运行视觉模型。

AI在悄然落地，大有遍地开花之势

虽然 AI 遇冷，但是未必就是“明日黄花”，相反，AI 应用在不断落地，大有遍地开花之势。大众最熟悉的就是智能音箱，Strategy AnalyTIcs 的报告显示，2019 年第三季度全球智能音箱出货量同比增长 55％，达到 3490 万台。这是智能家居的典型产品，除此之外，还有智能灯、智能冰箱、智能空调、智能电饭煲等，数量更是惊人。但是除了智能家居产品，AI 在物联网、医疗、金融等领域也在悄然落地。

百度大脑搭载英特尔NNP－T

在国内互联网公司中，百度一致在致力于 AI 研究，百度 AI 系统架构师丁瑞全介绍了百度大脑的架构图，百度布局了基础层、认知层、感知层和平台层。其中，在基础层和平台层和英特尔进行了合作。在基础层的算力部分，英特尔的 NNP－T 和百度的超级计算机 X－Man 进行合作，百度的 X－Man4．0 携手英特尔加速 NNP－T 的上市应用，其中百度的 Rack 搭配四个 X－Man 计算机，采用 32 个 NNP－T 产品，目前已经在百度实验室中运行，整体进展符合预期，很快将在百度的数据中心里部署英特尔的产品。

在平台和生态层，百度与英特尔联合进行软件优化，在人工智能时代，深度学习框架是人工智能的 *** 作系统，百度的 PaddlePaddle 飞桨也是开源开放的深度学习框架，用户的接口友好，大规模训练和推理性能良好。百度利用英特尔的 VNNI 硬件加速指令集和 PaddlePaddle 结合，把 NLP 领域最重要的模型之一 ERNIE 速度提升 5 倍。在 AI 芯片领域，百度和英特尔把 NNP－T 最新的底层技术集成到 PaddlePaddle 里，在百度内部开发版本上已经具备了这个功能，X－MAN4．0 搭配 NNP－T 的机柜运行的就是 PaddlePaddle 的深度学习框架。这一功能预计将在 2020 年上半年开放给用户。

AI改变医疗

现在医学影像设备和系统虽然可以迅速到位，但是软实力却无法一蹴而就。如医学影像分析需要影像科医生拥有较高的专业素养，不仅具备临床医学、医学影像学等方面的专业知识，还必须掌握放射学、CT、核磁共振、超声学等相关技能，同时，还需要具备运用各种影像分析技术进行疾病诊断的能力。

作为诊断”金标准”的病理学诊断，在 AI 应用上亦如此。病理 AI 辅助诊断需要综合病理学知识和人工智能算法，针对单一病种进行海量数据标注及人工智能算法调优，而产品化进程中算法泛化能力对病理 AI 厂商而言也是巨大挑战。

以宫颈癌筛查为例，2018 年，WHO 调查了 57 万例女性癌症患者，其中 6．6％是宫颈癌患者，宫颈癌是排名第四的致命疾病，但是宫颈癌也是现在少有知晓致病机理的癌症病种——HPV 感染，其早期发现可以完全治愈。如果采用 AI 技术筛查，完全可以推动消灭宫颈癌。目前中国每年会产生数千万新的宫颈癌 LBP 涂片，这对医疗机构的病理诊断能力构成巨大的挑战。为此，江丰生物与英特尔一起，开始利用先进的 AI 技术，构建和优化基于宫颈 LBP 切片的宫颈癌筛查 AI 解决方案，基于 5961 张精确标杆样本进行了训练，并在 246 张测试集上评估了算法模型。

结果显示，加入分类网络后的优化方案，准确性比单独的目标侦测网络方案有了大幅提升。如上图，加入分类网络后，当其敏感度为 96％时，特异性接近 70％；单独目标侦测网络方案中，其 AUC 在 0．9，是一个非常优异的数值。

江丰生物信息技术有限公司副总经理桂坤解释，“我们的 AI 筛查方案已经取得了实际成效，2019 年，通过国家援非医疗项目进行了宫颈癌筛查，我们参与了一万余例；在湖南做了两万六千余例，结合湖南的县级医院，把头部医院的高年资医生，优质资源下沉到县级医院去，这符合国家的分级诊疗策略。”

AI成为金融的“宠儿”

2000 年，华尔街投行高盛在纽约总部的美国股票交易柜台雇佣了 600 名交易员，如今只剩下了 3 个股票交易员，目前高盛超过 9000 人是程序员和工程师，高盛已经成为一家技术公司；华尔街上另一家巨头摩根大通也采取了类似的做法，聘用了 4 万名技术人员专门研究大数据、机器人和云基础设施，技术预算达到 96 亿美元，AI 成了金融业的宠儿。

在实际应用中，英特尔与金融用户合作探索利用 RNN 模型学习用户行为特征，当一个很少离开居住地的老人的xyk出现多次大额交易的时候，这一异常交易特征就会被规则引擎匹配，并引起警觉，这个账户会被列入风控系统监控范围，从而有效避免诈骗发生。

英特尔亚洲人工智能销售技术总监伊红卫介绍，“英特尔至强处理器以及其可扩展处理器的硬件平台为中国银联反欺诈模型成功构建、应用提供的强劲算力，以及英特尔提供的多项优化措施，用户可以在未来选择性能更强、在 AI 领域有着更多优化方法的英特尔第二代至强可扩展处理器等更新硬件产品，来构建其性能更优的解决方案。”

AI赋能物联网

万物联网时代，AI 赋能物联网是大势所趋，近期，企业级云服务厂商青云 QingCloud 也在频繁涉足 AIoT 领域。青云 QingCloud AI 平台研发总监霍秉杰分享了青云 QingCloud 在 AI 领域的四个发展战略：第一，从平台到服务，凭借已有的 AI 开发训练和推理平台逐渐丰富各种 AI 应用服务，未来将把更多 AI 平台和服务迁移到 Kubernetes 之上，提供容器化服务；第二，云＋端，算力由云延展到端，在 AIoT 市场与英特尔合作打造“云＋端”方案；第三，与合作伙伴共建更广泛的 AI 生态，给客户提供更丰富的 AI 服务；第四，AI 赋能云，使青云 QingCloud 的其他产品线更加智能化。

在物联网领域，青云 QingCloud 计划使用英特尔的 OpenVINO 框架，运行边缘端的推理工作负载，其大数据平台 QingMR 集成了英特尔的 BigDL，给大数据平台增加了深度学习的能力，后面会集成 BigDL 的新版本 AnalyTIcs Zoo。11 月 20 日，青云 QingCloud 和英特尔在上海正式宣布成立联合实验室，共同推动云计算、AI、物联网等领域的创新。

最后，伊红卫总结，“英特尔不仅有芯片解决方案，而是把所有的技术结合在一起，包括计算、软件、内存和存储，以及互连技术，这就是为什么世界上并不存在另外一家像英特尔这样的公司，能够把所有技术结合在一起，大规模提供 AI。我们之所以用这样的方式来设计硬件和软件，是因为模型复杂度正不断增加。虽然大部分的企业都还只是在这个曲线的开端，但是那些大型的云服务公司正在拥抱越来越复杂、越来越大规模的模型。为了推动 AI 的进一步发展，我们就必须有能力去建立硬件和软件，实现更快地传输数据、高效存储和访问数据，以及处理所有数据。”