NVIDIA这6个基于Orin的模组采用的是同一个架构,可以采用同一个开发套件,而且Orin Nano 模组在外形和引脚上与之前发布的 Orin NX 模组完全兼容。凭借完整的仿真支持,客户从现在开始,就可以使用AGX Orin开发者套件开发适合Orin Nano系列的应用,能够灵活地设计一个系统来支持多个 Jetson 模组并轻松扩展其应用。
据Deepu Talla介绍,Orin Nano通过高速I/O和NVIDIA Ampere架构GPU支持多个并发AI应用流水线。零售分析、工业质量控制等入门级设备和应用的开发者将能够以较低的成本更容易地获得更复杂的AI模型。
在版本方面,Orin Nano模组将分为两个版本:Orin Nano 8GB提供最高40 TOPS性能,功率为7W至15W;4GB版本提供最高20 TOPS性能,功率仅为5W至10W。

值得一提的是,NVIDIA的Jetson生态系统也在迅速发展中,Deepu Talla自豪地表示,Jetson生态系统目前yi经拥有超过100万名开发者、6000名客户、2000家初创企业及150家合作伙伴。而且,Jetson合作伙伴可以提供从AI软件、硬件和应用设计服务到摄像头、传感器和外设、开发者工具以及开发系统等各类支持。

同时,Orin Nano得到了NVIDIA JetPack SDK的支持并由NVIDIA CUDA-X加速计算堆栈驱动。该计算堆栈也被用于创造工业物联网、制造业、智慧城市等领域的开创性AI产品。

在Deepu Talla看来,Jetson平台最重要的功能就是用来解决棘手的机器人挑战,并为超过70万名ROS开发人员带来加速计算。因此,Jetson硬件平台肯定是可以支持专为机器人和AI打造的加速平台NVIDIA ISAAC的。同时,他还介绍了一种自主机器人(AMR)参考平台Nova Orin的更新。
Nova Orin 参考架构设计适用于特定用例。其中一种参考架构的设计基于 Orin,并且无经过安全认证的传感器;另一种参考架构包括经过安全认证的传感器,以及一个安全可编程逻辑控制器;第三种架构采用基于双 Orin 的设计,依靠视觉 AI 实现功能性安全。
其中包括针对立体摄像头、激光雷达、超声传感器和惯性测量单元的传感器支持。这套传感器提供多模态覆盖范围,满足开发和部署安全、协作式 AMR 的必要需求。
当然,所有传感器均是经过校准和时间同步,并附带驱动,可实现可靠的数据捕获。借助这些传感器,AMR 能够在各种情景中检测物体和障碍物,同时还能实现同步定位和地图绘制 (SLAM)。
NVIDIA 提供两种激光雷达选项,一种用于不需要已获得功能安全认证的传感器的应用,另一种则用于有此类要求的应用。除这些 2D 激光雷达外,Nova Orin 还支持用于地图构建和真值数据收集的 3D 激光雷达。

除了硬件和集成工具之外,NVIDIA还提供了广泛的软件支持。其基础 *** 作系统包括适用于所有硬件和适配工具的驱动和固件,以及将该平台与机器人集成的设计指南。Nova Orin可以与基于ROS的机器人应用集成。
其中ISAAC Sim中提供了经过验证的传感器模型,从而无需实际机器人即可进行应用开发和测试。而云原生数据采集工具则消除了为训练模型、调试和分析所需的大量传感器数据设置数据流水线的艰巨任务。专为 Nova 传感器开发的先进 GEM 通过 Jetson Orin 平台实现 GPU 加速,可提供关键的基础模组,例如视觉 SLAM、立体深度估计、障碍物检测、3D 重建、语义分割和姿态估计。
也就是说,Jetson Orin模组无论是对部署边缘AI应用的工程师,还是构建新一代智能机器的机器人 *** 作系统(ROS)的开发者来说,其高性能和完善的生态系统让他们的创新更加便捷,也更容易创造出曾经看似不可能的产品,并使其商业化。
圆刚科技在嵌入式产品研发、行销与服务的丰富经验,深受业界肯定。尤其在2018年成为NVIDIA®全球少数的Jetson Preferred Solution Provider合作伙伴后,圆刚科技更积极投入打造AI生态体系,透过软硬体的整合、快速地提供各种AI影像边缘运算解决方案投入市场。圆刚科技今日宣布推出两款适用于小型AI人工智慧影像边缘运算嵌入式系统的载板,这两款尺寸仅为xyk大小的载板(EN715及EX715)分别支援搭载NVIDIA® Jetson Tegra及Nano运算模组。其小型化的设计可以让开发者更轻易地将Jetson的AI运算能力发挥在各式智慧边缘装置上,如智慧零售、智慧相机、无人载具、机器人等其他受空间限制的小型嵌入式系统。
第一款AVerAI载板EX715针对NVIDIA® Jetson Tegra TX1/TX2/TX2i模组进行开发,设计尺寸非常小巧,相当xyk的尺寸大小87mm x 50mm。另一款EN715则是业界首张适用于NVIDIA® Jetson Nano模组的迷你载板,尺寸仅为87mm x 60mm。这两款载板均可在0°C ~ 70°C的温度范围内完美运行空间受限的 *** 作环境。EN715和EX715的尺寸和丰富的I/O功能,有助于提高应用领域性能及切入市场时效的灵活性,更是智慧城市内作为影像分析的应用里,最具成本效益的AI物联网边缘计算的选择。
此外,圆刚科技的AVerAI Box PC边缘运算电脑使用NVIDIA® Jetson TX1、TX2、Xavier及最新的Nano人工智慧模组为核心,同时提供风扇及无风扇散热设计的两种机构供客户选择,其中蕴涵嵌入式核心科技,大大提高了应用领域性能和上市时间的灵活性。让软体发展人员不仅可以在该系统上设计自有的深度学习软体,还可以加速将软体和系统作为一个完整的解决方案进行销售。除了人工智慧的关键技术之外,圆刚科技更能为客户提供高品质的专属客制化设计服务。
有效整合资源,提供高速运算硬体与平台,为合作伙伴带来更完善的服务,推动AI智慧产业的发展,除了强化自身AI科技与产业研发接轨,更可让合作伙伴能专注于深度学习的技术发展与应用开发,形成创新的AI生态体系。
作为NVIDIA®首选解决方案提供商(NVIDIA® PREFERRED solution provider),可以在24小时内提供技术支援,帮助合作伙伴的研发项目成功。除了支援NVIDIA® Jetson全系列模组之外,辅以圆刚科技影像撷取的软硬体核心技术,以影像撷取卡各种诸如来自于网路摄影机、USB摄影机、MIPI摄影机等物联网的边缘设备的影像输入源捕捉下来,让AI边缘运算平台和影像撷取解决方案无痛整合。并提供硬体、PCB、外壳机构、BSP、驱动程式、UX/UI/ID/ME等专业的客制化服务。
自上世纪90年代互联网技术诞生以来,移动互联网、云计算、大数据、人工智能等新一代信息技术的不断发展和逐步成熟,并日益深入的渗透到经济社会的各个领域,2020年全球范围内爆发的新冠疫情又进一步加速了这一趋势,数字经济已经成为世界经济发展的新阶段,即世界经济发展已经进入数字经济时代。
党中央、国务院和各级政府高度重视数字经济的发展。从2015年《中国制造2025》、《促进大数据发展行动纲要》等政策出台以来,中央和各级地方陆续以推出系列数字经济发展的措施,并支持雄安新区、浙江、福建等六个地区建设国家数字经济创新发展试验区,支持北京、上海、深圳、西安等地建设国家新一代人工智能创新发展试验区。2020年国家进一步提出加强新型基础设施建设,并明确将数据作为一种新型生产要素写入政策文件,这些将为数字经济的发展奠定更加坚实的基础。
农业经济时代,土地、水源和工具是关键资源。工业经济时代,能源、原材料、机器设备和生产工艺等是关键资源。那数字经济时代的关键资源是什么呢?数字经济时代的关键资源是数据、算力和算法。数据是数字经济时代的原材料,各种经济活动中都在源源不断的产生的数据,越来越多的组织也将数据当作一种资产,在政策层面数据已经成为一种新型生产要素。算力相当于数字经济时代的机器设备和生产力,面向各种场景的数据产品或应用都离不开算力的加工和计算,而且对算力的需求和要求也越来越高。算法是数字经济时代的生产工艺,面向图像、语音、自然语言处理等不同的应用场景和领域的算法也层出不穷,算法的提升和改进可以提高算力的效率和更多的挖掘数据价值。
本文重点分析算力方面内容,介绍算力市场总体情况,当前算力发展的特点和趋势,以及重点算力供应方式等。
一、算力需求快速增长,算力投资具有多重经济价值
算力即计算能力,核心是CPU、GPU、NPU、MCU等各类芯片,具体由计算机、服务器、高性能计算集群和各类智能终端等承载。数字经济时代,数据的爆炸式增长,算法的复杂程度不断提高,对算力需求越来越高。算力是数字经济发展的基础设施和核心生产力,对经济发展具有重要作用,根据IDC与浪潮联合发布的《2020全球计算力指数评估报告》,计算力指数平均每提高1点,数字经济和GDP将分别增长33‰和18‰。
随着数字经济的不断发展,人工智能、物联网、区块链、AR/VR 等数字经济的关键领域对算力的需求也将呈爆炸式增长。根据华为发布的《泛在算力:智能社会的基石》报告,预计到2030年人工智能、物联网、区块链、AR/VR 等总共对算力的需求将达到339万EFLOPS,并且将共同对算力形成随时、随地、随需、随形 (Anytime、Anywhere、AnyCapacity、Any Object) 的能力要求,其中人工智能算力将超过16万EFLOPS,接近整体算力需求的一半。OpenAI开发的GPT-3模型涉及1750亿个参数,对算力的需求达到3640PFLOPS,目前国内也有研究团队在跟进中文GPT-3模型的研究。
算力投资具有多重经济价值,不仅直接带动服务器行业及上游芯片、电子等行业的发展,而且算力价值的发挥将带动各行业转型升级和效率提升等,带来更大的间接经济价值。根据《泛在算力:智能社会的基石》报告,每投入1美元算力即可以带动芯片、服务器、数据中心、智能终端、高速网络等领域约47美元的直接产业产值增长;在传统工厂改造为智能化工厂的场景下,每1美元的算力投入,可以带动10美元的相关产值提升。
二、算力发展的特点及趋势
随着数据规模的增加和算法复杂度的提升,以及应用多样性的不断丰富,对算力提出的要求也越来越高,当前算力发展呈现出三方面的特点,一是多种架构百花齐放的状态,二是中心化的算力与边缘终端算力快速发展,三是专用算力日渐成势。
近年来多种算力架构并存并快速发展。曾经x86架构的算力占绝对优势,英特尔和AMD基本垄断了X86算力架构市场,海光信息通过跟AMD合作获得x86架构的授权;如今基于ARM架构的算力份额不断扩大,特别是在移动端ARM架构算力成为主流,华为海思等主要产品是基于ARM架构,另外天津飞腾的产品也是基于ARM架构。随着人工智能等算力需求的不断增加,GPU算力的需求不断增加,英伟达在GPU算力市场占有绝对优势,AMD也分了一杯羹,叠加比特币挖矿算力需求,导致市场上GPU卡供不应求。近几年国内也出现几个GPU方面的创业团队,如寒武纪、登临科技、燧原科技等。此外,Risc-V、存算一体化架构、类脑架构等算力也不断涌现,不过这些算力刚刚起步,在应用生态等方面还需要一定较长的培育过程。
中心化算力和边缘终端算力快速发展。随着7nm制程日渐成熟,基于7nm制程的CPU、GPU等算力性能得到极大提升,目前7nm制程算力主要是中心化算力,移动端智能手机的处理器算力部分也已经采用7nm制程。台积电的7nm制程已经实现规模化,并开始攻关3nm工艺制程;中芯国际7nm工艺制程仍在技术攻关当中。随着5G及物联网应用的不断增加,边缘终端算力的需求日益增加,特别是自动驾驶、智慧安防、智慧城市等领域算力需求。地平线自动驾驶芯片已经量产,英伟达jetson产品在嵌入式终端产品应用广泛,其他针对特定领域专用边缘终端芯片创业公司层出不穷。
针对图像、语音等特定领域的专用算力日渐成势。一方面是芯片工艺制程越来越逼近摩尔定律的极限,另一方面是物联网智能终端对功耗的要求等,针对特定领域的专用芯片层出不穷,并且越来越多的巨头参与其中。谷歌的TPU专为机器学习定制的算力,阿里平头哥的含光NPU专为神经网络定制的算力,赛灵思的FPGA算力,百度研发针对语音领域的鸿鹄芯片以及云知声、思必驰、探境科技等也推出智能语音相关的芯片,北京君正、云天励飞、依图科技和芯原微电子等推出针对视觉和视频处理相关的专用芯片。
三、算力供应以公有云和自建算力为主,多种方式相补充
当前的算力供给主要包括公有云、超算中心、自建算力、地方算力中心等方式。其中,公有云和自建算力中心是算力的主要来源方式,超算中心及地方算力中心等多种方式相互补充。
规模化的算力供应通常通过数据中来承载,新建数据中心的不断增加,将带动未来算力资源的供应不断扩大。据中国电子信息产业发展研究院统计数据,2019年中国数据中心数量大约为74万个,大约能占全球数据中心总量的23%,其中大型数据中心占比127%;在用数据中心机架规模达到2658万架,同比增长287%;在建数据中心机架规模约185万架,同比增加约43万架。2020年国家大力支持“新基建”建设以来,数据中心作为“新基建”的重要内容,京津冀、长三角和珠三角等算力需求地区,以及中西部能源资源集中的区域,如内蒙、山西等,均在推进新的大中型数据中心的建设。
公有云以其稳定和易用等特点,成为许多企业特别是中小企业的算力首选方式。据不完全统计,阿里云服务器总数接近200万台,腾讯云服务器总数超过110万台,华为云、百度云、京东云、AWS等云厂商服务器总数未找到确切数据,保守估计各类云厂商服务器总数之和也超过500万台。而且在国家宣布大力支持“新基建”建设之后,腾讯宣布未来五年将投资5000亿元用于云计算、数据中心等新基建项目的进一步布局,阿里云宣布未来三年阿里将投2000亿元用于面向未来的数据中心建设及重大核心技术研发攻坚,百度宣布预计到2030年百度智能云服务器台数将超过500万台。各大云厂商仍在继续加大算力投入,公有云算力供应将会更加充裕。
自建算力以其安全性和自主性等特点,成为政府、大企业及其他关注安全的组织的算力首选方式。政府、银行及高校和央企等,通常通过自建或租赁数据中心的方式自建算力,满足自身各项业务的算力需求。许多互联网公司在刚开始时选择使用公有云服务,但规模发展到一定程度时通常都会开始自建或租赁数据中心的方式自建算力。其他有部分各种类型的企业,出于安全、商业机密和隐私等方面的考虑,不意愿把数据和业务等放到阿里云等公有云上,往往选择托管服务器的方式自建算力,规模更小企业直接就在本地使用。2020年6月快手宣布投资100亿元自建数据中心,计划部署30万台服务器,字节跳动等大型互联网公司都在不断加大数据中心的建设。
超算中心和地方算力中心作为算力供应有效的补充方式,适合于大规模计算需求的应用领域。截至2020年,科技部批准建立的国家超级计算中心共有八所,分别是国家超级计算天津中心、广州中心、深圳中心、长沙中心、济南中心、无锡中心、郑州中心和昆山中心。超算中心主要的算力资源以CPU为主,新建的超算中心及更新升级过程中超算中心逐步增加了异构GPU算力资源。超算中心较好的满足和弥补了高校科研中算力资源的需求,特别是在工业仿真、生物信息、新材料、气象、海洋等科学计算领域。国内主要省市地区基本都投资建设了当地算力中心,重点服务本地科研和产业发展的需求,如太原、苏州、福建等地,目前通常地方算力中心的规模并不大,计算节点数在200-500之间居多,主要服务于当地气象、工业仿真和生物信息等领域计算需求。此外,2020年以来,武汉、南京、珠海、许昌等地区正在建设人工智能计算中心,将在一定程度上弥补当前规模化AI算力不足的情况。
结语
算力作为数字经济的基础设施,也是数字经济时代的生产力和引擎,越来越成为数字经济时代国家竞争力的体现。根据IDC与浪潮联合发布的《2020全球计算力指数评估报告》,中国和美国的算力建设在全球处于领先地位,美国的算力无论在规模、效率、应用水平等方面都领先于中国。此外,从算力芯片供应角度看,美国的英特尔、AMD、英伟达等企业几乎占了全球的绝大部分的市场份额。可见,中国在算力建设和发展仍然需要加大投入和加强研发等,发挥优势的同时弥补不足,从而为数字经济长期发展奠定更加坚实的基础。
数位影音技术领导品牌圆刚科技(2417),本日宣布推出搭载高效能和低耗能的NVIDIA® Jetson AGX Xavier™模组的人工智慧边缘运算嵌入式电脑及载板(型号: AVerAI Box PC EA713-AAMN),以提升人工智慧边缘端的整体运算效能。同时圆刚秉持专业的软硬体整合技术能力,为各产业的系统整合商及加值经销商提供专属的客制化设计服务,例如运用在机器人、电脑视觉处理、工业自动化、智慧零售、智慧城市、智慧制造等产业,甚至在学术研究领域,都能透过这款人工智慧边缘运算平台的扩充能力与散热设计的优势,提升生产力、降低成本。
AVerAI EA713-AAMN以AGX Xavier™为核心,提供2个M2 Key M 2280和4组mPCIe扩充插槽,灵活的扩充方式可以为开发人员提供多种不同组合的影像撷取卡安装选择,尤其搭配圆刚的影像撷取卡后,更让AVerAI EA713-AAMN能够接收、处理各种影像来源如HDMI、VGA、SDI、AV端子等不同的输入来源,甚至可针对不同应用场景提供二路4Kp30 HDMI影像输入,利于收集不间断的实时影像数据做分析。
▲设计包括4x Mini-PCIe和2x M2 M Key 2280插槽,让Xavier可透过AVerMedia的影像撷取卡接收各种影像输入源。
AVerAI EA713-AAMN是一个应用程式就绪型的系统 (application ready system),为多种应用程式提供整体解决方案,以提高性能和上市时间的灵活性。使用EA713-AAMN,软体发展人员不仅可以在该系统上设计深度学习软体,还可以将他们的软体和系统作为一个完整的解决方案进行销售。可以极为简化系统整合的工作和流程,将其深度学习解决方案投入市场。圆刚AVerAI系列能够使企业在其AI的边缘应用中实现加速上市时间和量产的目标。
此外,AVerAI Box PC边缘运算电脑使用NVIDIA® Jetson TX1、TX2、Xavier及最新的Nano人工智慧模组为核心,同时提供风扇及无风扇散热设计的两种机构供客户选择,其中蕴涵嵌入式核心科技,大大提高了应用领域性能和上市时间的灵活性。让软体发展人员不仅可以在该系统上设计自有的深度学习软体,还可以加速将软体和系统作为一个完整的解决方案进行销售。除了人工智慧的关键技术之外,圆刚科技更能为客户提供高品质的专属客制化设计服务。
圆刚在嵌入式产品研发、行销与服务的丰富经验,深受业界认可。尤其在2018年即获得NVIDIA®的肯定,成为其全球少数的Jetson NVIDIA® PREFERRED solution provider 首选解决方案提供商,身为NVIDIA® PREFERRED solution provider可以在24小时内提供技术支援,帮助合作伙伴的研发项目成功。除了支援NVIDIA® Jetson全系列模组之外,辅以圆刚科技影像撷取的软硬体核心技术,以影像撷取卡各种诸如来自于网路摄影机、USB摄影机、MIPI摄影机等物联网的边缘设备的影像输入源捕捉下来,让AI边缘运算平台和影像撷取解决方案无痛整合。并提供硬体、PCB、外壳机构、BSP、驱动程式、UX/UI/ID/ME等专业的客制化服务。
NVIDIA® Jetson Nano™它开启了嵌入式物联网应用程序的新世界,包括入门级网络视频录像机 (NVR)、家用机器人以及具备全面分析功能的智能网关,同样也是在现实世界中开始学 习AI和机器人技术的理想工具。Jetson Nano 2GB能够运行主流的机器学 习框架,如TensorFlow、PyTorch、Caffe2、Keras和MXNet。Jetson Nano 2GB在AI模型推理层面表现还是相当不错的,是NVIDIA嵌入式家族,也是Jetson系列中最入门的产品。对这个产品有兴趣的话,可以去思腾合力了解下,他家是英伟达的精英级代 理,对这些方面应该是比较了解的。圆刚科技近日宣布推出搭载小尺寸、高效能的NVIDIA® Jetson Xavier™ NX模组的人工智慧(AI)边缘运算嵌入式电脑 (型号: AVerAI NX211B/NX213B)。与已被广泛采用的前一代产品 Jetson™ TX 相比,Jetson Xavier™ NX 模组的效能提升了十倍以上。开发人员可以运用云端原生技术,在尺寸如同xyk般大小的 Jetson Xavier™ NX 模组上,彻底发挥其出色的人工智慧与运算效能,以推动创新并大规模建置人工智慧应用。同时圆刚秉持专业的软硬体整合技术能力,为各产业的系统整合商及加值经销商提供专属的客制化设计服务,例如运用在机器人、电脑视觉处理、工业自动化、智慧零售、智慧城市、智慧制造等产业,甚至在学术研究领域,都能透过此两款人工智慧边缘运算平台的扩充能力,提升生产力、降低成本。
NX211B人工智慧边缘运算嵌入式电脑
具风扇散热设计,可完美运行于温度范围从0°C到70°C内空间受限的 *** 作环境。提供丰富的I/O功能,像是2x 2-Lane MIPI CSI-2 camera影像输入以及1x 4Kp60 HDMI输出,是智慧城市内作为影像分析的应用里,最具成本效益的AI物联网边缘运算的选择。
NX213B 人工智慧边缘运算嵌入式电脑
无风扇散热设计,提供8路 PoE (PSE) 连结网路摄影机,以及具备SATA 连接埠作为储存的设计,适合作为智慧城市和智慧零售影像分析的AI NVR人工智慧安控系统。
最新的Jetson Xavier NX模组具有384个CUDA®核心、48个Tensor核心和云端原生能力,极为省电,尺寸比一张xyk还小,适合应用于紧凑型的嵌入式系统中,作为AI应用的理想平台。此一小尺寸低耗能的模组可提供伺服器等级的效能,高达21 TOPS (每秒21兆次运算) 的运算能力。
圆刚在嵌入式产品研发、行销与服务的丰富经验,深受业界认可。亦获NVIDIA®肯定,成为其全球少数的Jetson Elite合作伙伴,可以在24小时内提供技术支援,帮助合作伙伴的研发项目成功。除了支援NVIDIA® Jetson全系列模组之外,辅以圆刚科技影像撷取的软硬体核心技术,以影像撷取卡各种诸如来自于网路摄影机、USB摄影机、MIPI摄影机等物联网的边缘设备的影像输入源捕捉下来,让AI边缘运算平台和影像撷取解决方案无痛整合。并提供硬体、PCB、外壳机构、BSP、驱动程式、UX/UI/ID/ME等专业的客制化服务。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)