在软硬件的层面,请问浪潮AI服务器有什么优点?

在软硬件的层面,请问浪潮AI服务器有什么优点?,第1张

在硬件层面,浪潮AI服务器通过对CPU、GPU硬件性能的精细校准和全面优化,使CPU性能、GPU性能、CPU与GPU之间的数据通路均处于对AI推理最优状态;在软件层面,结合GPU硬件拓扑对多GPU的轮询调度优化使单卡至多卡性能达到了近似线性扩展;在深度学习算法层面,结合GPU Tensor Core 单元的计算特征,通过自研通道压缩算法成功实现了模型的极致性能优化。具体可以在百度找他们的官网了解。

浪潮AI服务器NF5488M5-D适用于智能客服、金融分析、智慧城市、自然语言处理等各类AI应用等最具挑战性的AI应用。浪潮AI服务器NF5488M5-D具有四大功能特性。强劲计算性能:4U空间内集成8颗NVLink30全互联A100 GPU,提供300倍于通用双路服务器的浮点算力,适用于更大,更复杂的训练场景;极致硬件设计:4U 8GPU设计,帮助AI用户高效完成AI基础设施和开发环境的构建,在享受更高计算性能的同时降低部署、运行成本;成熟生态支持:基于NVIDIA CUDA应用生态, 无缝移植Delta系统;基于Intel平台开发,最大程度减少和避免业务移植成本,满足AI 用户对极致算力和快捷部署的需求;面向极具挑战性的AI应用:适用于智能客服、金融分析、智慧城市、自然语言处理等各类AI应用,加速应用创新。

眼下,中国共计装有近2亿个视频监控摄像头,而具备AI能力的摄像头仅占其中的1%。

在高清监控摄像头数量与AI渗透率不断递增的情况下,由摄像头采集的图像、视频流数据,需要更强大的分析引擎对其进行分析、处理和训练。

以北京地铁站为例,北京1000多个地铁站中平均每站都有上百个摄像头,平均每个地铁站每天流通8到10万人较为常见。保守预估每个相机每天看见1万个人,再假设对比库中有1万个目标(对于公安数据库来说并不大),这个相机每天要回答的问题就是一亿零一万个!

显然,在当前各类安防项目中,依靠纯嵌入式智能DVR和NVR均无法满足严苛的计算要求。

面对万亿级AI安防市场,在技术落地成花的十字路口,所有的安防企业高管们都会面对一个终极命题:AI安防究竟需要一款怎样强大的服务器?
谈到安防服务器,X86无处不在,一直以来,它都是包括安防在内等多个行业的“宠儿”。

“眼下安防市场很多的管理平台,譬如流媒体服务器、转发服务器、主控服务器基本基于X86架构建设,它的最大优势是比较容易开发、上手比较快,大多工程师更擅长在X86架构上做研发。”

华泰科捷CEO傅剑辉告诉雷锋网,考虑到它表现不俗的性价比,X86服务器一直都是我们采购的首选。

由此,过去多年来,X86服务器也获得了全球顶尖服务器供货商的青睐。

遗憾的是,各科成绩均“达标”的 X86服务器,在如今大热的AI浪潮面前,却遇到了一些“偏科”难题。

傅剑辉透露,从安防用户实际使用角度考量,目前X86服务器应用在安防行业主要存在三大问题:

一、CPU负责逻辑运算的单元并不多,在多任务处理时效率低下。面对海量视频信息,传统X86服务器单纯以CPU为核心的数据中心部署已经不能很好地满足并行灵活计算、多变环境的计算需求,很难在安防企业级服务器市场有惊艳的表现。

“以前的视频数据只需存在后台,做少量分析即可,也就是说存储足够大就行;今天,很多客户都希望我们能够实时处理这些海量视频信息并反馈结果,而这就意味着系统需要同时做解码、做视频结构化、做识别、搜索等等,X86明显就不够用了。”

换句话说,X86可以类比手机里的功能机,它能够满足单一的通信处理需求,而AI融入的安防市场,更需要一台强大的智能手机,配备更强大的性能以适配 游戏 、处理等个性需求。

二、在行业出现算力不够的大背景下,很多厂商打出X86服务器加上若干GPU卡的组合拳,而这种为了单纯解决算力而“拼凑”出的方案大大增加了服务器的功耗和用户成本。

从行业采用情况看,如果涉及人脸识别等AI项目时,大部分厂商会采用GPU作为人像数据结构化的处理单元,特别是在X86服务器集群中,GPU更是成为唯一选择。

在某种程度上,GPU的确解决了部分算力不足的问题,却也存在两个致命硬伤。

一是功耗大,需依托X86架构服务器运行,不适用于更为广泛的AI方案开发; 二是成本高昂,比如采用GPU方案,折算单路人脸识别成本在万元以上,相较其他千元级,甚至是百元级的方案,毫无成本优势可言,这两个致命短板,也让很多企业不得不寻求新的方案。

三、由于X86更多采用的是较为开放的LinuX系统,而非封闭的AIX系统,在稳定性和可维护性上略显不足。

“未来的市场必定是数据规模和计算能力的角逐。”

浪潮商用机器有限公司产品部张琪告诉雷锋网,随着越来越多新应用的出现,传统的X86计算架构会遇到很多瓶颈,包括数据瓶颈(处理器的计算单元以多快的速度获取和交换数据)、计算瓶颈(单位空间内能集成多少计算能力)、延迟瓶颈、通信瓶颈。

就像设计时速30码的道路难以承载均速100码的车辆通行一样,很短时间内就可造成道路拥堵甚至瘫痪。

今天来看,面对大计算、智能化场景,谁能够最先解决算力问题,又能够更好降低功耗与成本,谁就能在AI浪潮下引领鳌头。

在张琪看来,基于POWER9的高性能服务器能够很好满足AI安防时代下的高智能需求。
从AI安防实际场景所需出发,浪潮商用机器有限公司近期推出了基于POWER9服务器,搭载UltraVision视频智能分析系统的AI视觉分析智能分析解决方案(UltraVision on Power)。

AI视觉分析解决方案可以看作一个超级高效的AI大脑,它软硬结合,能够实时、准确、智能、节能地完成包括安防在内各个行业所需的复杂性数据处理工作。

“硬”,体现在POWER9架构上,它能够提供强大的图像视频的计算处理能力。相比其他处理器,POWER9支持了PCIe40、NVlink20等新一代I/O协议,能够在AI等应用中展示出更好的应用表现。

具体来看,相比X86,其单节点视频处理路数提升近3倍,达38倍提升深度学习框架AI模型训练效率,18倍更好的加速数据库性能,IO能力提升了近5倍。

另外,执行视频和图像编解码,查询搜索任务时,整机可提供单精度56TFlops和双精度28TFlops超强算力,和比X86服务器相比,单块GPU即可提供比纯CPU服务器高30倍的推理能力。

值得一提的是,该方案独有的CAPI技术,可以将延迟降低至1/36,全面加速图像处理,同时功耗降低高达30%。

18倍、38倍、3倍、5倍、30倍,看起来不大的几个数字对于安防行业来说,都是庞大数量级的提升。

这几个数字的变化,能够将各类犯罪和严重的暴力事件的防控手段从事后介入提前到事前或事中,大大减少安全事件的发生,实现公共安全从被动防御到主动防御的业务转变。

除了POWER9提供的超强算力硬核外,在软件层面,该方案还有高重UltraVision视频智能分析技术加持,如目标检测(PD)、行人重识别(RE-ID)等多项计算机视觉技术,提升目标识别准确率高达94%。

毋庸置疑,软硬结合的AI视觉分析解决方案在实际落地过程中,能够实实在在地为用户解决AI时代下的高算力与低功耗问题。

除此之外,相比其他热门方案,该方案还有两大优势不得不提。

其一、独有的利旧能力降低客户成本。

通常来说,一般的AI视频系统想要实现某些功能必须接入具备AI技术的感知摄像头,该方案在部署过程中不需要更换原有摄像头,只需要旁路接入视频采集端,即可实现AI系统;

另外,该方案还可以兼容不同品牌、不同制式的任何摄像头;可以不改变客户原服务器等硬件架构的情况下直接部署,有效降低客户部署成本。

其二、就浪潮商用机器公司本身来说,依托其在服务器领域的引领地位,拥有强大的定制化落地能力,缩短交付周期从月到天。
该方案无论是面对大数据处理、机器学习这样的AI应用,还是软件定义存储、内存数据库这一类的开源应用都会有比较好的性能表现。

毫无疑问,专为AI、云计算、大数据等新兴应用而生的AI视觉分析解决方案在客户面对严苛业务挑战时,提供了更多元化的选择。

依托这款高性能产品,用户可以更快地部署各类智能应用,缩短安防AI应用的技术迭代周期。

与此同时,性能卓越的浪潮商用机器服务器的应用不仅限于安防行业,在互联网、金融等对安全性要求高的领域,其也可以施展拳脚。

安防之外,整个 社会 正在向规模化、自动化、智能化转型升级。其中,智能化的应用方向涵盖四大方向:前端化、云端化、平台化和行业化。

在这个升级过程中,新的平台需要有新的能力做新的认知,新的认知催生新的需求和应用。

对于包括浪潮在内的 科技 公司来说,这是一次巨大的机会,同时也是一个不小的挑战,路漫漫其修远兮,必须上下而求索。雷锋网雷锋网雷锋网

主要是因为浪潮信息提供的卓越的AI系统设计能力和全栈优化能力,以浪潮AI服务器NF5468M6J为例,该款服务器百年拥有出色的系统设计,以分层可扩展计算架构在业界率先实现对12颗NVIDIA A100 Tensor Core GPU的支持,是浪潮AI服务器的卓越代表。

亿万克的R922N6+服务器。
亿万克亚当R922N6+是一款搭载英特尔第三代至强可扩展处理器的2U双路全闪存计算型服务器,提供GPU算力的d性计算服务,具有超强的计算能力及稳定、优异的整机性能输出。此款产品提供超大存储空间,且数据传输速率相较于普通机械硬盘最多可提升10~11倍,适用于企业虚拟化、图形编辑、视频直播、神经网络、深度
学习、推理等多种AI 场景应用。

服务器的功能相对于PC机来说复杂许多,不仅指其硬件配置,更多的是指其软件系统配置。服务器要实现如此多的功能,没有全面的软件支持是无法想象的。但是软件系统一多,又可能造成服务器的使用性能下降,管理人员无法有效 *** 纵。所以许多服务器厂商在进行服务器的设计时,除了在服务器的可用性、稳定性等方面要充分考虑外,还必须在服务器的易使用性方面下足功夫。感兴趣的话点击此处,了解一下

小编建议可以到亿万克官网了解一下,亿万克的服务器是比较好用的,其性价比很高,性能更稳定。亿万克集服务器和存储等数据中心产品的研发、生产、销售、服务系统整合于一体,是民族高科技制造企业领导品牌 。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zz/10619637.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-10
下一篇 2023-05-10

发表评论

登录后才能评论

评论列表(0条)

保存