GPU裸金属服务指的是什么?

GPU裸金属服务指的是什么?,第1张

裸金属服务就是传统物理服务器的升级版,可以说是介于物理服务器和云主机之间的一种形态⌄既具备传统物理服务器卓越性能,有具备云主机一样的便捷管理平台,兼具了双方的优点,在满足核心应用场景对高性能及稳定性需求的同时,还兼备云计算的d性、灵活性和传统物理机安全物理隔离的特点。最近看资讯的时候,看到思腾合力的公众号上有相关的介绍,还挺详细的,他们家也提供这方面的服务,有兴趣可以去看看。

GPU是图形处理单元的英文缩写。GPU也可简称为显示芯片,是显卡的核心芯片和元件。独立显卡上除了最关键的GPU以外,还有显存、散热器及各种电阻电容、连接显示器的端口等。而集成于主板或CPU的显卡一般只有GPU,采用共享物理内存作为显存。由于显卡的主要功能与性能取决于GPU,现在多数显卡往往以所用GPU的型号来命名或作为名称的一部分。目前个人电脑消费级显卡GPU主要分成英伟达(NVIDIA)和AMD两大系列,芯片巨头英特尔则主推集成于CPU核心的显卡,俗称核显,性能多处于同期低档水平。

选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择,比如有的高性能计算需要双精度,这时如果使用P40或者P4就不合适,只能使用V100或者P100;同时也会对显存容量有要求,比如石油或石化勘探类的计算应用对显存要求比较高;还有些对总线标准有要求,因此,十次方平台建议您选择GPU型号要先看业务需求。
当GPU型号选定后,再考虑用什么样GPU的服务器。这时我们需要考虑以下几种情况:
第一、 在边缘服务器上需要根据量来选择T4或者P4等相应的服务器,同时也要考虑服务器的使用场景,比如火车站卡口、机场卡口或者公安卡口等;在中心端做Inference时可能需要V100的服务器,需要考虑吞吐量以及使用场景、数量等。
第二、 需要考虑客户本身使用人群和IT运维能力,对于BAT这类大公司来说,他们自己的运营能力比较强,这时会选择通用的PCI-e服务器;而对于一些IT运维能力不那么强的客户,他们更关注数字以及数据标注等,我们称这类人为数据科学家,选择GPU服务器的标准也会有所不同。
第三、 需要考虑配套软件和服务的价值。
第四、要考虑整体GPU集群系统的成熟程度以及工程效率,比如像DGX这种GPU一体化的超级计算机,它有非常成熟的 *** 作系统驱动Docker到其他部分都是固定且优化过的,这时效率就比较高。


欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/zz/13507237.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-08-21
下一篇 2023-08-21

发表评论

登录后才能评论

评论列表(0条)

保存