当GPU型号选定后,再考虑用什么样GPU的服务器。这时我们需要考虑以下几种情况:
第一、 在边缘服务器上需要根据量来选择T4或者P4等相应的服务器,同时也要考虑服务器的使用场景,比如火车站卡口、机场卡口或者公安卡口等;在中心端做Inference时可能需要V100的服务器,需要考虑吞吐量以及使用场景、数量等。
第二、 需要考虑客户本身使用人群和IT运维能力,对于BAT这类大公司来说,他们自己的运营能力比较强,这时会选择通用的PCI-e服务器;而对于一些IT运维能力不那么强的客户,他们更关注数字以及数据标注等,我们称这类人为数据科学家,选择GPU服务器的标准也会有所不同。
第三、 需要考虑配套软件和服务的价值。
第四、要考虑整体GPU集群系统的成熟程度以及工程效率,比如像DGX这种GPU一体化的超级计算机,它有非常成熟的 *** 作系统驱动Docker到其他部分都是固定且优化过的,这时效率就比较高。服务器和显卡是两种不同的硬件设备,其主要区别如下:
1 功能不同:服务器是一种用于存储和处理数据的设备,它可用于搭建网络、托管网站、运行应用程序等,而显卡则是一种专门用于图形处理的设备,主要用于游戏、渲染、视频编辑等。
2 架构不同:服务器通常采用多核、多线程的处理器架构,支持大量的内存和存储设备;而显卡则采用GPU架构,具有更多的CUDA或者Stream处理器,可以同时处理更高的计算量。
3 数据传输方式不同:服务器通常使用Ethernet、Infiniband等以太网协议传输数据,可以连接到广域网和局域网上,而显卡则通常使用PCI-E总线和高速内存带宽传输数据。
4 用途不同:服务器适用于企业、云计算、数据中心等需要大量计算和存储的场景,显卡则更适合于需要处理大量图像数据的游戏玩家、设计师、视频编辑人员等。
总之,服务器和显卡虽然都是计算机硬件设备,但它们的应用场景和功能存在明显的差异。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)