选择GPU服务器的时候应该注意什么？

我个人觉得还是要重视产品的质量和公司的实力，当然性价比高的肯定是优先考虑。在选择GPU服务器的时候，我们公司还是比较看中产品安全和质量的，当时谨慎挑选了很久，最终还是选择了思腾合力。一方面是思腾合力的公司实力和口碑都挺好的，另一方它还是英伟达精英级别代理商，而且拥有完善的研发、生产、制造基地，这个是其他公司比不了的。所以建议你多对比看看，公司和产品都很重要的，不要贪小便宜。

选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择，比如有的高性能计算需要双精度，这时如果使用P40或者P4就不合适，只能使用V100或者P100；同时也会对显存容量有要求，比如石油或石化勘探类的计算应用对显存要求比较高；还有些对总线标准有要求，因此选择GPU型号要先看业务需求。

GPU服务器人工智能领域的应用也比较多。在教学场景中，对GPU虚拟化的要求比较高。根据课堂人数，一个老师可能需要将GPU服务器虚拟出30甚至60个虚拟GPU，因此批量Training对GPU要求比较高，通常用V100做GPU的训练。模型训练完之后需要进行推理，因此推理一般会使用P4或者T4，少部分情况也会用V100。

服务器的厂商实在太多了，在选择方面也是每个人考虑的侧重点不同，有的更在意质量，有人会对比性价比，比较知名的厂商如英伟达、AMD等等，当然我觉得还是要看你的预算，在合适的价格范畴内选择最好的厂商。像英伟达在国内也有很多代 理商，我了解的思腾合力就是其中之一，而且他家也有自主研发的服务器和研发基地，这个是很多代 理没有的，你可以对比看看。

---