跨服务器之间gpu如何使用nvswitch？

NVSwitch是一种高速互连技术，可以在多个GPU之间实现高速数据传输。要在跨服务器之间使用NVSwitch，需要满足以下要求：

服务器需要安装支持NVSwitch技术的GPU卡，例如NVIDIA Tesla V100或A100。

服务器需要使用支持NVSwitch的技术，例如InfiniBand或以太网等进行物理互连。

服务器需要安装支持NVSwitch的驱动程序和软件包，例如CUDA和NCCL等。

具体而言，您可以使用以下步骤在跨服务器之间使用NVswitch：

使用支持NVSwitch的技术将多个服务器物理互连。

在服务器上安装和配置支持NVSwitch的驱动程序和软件包。

在不同的服务器上启动各自的GPU卡。

调用支持NVSwitch的CUDA函数和NCCL函数，以实现在跨服务器之间传输数据。

需要注意的是，使用NVSwitch进行跨服务器之间的GPU交互需要高带宽、低延迟互连技术，并且需要对网络拓扑进行调整。例如将GPU密集的任务聚集在具有高速InfiniBand网络的服务器上，以最大化NVSwitch的性能。

从最开始买服务器的时候我就问了商家，能不能用显卡，商家答复厚度不超过2CM的刀卡是可以用的；并且在安装macOS的时候，我也发现3M的显存是真的不够用，上显卡的冲动再次涌上心头。
显卡适配关系
服务器作为比较特殊的设备，和普通PC不同，支持的显卡型号有限，以下为我从HPE官网找到的显卡适配关系，与其说是显卡，不如说是GPU，更偏向于计算，适合搞AI（所以一开始有朋友问我是不要开始搞大数据或者人工智能了，让大家失望了）。标红部分为已经查明的支持vGPU的显卡型号，也就是能按需分配给虚拟机。

这时我意识到，服务器有适配关系，那VMware ESXi是不是也有适配关系？我就找HPE的售后400工程师咨询了一下，大跌眼镜！直接丢给我一个查询配套关系的软件，下载原始链接如下：
>什么双路主板？是指服务器的双路CPU主板吗？
就华硕的Z10PE为例，它能插4块显卡但TITAN Z是双芯卡，最多只支持两张（4路）
也就说再插一张也只能是当物理运算卡（你想插满也行，就是多出的两张当物理运算卡）
主板可以支持4张，但你的机箱估计要定制了

GPU服务器和普通服务器的区别在于GPU服务器具有GPU（图形处理器）加速，而普通服务器通常只有CPU（中央处理器）。以下是几个区分GPU服务器和普通服务器的因素：

硬件配置：GPU服务器通常具有多个高端GPU卡，而普通服务器则通常只有一个或几个CPU。此外，GPU服务器通常具有更高的内存容量和更快的存储设备，以便处理和存储大量数据。

应用场景：GPU服务器通常用于计算密集型的任务，例如深度学习、机器学习、数据挖掘和科学计算等需要大量矩阵运算和并行计算的应用。而普通服务器则更适用于处理数据传输、存储和其他一般性任务。

性能：由于GPU服务器具有GPU加速，因此其性能通常比普通服务器更高，尤其是在处理大量数据和进行大规模计算时。GPU服务器可以利用GPU的并行计算能力，加速许多复杂的计算任务。

价格：由于GPU服务器的配置和性能比普通服务器更高，因此其价格也通常更高。GPU服务器可能需要更多的电力和散热，因此它们也可能更昂贵。因此，在购买GPU服务器之前，需要考虑你的预算和实际需求。

总的来说，GPU服务器和普通服务器有很多不同之处，主要是在硬件配置、应用场景、性能和价格等方面。你需要根据自己的需求和预算，选择最适合的服务器类型。

---