做深度学习，需要配置专门的GPU服务器吗？

深度学习是需要配置专门的GPU服务器的:

深度学习的电脑配置要求：

1、数据存储要求

在一些深度学习案例中，数据存储会成为明显的瓶颈。做深度学习首先需要一个好的存储系统，将历史资料保存起来。

主要任务：历史数据存储，如：文字、图像、声音、视频、数据库等。

数据容量：提供足够高的存储能力。

读写带宽：多硬盘并行读写架构提高数据读写带宽。

接口：高带宽，同时延迟低。

传统解决方式：专门的存储服务器，借助万兆端口访问。

缺点：带宽不高，对深度学习的数据读取过程时间长(延迟大，两台机器之间数据交换)，成本还巨高。

2、CPU要求

当你在GPU上跑深度网络时，CPU进行的计算很少，但是CPU仍然需要处理以下事情：

（1）数据从存储系统调入到内存的解压计算。

（2）GPU计算前的数据预处理。

（3）在代码中写入并读取变量，执行指令如函数调用，创建小批量数据，启动到GPU的数据传输。

（4）GPU多卡并行计算前，每个核负责一块卡的所需要的数据并行切分处理和控制。

（5）增值几个变量、评估几个布尔表达式、在GPU或在编程里面调用几个函数——所有这些会取决于CPU核的频率，此时唯有提升CPU频率。

传统解决方式：CPU规格很随意，核数和频率没有任何要求。

3、GPU要求

如果你正在构建或升级你的深度学习系统，你最关心的应该也是GPU。GPU正是深度学习应用的核心要素——计算性能提升上，收获巨大。

主要任务：承担深度学习的数据建模计算、运行复杂算法。

传统架构：提供1~8块GPU。

4、内存要求

至少要和你的GPU显存存大小相同的内存。当然你也能用更小的内存工作，但是，你或许需要一步步转移数据。总而言之，如果钱够而且需要做很多预处理，就不必在内存瓶颈上兜转，浪费时间。

主要任务：存放预处理的数据，待GPU读取处理，中间结果存放。

深度学习需要强大的电脑算力，因此对电脑的硬件配置自然是超高的，那么现在普通的高算力电脑需要高配置硬件。

实事求是的说，蓝海大脑的深度学习边缘计算服务器不错，除了夏天有点热。他们的服务器功耗低，性能可靠，最重要的是可以用于深度学习、自动驾驶、人脸检测、机器识别、视觉识别、行为识别等领域。

实验室没有服务器可以用Googlecolab跑深度学习模型。具体 *** 作步骤如下：
1、创建colab文件：进入Google云盘后，创建一个colab文件。第一次使用，会存在colab选项不显示的情况，点击关联更多应用即可。点击colab选项后会跳转到一个页面，与jupyter基本一模一样，可输入代码段，能连接服务器，有文件目录、colab文件名和使用选项。
2、配置colab环境：点击修改后点击笔记本设置就可以配置gpu了，硬件加速选择gpu，点击连接即配置好环境，将Googledrive的云空间连接起来，就有了drive文件夹，现在配置已经全部完成。
3、配置完成就可以使用Googlecolab跑深度学习模型了，gpu是k80计算速度慢，可以再新建一个colab文件，两三次就可以开到p100了。gpu用完的场景，需要1天时间恢复，可以再弄一个谷歌账号重复上述 *** 作。

需要安装。
1。安装系统。1。安装ubuntu。具体安装省略，记录一个小bug，可能在给有独立显卡的台式机安装ubuntu双系统时遇到：在安装时，使用U盘启动这步，直接选择tryubuntu或installubuntu都会出现黑屏的问题。解决方法：将光标移动到installubuntu一项上，按e键，会进入一个可编辑的界面，将quietsplash修改为nouveau。modeset=0nomodeset，然后按ctrl+x进入安装。之后在ubuntu安装nvidia驱动后，就正常了。如果没有安装驱动，每次进入前，都要用同样的方法将上面的quietsplash修改。2。配置nvidia显卡。具体分为两步：安装nvidia驱动，如果是图形界面的话，在Software&Updates中的AdditionalDrivers中选择合适的驱动安装即可。在官网下载cudnn并安装。2。创建和登录用户。在linux上创建自己的用户，方便管理代码和安装应用。比如我们想要创建一个用户名是haha，密码是123456的用户，命令如下：添加用户：useradd-d/home/haha-mhaha。设置密码(只有设置密码之后，才能登录用户)：passwdhaha，然后输入密码。然后就可以通过sshhaha@your_ip的方式登录服务器了。登录后也可以设置bash：chsh-s/bin/bash或修改为zsh。加入root权限：使用apt下载时，如果出现不在sudoers文件中的报错，则需要将用户加入sudoers，执行sudovim/etc/sudoers命令，rootALL=(ALL)ALL的下一行加入hahaALL=(ALL)ALL，然后保存。删除用户：userdel-rhaha。

产品类型 4U机架式
1 CPU 金牌6326 16核心32线程 基频29GHZ 加速频率35GHZ TDP: 185W 2
2 内存 512G(32GB32) DDR4 3200MHZ 1
4 准系统 超微420GP-TNR 4U机架式准系统， 带2200W冗余2+2电源;平台最大支持lO个GPU
32个DIMM插槽；母板超级X12DPG-OA6处理器中央处理器双插槽 P+ (LGA-4189)第三代英特尔 至强 可扩展处理器支持CPU TDP 270W核心高达40C/80T；高达 60MB 的缓存图形处理器支持的GPUHGX A100 8-GPU 40GB/80GB SXM4 多 GPU 1
5 SSD 三星PM9A1 1TB M2接口 NVMe协议 四通道 PCIe40 固态硬盘 1
6 SATA 希捷(Seagate)银河系列V6 6TB ST6000NM021A 7200RPM 256MB SATA3企业级硬盘 1
7 GPU卡 英伟达RTX 4090公版 4

在深度学习场景中，GPU服务器是必不可少的一部分，也是可以提高计算速度和精度的关键，以下是几种适合深度学习场景的GPU服务器：
1 NVIDIA Tesla V100 服务器：具备高性能计算能力和内存容量，适用于深度学习、大规模数据分析和AI训练等场景。
2 AMD Radeon Instinct MI60 Server：可用于机器学习、高性能计算和图形渲染等领域，具备高速内存、流式计算和稳定性等特点。
3 Intel Movidius Neural Compute Stick：便携式的神经计算设备，可以利用USB接口与其他设备连接，适用于嵌入式设备上的深度学习场景。
以上服务器都具有针对深度学习的高速计算能力、可靠性和易用性，对于需要进行大规模数据训练、模型评估和推理等任务的用户群体非常适用。

---