AI 对机架功率的影响

AI 对机架功率的影响,第1张

人工智能:它变得比云更无处不在。AI 无所不在的本质并不局限于数据中心,也不存在于麻省理工学院 Python 程序员的头脑中。它可以在我们当地的超市以在过道中漫游的自主机器人的形式出现,使用卷积神经网络 (CNN) 嵌入机场安全摄像头中,在亚马逊的 Alexa 形式的壁炉上,甚至在后面我们的 Lucky 牛仔裤口袋,因为 Apple 的 Siri 虚拟助手会推荐 10 英里内的美味寿司。

它如此迅速地侵入了我们的生活,因为人工智能编程能够从经验或培训中学习,并将这些知识应用到未来的场景中。换句话说,它可以执行类似人类的任务,同时随着时间的推移适应不断变化的环境。无论 AI 界面是什么——一个眼睛瞪得溜圆的超市机器人,还是一个闷热的澳大利亚女性声音为我们指明一个好酒吧——工作负载都需要在某种类型的基于 CPUGPU 的系统上进行处理,例如 Nvidia 的 DGX。

因为有很多不同类型的人工智能,所以没有一种最适合处理工作负载的硬件。正如英特尔的 Naveen Rao所说,“客户发现没有单一的‘最好’硬件来运行各种人工智能应用程序,因为没有单一类型的人工智能。” 无论为 AI 应用程序选择什么硬件,肯定有一个共同点:处理工作负载的每一个设备都需要有能力。

美元数据

对于 IT 经理来说,人工智能对计算服务器所需的功率产生了相当大的影响。服务器机架的平均功耗通常为 7 kW;但是,AI 应用程序每个机架可能使用超过 30 kW 的功率。增加千瓦是必要的,因为 AI 需要更高的处理器利用率,例如在 GPU 类型的服务器上运行的应用程序——它们每个芯片需要两倍的功率。

当然,如果您的设施功率受限,您可以尝试移动数据,但这可能需要比处理数据更多的能量,并且功耗始终与移动的数据量相关。简而言之,与数据传输相关的成本很高。

例如,尽管有许多云提供商(AWS、Azure、Google 等)可供选择,但许多公司都面临着与复杂数据传输价格相关的隐性成本。解决这种困境的一个合理解决方案不是移动数据,而是在更接近起源点的地方处理数据——这又创造了对边缘计算的另一个需求。

用小网络解决大问题

边缘计算有望成为另一个无处不在且备受期待的数据进步——5G——的支柱。5G 预期的 1 毫秒延迟时间需要许多分布式处理区域(也称为边缘网络)的支持。基于边缘的服务器需要更靠近个人流式传输 4K 视频和最终 8K 格式,以及用于监控智能城市中行人和交通运动的摄像头等应用程序——而这一切都不需要将其发送到云端。

此外,还需要边缘网络来支持自动驾驶汽车。这种优雅的新数据流挂毯的核心将是近实时的人工智能处理信息。

目前,所有人工智能应用程序都在基于硅的计算硬件上运行,无论是在智能手机中内置的定制芯片中、在边缘计算服务器中部署的 FPGA 中,还是在专门构建的专注于人工智能的系统中,例如来自 Nvidia 的 DGX,可通过公共云访问。

而且这些硬件都需要电源,无论是直流电(如电池)还是交流电(来自电网)。它还需要物理系统之间的连接,无论是通过铜线还是光纤数据连接。

断电是AI的氪石

人工智能似乎对人类具有前所未有的价值。然而,当遇到断电时,它会崩溃并停止运作——就像超人对氪石的反应一样。将 AI 与这种能量克星隔离并降低故障风险的解决方案是确保可靠的电力流。

具有每插座功率感应功能的交换式 PDU 将使边缘数据中心能够最大限度地延长所有需要近实时处理的以人工智能为中心的应用程序的正常运行时间。在这种环境下,选择可靠的 PDU 来为交通控制信号和中继站的 AI 工作负载供电非常重要,急救人员使用这些中继站为救护车、消防和执法服务提供调度和紧急数字通信。

 

Server Technology 的交换式 PDU

鉴于这些关键任务环境,智慧城市需要智能电力设备来确保其 5G 服务畅通无阻。使用远程监控和管理的数据中心 PDU 还可以帮助监控机柜内的温度和环境条件。

回到数据中心和托管设施,人们正在将基于 CPU 的服务器换成 GPU 系统更强大的 AI 处理能力,当 C13 和 C19 插座的更大组合时,拥有可扩展的机架式 PDU 真的很方便需要 — 正在创建 30 kW 机架。

信息的家谱植根于进步的土壤

这一切都始于口头收集信息的愿望。帮助做出决定的细节。直到 1846 年皇家伯爵府首次发明了电报印刷系统,信息才需要手摇曲柄形式的动力。从那时起,权力和信息就交织在一起了。

如今,位于橡树岭国家实验室的世界上最强大的超级计算机 Summit 使用近 30,000 个强大的图形处理器来运行深度学习算法,以帮助我们应对气候变化——以每秒 10 亿次 *** 作的速度。我们真的处于一个新时代的黎明,人工智能将为我们的生活提供动力——但不是在我们为人工智能提供动力之前。选择可扩展且可靠的电源对于确保 AI 兑现其崇高承诺至关重要。 

      审核编辑:彭静

欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/dianzi/3000790.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-09-27
下一篇 2022-09-27

发表评论

登录后才能评论

评论列表(0条)

保存