瑞技科技

重磅消息

生成式 AI 对数据中心网络的影响
首页 > 网站博客 > 生成式 AI 对数据中心网络的影响

生成式 AI 对数据中心网络的影响

AI 对数据中心网络的影响是巨大且多方面的,我们有充分的理由期待 AI 继续在几乎所有可以想象到的应用中成为主流。一个例子是目前提出的 AI 冰箱,它可以推荐用户应该吃什么。


AI 融入消费者日常生活意味着数据中心资源的使用比以往任何时候都更加频繁。再加上边缘计算和 5G 的同步激增,数据中心正在经历显而易见的快速增长和变化。

以下是现代数据中心为应对 AI 提出的极端要求而采取的一些应对方式。

数据中心正在使用更强大的网络芯片

AI 应用所需的带宽非常巨大。不仅带宽容量要求高,而且延迟必须非常低,以便给用户感带来即时交互体验。

目前,对这一需求的最佳响应是使用最新技术的网络芯片。例如 Synopsys 制造的 1.6T 以太网 IP 核芯片,这款芯片的设计考虑到了超大规模 AI 的使用,对于需要更多带宽的数据中心来说,它是一个绝佳的选择。

以太网比 InfiniBand 更受欢迎

截至目前,InfiniBand 提供 200 Gbps 或更高的速度,这一直是一个具有吸引力且具有竞争力的层级。然而,对于人工智能密集型数据中心来说,Synopsys 正在取代 InfiniBand 成为最具竞争力的选择。这至少部分是因为前面提到的 1.6T 以太网芯片,这是业界首款该层级的产品。


当预算不是问题时,超大规模数据中心几乎总是会选择最快的芯片,而由于对人工智能支持的需求巨大,目前别无选择,只能使用以太网。


Synopsys 的 1.6T 芯片是新上市的,尚未经过时间的考验,但该公司声称,与目前的 800G 选项相比,它可以降低 40%的延迟。

面向未来至关重要

随着对 AI 的需求快速增长,数据中心的需求格局也在不断增长。通常情况下,基础设施在升级几分钟后就会过时。


以太网 IP 的可扩展性和适应性是 Synopsys 成为 AI 密集型数据中心首选的另一个原因。Synopsys 专注于为数据中心开发可定制、可扩展的解决方案,包括铜缆、芯片到芯片和芯片到模块的连接。这使数据中心能够以适合他们的配置设置具有所需功率和性能的系统。

后端网络的开发也是重中之重

与足以连接当今典型服务器配置的前端网络不同,支持新的、更强大的收发器需要对许多数据中心后端网络进行重大升级。


如果网络需要处理每秒数兆兆位的大容量数据传输,这一点至关重要,在某些设施中,这种情况似乎很快就会出现(如果不是已经出现的话)。换个角度来说,数据中心将很快需要能够处理两倍于当前 800G 速度的网络,而不会大幅增加其功耗。


为了实现这一目标,数据中心正在升级交换机并构建其他关键的后端基础设施。

超大规模数据中心已开始为 AI 使用单独的光纤网络

对于典型应用(例如用户使用流媒体 Netflix 或工作中使用云服务),大多数数据中心使用的光纤连接前端网络就足够了。随着 AI 的普及,许多数据中心增加了额外的电缆和设备集群来满足需求,并将它们插入第一个网络。


现在 AI 已成为主流,增加的基础设施对数据中心的光纤资源提出了巨大的需求。增加光纤连接和支持越来越强大的服务器设置的一种解决方案是使用第二个光纤网络(与第一个光纤网络分开),且仅用于 AI 应用。这使数据中心能够扩展其 AI 支持,又不会影响用户的日常活动。

主机托管业务正在蓬勃发展

因为供应商必须不断扩大运营以满足消费者使用 AI 所产生的需求,主机托管设施中的数据中心租赁量正在急剧增加。一项调查显示,在 2023 年 5 月中旬至 7 月底期间,AI 带来了价值 2.1GW 的新数据中心租赁。预计主机托管领域的数据中心租赁量将在可预见的未来带来增长和收入增长。


越来越多的主机托管设施正在通过升级其基础设施并向 AI 客户敞开大门来应对挑战。然而,租赁量的增加并非没有挑战。


在某些情况下,数据中心和主机托管空间已经面临空间压力。主机托管设施的最高层通常是对资源有很高要求的超大规模客户。


尽管升级基础设施和设备既费时又费钱,但顶级主机托管设施仍然会这样做,因为他们知道有许多感兴趣的客户正在等待租赁空间。


对需求激增做出最快反应的设施将名列前茅。并非所有数据中心都为 AI 而设,许多能够容纳 AI 的数据中心也只能在有限的容量下运行。这种情况不会很快改变。即使在能够快速转移的 AI 客户端和数据中心设施已经匹配之后,仍然有很大的需求。现在是升级和预约升级设施的时候了。

需要重新思考数据中心的设计原则

当云开始流行时,数据中心必须应对资源需求的激增,比如重新设计配置以最大限度地利用空间,购买更高效的冷却解决方案,升级电源。


由于人工智能,数据中心需要重新思考设计和运营。


挑战是相似的:

  • 将超强设备安装到更小的空间

  • 高效冷却这些强大的系统

  • 为整个运营提供电力

  • 为未来的升级留出空间


这些变化的规模是大多数数据中心从未遇到过的。


一个关键的考虑因素是冷却。一些数据中心已经用高密度风冷系统或直接到芯片 (D2C) 液体冷却系统取代了他们的冷却技术,以适应新的、更强大的设备产生的大量热量。


如果数据中心与了解其确切需求的 AI 企业合作,他们可以将这些参数用作升级的指导方针。

创意解决方案比比皆是

爆炸性需求有望引发令人印象深刻的创新。无论数据中心是设计全新的设施并考虑生成式 AI,还是改造现有设施,他们的策略都需要大量的创造力和开放的心态才能取得成功。


随着数据中心扩建或建造新设施以容纳 AI 所需的更重 IT 设备,数据中心工作人员降需要一种安全的方式来运输和安装设备。ServerLIFT 升降设备将为您的数据中心升级扩建保驾护航。

生成式 AI 对数据中心网络的影响

联系瑞技

ServerLIFT 升降设备专为数据中心 IT 设备搬运和上下架而设计,是企业保障设备和人员安全的利器。欢迎联系瑞技了解产品详情及报价信息:

400-8866-490   |  sales.cn@bytebt.com