跳至主要内容

人工智能和机器学习

随着人工智能 (AI) 和机器学习 (ML) 对新商业模式变得至关重要,而数据中心性能是未来盈利能力和竞争力的基础。数据通信工程师面临着将设施性能升级到 224 Gbps-PAM4 等最新技术,以及采用最先进的路由、空间效率和电源管理策略等压力。

总览


从大数据的起源到深度学习的发展和大语言模型 (LLM) 时代,数据处理应用的功能和影响力越来越强大。每一次突破都重新定义了可能性,并提出了数据通信工程师必须应对的独特挑战和机遇,从而确保运营的稳健、可扩展和高效。

数据中心代表着实现我们不断升级的数字经济的物理基础设施,因此其可靠性非常重要。然而,AI 和 ML 领域的最新进展对其当前功能提出了前所未有的要求。为了高效存储和处理这些庞大的数据集,需要更大的带宽和更低的延迟。

此外,随着 AI 模型越来越复杂,训练和推理所需的计算带宽会激增,导致运营成本增加,并且需要采用更先进的热和电源管理策略。事实上,训练 ChatGPT 4.0 等大型生成式 AI 模型需要多达 10 的 24 次方 (1025) FLOPS 的处理能力,预计成本为 1 亿美元。随着 ML 应用进一步移至边缘以支持自动驾驶汽车、医疗诊断和智能家居等应用,将进一步感受到这一影响——预计到 2034 年,该市场的规模将超过 220 亿美元。

这就需要更加强大、高效的新一代 GPU 硬件、更高的网络内部数据传输速率,以及可适应不断增长的 AI 和 ML 需求的可扩展系统。

Molex莫仕正处于这些发展成果的前沿,与我们的客户合作开发创新解决方案,从我们率先上市的 224G 产品组合到下一代 PCIe 技术,包罗万象。我们的全球跨学科工程专家团队专注于效率,提供可扩展的模块化互连解决方案,解决速度、响应能力、信号完整性、热管理、空间限制和易于维护等问题。

按数字

adfg

42%

2022 年至 2032 年生成式 AI 市场的复合年增长率 (CAGR)

sg

1.3 万亿美元

预计 10 年后生成式 AI 的市场价值

fb

6 个月

ML 数据量要求翻倍所需的时间

dh

100 亿

自 2010 年以来学习模型训练计算增长的因素

特色资源


采用 AI 和 ML 的趋势和推动因素

AI 和 ML 越来越多地被用于帮助管理日益复杂的网络,以及寻找实现日常流程自动化的新方法。这导致来自汽车医疗健康与诊断智能农业以及消费品设计与制造等不同行业的数据浪潮的涌现。

这些行业现在依靠 AI 和 ML 来提供基于实时分析的见解,以及优化云和物联网 (IoT) 网络的资源分配。同时,算法创新和更大的实验学习模型不断为供应链、产品开发和客户体验领域的业务应用开辟新途径。

对更强大计算能力的渴望与采用更加灵活的架构和模块化硬件平台是相辅相成的,共同为当前和未来需求提供支持。

sdf

AL 和 ML 革命带来的挑战

在数据中心和周边网络中实施 AI 和 ML 会带来一些难题:

  • 首先是数据管理,许多应用的规模十分庞大并且非常关键,需要强大的系统来实现存储、路由、预测分析和数据安全。
  • 可扩展性是另一个难题——随着网络需求升级,AI 和 ML 框架必须能够进行调整和扩展,以适应不断波动的负载。
  • 整个数据中心的信号完整性至关重要。完整性遭到破坏可能会干扰模型,导致结果错误以及性能下降。
  • 计算和传输速率提高会导致产生的热量也随之增加。可靠性部分取决于整个数据中心运营中的有效热管理。
  • 最后,将 AI 和 ML 集成到现有基础设施中需要精心协调,以保持系统和谐,升级到下一代硬件而不会中断正在进行的操作。
sdg

其他资源


The Enduring Edge of Copper

Next-generation 224G speeds are required to meet the demands of AI and other advanced applications. Learn how high-speed copper interconnect technology adapts to the AI era, ensuring unmatched speed, efficiency, and reliability for cutting-edge 224Gbps applications.

adf

未来是 224G

下一代数据中心会是什么样子? 让我们先睹为快,来看看 224 Gbps-PAM4 系统,以及为系统架构师提供新功能和灵活性的改进。

打造超大规模数据中心

Molex 带来了下一代 PCIe 技术、定制架构设计和率先上市的全方位 224 Gbps-PAM4 产品组合,实现前所未有的数据中心性能。

The Highest Quality Power

Data centers don’t just need more power, they need more reliable power solutions. Molex engineers are finding new methods of energy resource management to eliminate surges and spikes, avoid critical thermal limits and flexibly route power through the data center infrastructure.

数据传输速度加倍

Molex莫仕的芯片到芯片 224G 产品组合在提高数据传输率方面表现优异,为数据中心提供跟上 AI 和 ML 应用爆炸式增长步伐所需的速度与可靠性。

神奇总线

PCIe 串行总线技术有望凭借最新一代的硬件和连接器让容量再次翻倍。适用于 PCIe 第 5 代的 Molex莫仕 NearStack 产品线是提高信号速度必不可少的。

特色产品