数据中心架构中的机器学习

趋势

新一代数据应用

在为数据中心开发机器学习时,从一开始就必须将影响性能、可扩展性和弹性的所有因素纳入考虑。

拥有正确的架构对于成功将机器学习添加到数据中心至关重要。 数据中心的基础架构是实现 IT 架构功能的关键,因为其大部分内容都来自 IT 架构或通过 IT 架构传递。

 

在为数据中心开发机器学习时,在规划期应首先考虑影响设施性能、可扩展性和弹性的所有因素。为此,系统设计人员通常将重点放在开发一种能够快速支持新应用的灵活架构上。

 

在规划过程中未解决这些问题可能会导致数据架构效率低下或不准确,最终导致整个系统和电源发生故障,使数据中心操作员丢失大量关键数据。

 

有几大因素会导致这类故障,包括未正确计算电力系统要求、电力设备选择不当以及自动传输机制设计不当。为了帮助优化当今数据中心架构中的机器学习功能,系统设计人员应考虑导致系统故障的常见问题以及能够解决这些问题原因的元件。

首席技术官对云计算的见解

英文视频

TE 的首席技术官兼副总裁 Erin Byrne 讨论了她对云计算和影响设计架构的大趋势的看法。

首席技术官对云计算的见解

英文视频

TE 的首席技术官兼副总裁 Erin Byrne 讨论了她对云计算和影响设计架构的大趋势的看法。

当今数据中心行业的一个问题是,人工智能 (AI) 和机器学习这两个术语经常混用,这可能会造成混淆和不准确。 需要记住的是,机器学习是人工智能的一个典型分支。使用人工智能时,重点是开发能够“思考”的机器,而机器学习通常用于定义算法,使机器能够从重复的功能中“学习”。虽然机器学习并不是什么新概念,但在过去几年中,发生的其中一个变化是计算机处理能力提高,每位成本降低。这可以让设计人员找到机会,使机器学习更广泛地融入我们的日常生活,从 Google 和 Netflix 等推荐引擎到智能手机上的集成式社交媒体应用以及指纹和面部识别。

 

自从机器学习最早应用于航空航天业以来,飞机设计人员在机翼设计上进行了许多创新,很多设计人员在打算优化设计时,对机器学习用途的思考都逐渐朝向全面理解如何平衡潜能和利弊的方向发展。

 

这种转变正在影响着数据中心,我们现在经常看到人工智能和机器学习正从标准计算机和独立计算机中的有限应用过渡到一系列特定于硅的应用。这有助于为行业打开大门,让人们专注于优化数据中心网络,在这些网络的每个部分使用人工智能和机器学习来不断扩展功能。

在未来五年内,机器学习的使用预计将从专用基础架构转向更灵活的基础架构,从而实现即时扩缩、变化和多样化。 虽然机器学习数据收集的主要功能之一是围绕人机交互,但商机正转向可能无需人工数据或输入的机器间的交互。当机器开始创建通信路径时,系统可以帮助处理和传输数据,为我们提供关于大批量数据的新见解。

 

将机器学习添加到服务器和数据机架等数据系统中的过程通常有所不同,具体取决于系统设计人员尝试实现的目标,以及数据中心操作员向核心添加机器学习的工作量。

 

将机器学习添加到新的或现有的数据中心内通常是为了解决现有的已知问题,比如大型学习池中的问题或网络问题,因为算法是通过接收到的数据开发出来的。如今,大多数解决方案都倾向于根据问题的大小进行定制。

 

在设计客户解决方案时面临的一些挑战包括:优化配电、降低热能级、提高互连的高速/低延迟性能。由于通常数据中心中的所有项都必须互相连接,因此系统元件应提供小空间安装和作业所需的灵活性,并在不增加热输出的情况下满足预期的速度要求。

 

通常,设计人员在规划架构时需要考虑硬件的紧密程度。要取得这种平衡,需要在设计和成本以及供电和冷却结构之间进行权衡。通常,数据中心内有多少功率可以得到适当的控制和冷却是有上限的,这可以指导设计人员进行取舍,让他们开发更高效的加速器和系统设计,并采用先进的热管理技术。

在 TE,我们与客户开展合作,帮助设计和制造能够满足数据中心各种机器学习要求(从超大规模和配置到支持边缘计算的要求)的元件。 我们可以为数据中心架构提供高速和高效的解决方案,包括直接贴装、带接口的外部铜质电缆组件,以及超大型阵列 (XLA) 插槽技术、卡边缘连接器、Strada Whisper 背板连接器电缆组件和内部高速铜质电缆。选择这些产品时,更多的是基于客户将要在其中使用它们的系统设计。我们的电力设计包括电缆组件、总线、配电系统和热管理解决方案。

 

与 TE 合作,客户可以得到可靠耐用的高性能解决方案,同时获得工程师的专业指导,他们可以解决客户可能需要解决的架构问题。通过这些协作,客户可以开发出能够快速扩缩的新一代高效解决方案,将机器学习集成到他们的数据系统核心。我们的工程师可以帮助解决性能问题,让客户专注于其他重要事项,例如在应用层面开发项目,解决抽象的软件相关问题。

TE 作者

  • Erin Byrne,首席技术官兼数据与终端设备事业部工程副总裁
  • Dave Helster,TE 数据与终端设备事业部工程师
  • Mike Tryson,数据与终端设备事业部工程主管
  • Jonathan Lee,数据与终端设备事业部全球散装电缆高级工程经理
  • Christopher Blackburn,数据与终端设备事业部系统架构技术专家
  • David Herring,数据与终端设备事业部系统架构技术专家