扩展方式不断演进——千鑫点信息咨询服务公司

随着数据中心扩展层级的不断变化，尤其是在人工智能工作负载方面，已经出现了向上扩展、向外扩展和跨域扩展等多种方法。

千鑫点信息咨询服务公司

最近，又出现了向下扩展。“这是一个近三个月才出现的术语，”Ayar Labs 产品管理负责人 Vishal Chandrasekar 表示，“它指的是单个机箱内 GPU 输出的带宽量。”

直到最近，这些概念的定义可以概括如下：

缩减是指在单个服务器或单个主板上的处理器之间进行扩展。
扩展型存储设备位于机架内，采用铜线连接，并允许使用内存语义进行编程。（剧透警告：此功能现已过时。）
横向扩展是指在机架之间进行扩展，并采用以太网 RDMA 语义。它越来越多地使用光互连。
跨域扩展是指在不同的数据中心园区之间进行扩展，并且涉及光纤。
除了缩减规模之外，纵向扩展也在不断发展。计算集群的规模不再局限于单个机架，而是扩展到相邻机架，部署服务器。互连距离越来越长，铜缆可能不再是最佳传输介质。因此，光纤正在逐渐应用于纵向扩展。千鑫点信息咨询服务公司
“如果只是在机架内部，你很可能会用铜缆，” Chandrasekar 解释说。“如果是相邻机架，那就有点勉强了，但假设你坚持用铜缆。如果超出相邻机架的范围，你就得用光纤了。”

至于链路需要光纤传输多远，Chandrasekar解释说：“假设他们使用200Gbps的信号传输速率，铜缆在5米以内可能适用，如果真的要加倍，7米也行。当然，一旦超过10米，就绝对必须使用光纤了。”

如前所述，规模化部署包含三个要素：单机架、铜缆和内存语义。前两个要素目前正在逐步淘汰，剩下的决定性因素是内存语义的使用。

Synopsys接口IP产品管理总监Priyank Shukla表示：“软件开发人员将纵向扩展定义为在一个操作系统域内使用单一内存。因此，如果您正在运行一个进程，处理器可以写入一个内存位置，而无需考虑该内存位于何处。”

典型的纵向扩展和横向扩展实现方式都旨在最大限度地减少跳数。“在纵向扩展领域，每个GPU与其他任何GPU之间都只有一次跳，” Chandrasekar说道。“如果是横向扩展，则需要两次跳。”

千鑫点信息咨询服务公司

新的 UALink 标准强制执行了单跳扩展的预期。“UALink 扩展架构旨在保持加速器之间的单交换机跳连接，”Shukla 解释道。“即使扩展域扩展到单个机架之外，加速器之间的通信也仅需经过单个 UALink 交换机。因此，跨机架连接加速器本身并不需要引入额外跳数的交换机到交换机拓扑结构。该单个交换机可以位于机架架构中的不同位置，例如机架顶部 (ToR) 或机架中部 (MoR) 部署，但关键在于加速器流量在端点之间仍然仅需经过一个交换机。”

一旦扩展域扩展到机架之外，同样的延迟和跳数限制就会将注意力从互连介质转移到连接加速器、交换机和服务器的更广泛的网络拓扑结构。