ITBear旗下自媒体矩阵:

AI组网新趋势:Scale up与Scale out如何引领未来?探秘组网技术的颠覆性变革!

   时间:2024-09-11 20:04:13 来源:ITBEAR作者:江紫萱编辑:瑞雪 发表评论无障碍通道

【ITBEAR】9月11日消息,随着人工智能技术的飞速发展,AI组网结构的变化趋势日益成为业界关注的焦点。近日,兴业证券发布了一份题为《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》的研究报告,深入探讨了这一问题及其对算力产业链投资机会的影响。

报告指出,在AI大模型训练领域,分布式并行训练架构已成为主流,其中张量并行对通信的要求尤为突出。随着模型规模的不断扩大,服务器内带宽需求也在迅猛增长。为满足这一需求,建立更大带宽的超节点已成为行业发展的必然趋势。

据ITBEAR了解,超节点的规模设计正由GPU厂商和云服务商共同推动。以英伟达为例,其超节点规模在不断升级,以适应日益增长的算力需求。同时,谷歌也在通过扩大超节点Pod规模来降低数据中心网络(DCN)的带宽要求。此外,UALink联盟也在积极推动超节点规模的进一步提升。

在Scale up方面,除了带宽提升外,互联密度的增加也是一个重要趋势。英伟达等厂商正在采用先进的互联技术,如NVL GB200方案和NVLINK协议,以提升机柜内部的互联带宽。目前,铜互联方式仍占主导地位,但长期来看,光互联技术有望取代铜互联,成为未来的主流互联方式。

另一方面,Scale out的发展则主要体现在集群规模的扩大上。受Scaling Laws法则的驱动,AI大模型的硬件部署正朝着更大集群的方向发展。目前,AI集群规模已进入10万卡阶段,以太网组网在AI集群中的应用也正在加速落地。

报告还提到,字节跳动和meta等科技巨头已经采用以太网技术来搭建AI集群。同时,博通等厂商也在不断升级其以太网交换芯片,以满足不断增长的市场需求。英伟达也强调了以太网方案在AI集群部署中的重要性。

此外,随着AI集群规模的扩大,交换机和光模块等配套设施的需求也在不断增加。Arista等公司针对AI需求提出了不同的交换机互联方案,通过提升交换机端口数来推动Scale out规模的进一步提升。同时,光模块的总需求也与算力需求成正比,保持向上趋势。硅光技术有望在未来逐步从可插拔硅光形式过渡到CPO形式,并在1.6T光模块阶段实现渗透率的提升。

综上所述,AI组网正朝着更大规模集群的方向发展,Scale up和Scale out两大趋势共同推动了AI算力产业链的不断进步。随着技术的不断创新和市场需求的持续增长,相关产业将迎来更多的投资机会和发展空间。

#AI组网# #Scale up# #Scale out# #算力产业链# #投资机会#

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  网站留言  |  RSS订阅  |  违规举报  |  开放转载  |  滚动资讯  |  English Version