用于多个计算模块的互连系统和计算系统技术方案

技术编号:44293883 阅读:14 留言:0更新日期:2025-02-18 20:14
本发明专利技术涉及用于多个计算模块的互连系统和计算系统。由多个计算模块构建第一层级计算模组,然后由多个第一层级计算模组构建第二层级计算组,以此类推,可以构建2层及其以上的计算模组。对于任意一层级计算模组,用于该层级计算模组内部通信互连的输入输出接口的数量大于用于该层级计算模组之间通信互连的输入输出接口的数量。

【技术实现步骤摘要】

本专利技术涉及计算机领域,更为具体而言,涉及用于多个计算模块的互连系统和计算系统


技术介绍

1、根据美国人工智能研究公司openai的数据,人工智能(artificialintelligence,ai)模型计算量增长速度远超计算硬件算力增长速度。随着ai加速器通过制程工艺迭代和芯片架构创新获得持续的算力提升,ai加速器之间的互连带宽也不断增长。ai加速器互连网络已成为提升整体算力的关键。

2、然而由于电通道的响应会随着信号速率的提升而衰减,更高速率的接口往往会涉及到更复杂的架构和电路设计,引入延迟的代价,并且消耗更多的功率和占用更大的芯片面积,从而限制芯片输入输出带宽。另外,更长的金属布线距离也会进一步恶化电路的损耗特性,限制ai加速器之间的互连距离。

3、为了打破长距离高频电学链路损耗的限制,光互连作为有潜力的技术路线备受青睐。虽然光互连打破了距离的限制,但每个计算节点的接口数量是有限的,迫切需求利用有限的接口制定出有效的拓扑结构,使计算集群同时满足大算力、高带宽的需求。


技术实现思路

本文档来自技高网...

【技术保护点】

1.一种用于多个计算模块的互连系统,其包括多个计算模块,每个计算模块具有K个输入输出接口,K是大于0的整数;

2.如权利要求1所述的互连系统,其特征在于,用于第1层级计算模组内部各个计算模块之间的通信互连的输入输出接口的数量大于用于第2层级计算模组内部各个第1层级计算模组之间的通信互连的输入输出接口数。

3.如权利要求1所述的互连系统,其特征在于,用于第i层级计算模组内部各个所述第i-1层级计算模组之间的通信互连的输入输出接口的数量大于用于第i+1层级计算模组内部各第i层级计算模组之间的通信互连的输入输出接口数。

4.如权利要求1所述的互连系统,其特征...

【技术特征摘要】

1.一种用于多个计算模块的互连系统,其包括多个计算模块,每个计算模块具有k个输入输出接口,k是大于0的整数;

2.如权利要求1所述的互连系统,其特征在于,用于第1层级计算模组内部各个计算模块之间的通信互连的输入输出接口的数量大于用于第2层级计算模组内部各个第1层级计算模组之间的通信互连的输入输出接口数。

3.如权利要求1所述的互连系统,其特征在于,用于第i层级计算模组内部各个所述第i-1层级计算模组之间的通信互连的输入输出接口的数量大于用于第i+1层级计算模组内部各第i层级计算模组之间的通信互连的输入输出接口数。

4.如权利要求1所述的互连系统,其特征在于,每个所述计算模块用于第1层级至第j层级计算模组的输入输出接口的数量等于k。

5.如权利要求1所述的互连系统,其特征在于,第1层级至第j层级计算模组中至少一个层级计算模组内部用于通信互连的链路为光链路。

6.如权利要求1至5任意一项所述的互连系统,其特征在于,所述多个计算模块构成2层计算模组,即i=j=2,

7.如权利要求6所述的互连系统,其特征在于,

8.如权利要求6所述...

【专利技术属性】
技术研发人员:沈亦晨孟怀宇周武熊军侯赛因·阿泽热朱剑
申请(专利权)人:上海曦智科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1