【技术实现步骤摘要】
本申请属于服务器领域，具体涉及一种运算装置及服务器系统。
技术介绍
1、随着科技的发展，人工智能训练计算系统架构的需求逐渐增加，通过人工智能训练计算系统架构，可以进行人工智能训练，进而训练各种符合需要的训练模型，并且需要更多、更大的训练模型，来满足发展需求。相关技术中，人工智能训练计算系统架构通常包括服务器，在服务器中设置有具有运算功能的电路板，从而使得服务器具有运算能力。但相关技术中，服务器的算力较小，不能满足人工智能大模型的需求。
技术实现思路
1、本申请实施例的目的是提供一种运算装置及服务器系统，至少解决服务器的算力较小，不能满足人工智能大模型的需求的问题。
2、第一方面，本申请实施例提供了一种运算装置，应用于服务器，所述运算装置包括：多个加速卡以及多个交换芯片；
3、每个所述加速卡分别电连接多个所述交换芯片，所述交换芯片用于使连接于所述交换芯片上的多个加速卡中任意两个加速卡之间互联，以进行通信，所述加速卡用于为所述服务器提供算力。
4、可选地，多个所述加速卡层叠设置，且沿所述加速卡层叠的方向，相邻两个所述加速卡之间具有间隙，且相邻两个所述加速卡连接。
5、可选地，所述加速卡沿所述加速卡的厚度方向具有相对的第一面和第二面，所述第一面上设置对插卡槽，所述第二面上设置有对插连接器；
6、在所述加速卡层叠的方向上，相邻两个所述加速卡中一个所述加速卡的第二面上的对插连接器插接于另一个所述加速卡的第一面上的对插卡槽中，以使相邻
7、可选地，所述加速卡沿所述加速卡的厚度方向具有相对的第一面和第二面，所述第一面以及所述第二面上均设置有对插连接器；
8、在所述加速卡层叠的方向上，相邻两个所述加速卡中一个所述加速卡的第二面上的对插连接器插接于另一个所述加速卡的第一面上的对插连接器，以使相邻两个所述加速卡连接。
9、可选地，所述运算装置还包括基板；
10、所述基板具有集成面，多个所述交换芯片均集成于所述基板的集成面，且多个所述交换芯片在所述集成面上间隔分布；
11、层叠设置的多个所述加速卡中具有最顶层的加速卡和最底层的加速卡，最顶层的所述加速卡与最底层的所述加速卡位置相对，最底层的所述加速卡与所述基板的集成面连接。
12、可选地，所述集成面上设置有连接卡槽，最底层的加速卡与所述连接卡槽连接。
13、可选地，所述基板上连接有高密连接器，所述高密连接器用于连接服务器，以使所述基板与所述服务器之间可通信。
14、可选地，所述运算装置还包括冷却组件，所述冷却组件与所述加速卡接触，所述冷却组件用于所述加速卡进行冷却。
15、可选地，所述冷却组件包括多个冷却板，相邻两个所述加速卡之间的间隙中设置有至少一个所述冷却板，且所述冷却板分别与相邻两个所述加速卡接触；
16、层叠设置的多个所述加速卡中具有最顶层的加速卡和最底层的加速卡，所述最顶层的加速卡与所述最底层的加速卡位置相对，最顶层的所述加速卡背离最底层的所述加速卡的表面设置有至少一个所述冷却板，且所述冷却板与最顶层的所述加速卡背离最底层的所述加速卡的表面接触。
17、可选地，所述冷却板中设置有至少一个液冷管，所述液冷管具有进液口以及出液口，所述进液口以及所述出液口均与所述冷却板的外部连通，所述液冷管用于流通冷却液，所述冷却液用于对所述液冷管冷却，以对所述冷却板冷却。
18、可选地，所述液冷管的形状为弯曲状。
19、可选地，所述冷却组件还包括分集水器，所述液冷管的进液口与所述分集水器连接，所述分集水器连接有回液管，所述回液管的第一端与所述分集水器连接，且所述液冷管的出液口与所述回液管的第二端连接，所述分集水器用于流通所述冷却液，以使所述冷却液流入所述液冷管，所述回液管用于使从所述液冷管流出的冷却液流入至所述分集水器。
20、可选地，所述分集水器具有进液开口以及出液开口，所述进液开口连接有进液插接头，所述出液开口连接有出液插接头，所述进液插接头用于向所述分集水器中导入所述冷却液，所述出液开口用于导出所述分集水器中的冷却液。
21、可选地，所述分集水器上还设置有第一导向销以及第二导向销，所述第一导向销位于所述进液插接头的一侧，所述第二导向销位于所述出液插接头的一侧，所述第一导向销以及所述第二导向销用于在冷却液储存件插接所述进液插接头以及所述出液插接头时，对所述冷却液储存件进行导向，以使所述冷却液储存件快速与所述进液插接头以及所述出液插接头插接。
22、可选地，所述运算装置还包括多个冷却件，一个所述交换芯片与一个所述冷却件接触，所述冷却件用于对所述交换芯片冷却降温。
23、可选地，所述加速卡包括板卡以及算力芯片，所述算力芯片集成于所述板卡。
24、第二方面，本申请实施例提供了一种服务器系统，所述服务器系统包括服务器以及上述第一方面任一项所述的运算装置；
25、所述加速卡与所述服务器电连接，且所述加速卡为所述服务器提供算力。
26、可选地，所述运算装置包括基板，所述基板上连接有高密连接器，所述加速卡与所述基板电连接，所述高密连接器与所述服务器连接，以使所述加速卡与所述服务器电连接。
27、在本申请实施例中，由于每个加速卡分别电连接多个交换芯片，因此，交换芯片便可以使得连接于交换芯片上的多个加速卡中任意两个加速卡之间互联，即相当于多个加速卡通过多个交换芯片形成全互联拓扑，使得任意一张加速卡都可以在不通过跨越其他加速卡的情况下直接连接到其他加速卡，从而可以实现高效的p2p互联，从而在将运算装置应用至服务器中时，通过服务器生成人工智能大模型的模型参数便可以均匀的分布于多张加速卡的显存上，充分利用显存空间优势承载更大规模的模型，多张加速卡之间可以通过张量并行进行模型高效训练，避免了信号衰减，即相当于使得服务器的算力提高，服务器可以高效的进行人工智能大模型的训练。也即是，在本申请实施例中，通过使得多个加速卡中每个加速卡分别电连接多个交换芯片，从而在将运算装置应用于服务器时，服务器生成人工智能大模型的模型参数便可以均匀的分布于多张加速卡的显存上，每个加速卡相当于为服务器提供同等算力，使得服务器的算力提高，进而服务器可以高效的进行人工智能大模型的训练，进而满足人工智能大模型的需求。
本文档来自技高网...【技术保护点】
1.一种运算装置，其特征在于，应用于服务器，所述运算装置包括：多个加速卡以及多个交换芯片；
2.根据权利要求1所述的运算装置，其特征在于，多个所述加速卡层叠设置，且沿所述加速卡层叠的方向，相邻两个所述加速卡之间具有间隙，且相邻两个所述加速卡连接。
3.根据权利要求2所述的运算装置，其特征在于，所述加速卡沿所述加速卡的厚度方向具有相对的第一面和第二面，所述第一面上设置对插卡槽，所述第二面上设置有对插连接器；
4.根据权利要求2所述的运算装置，其特征在于，所述加速卡沿所述加速卡的厚度方向具有相对的第一面和第二面，所述第一面以及所述第二面上均设置有对插连接器；
5.根据权利要求2所述的运算装置，其特征在于，所述运算装置还包括基板；
6.根据权利要求5所述的运算装置，其特征在于，所述集成面上设置有连接卡槽，最底层的所述加速卡与所述连接卡槽连接。
7.根据权利要求5所述的运算装置，其特征在于，所述基板上连接有高密连接器，所述高密连接器用于连接服务器，以使所述基板与所述服务器之间可通信。
8.根据权利要求2所
9.根据权利要求8所述的运算装置，其特征在于，所述冷却组件包括多个冷却板，相邻两个所述加速卡之间的间隙中设置有至少一个所述冷却板，且所述冷却板分别与相邻两个所述加速卡接触；
10.根据权利要求9所述的运算装置，其特征在于，所述冷却板中设置有至少一个液冷管，所述液冷管具有进液口以及出液口，所述进液口以及所述出液口均与所述冷却板的外部连通，所述液冷管用于流通冷却液，所述冷却液用于对所述液冷管冷却，以对所述冷却板冷却。
11.根据权利要求10所述的运算装置，其特征在于，所述液冷管的形状为弯曲状。
12.根据权利要求10所述的运算装置，其特征在于，所述冷却组件还包括分集水器，所述液冷管的进液口与所述分集水器连接，所述分集水器连接有回液管，所述回液管的第一端与所述分集水器连接，且所述液冷管的出液口与所述回液管的第二端连接，所述分集水器用于流通所述冷却液，以使所述冷却液流入所述液冷管，所述回液管用于使从所述液冷管流出的冷却液流入所述分集水器。
13.根据权利要求12所述的运算装置，其特征在于，所述分集水器具有进液开口以及出液开口，所述进液开口连接有进液插接头，所述出液开口连接有出液插接头，所述进液插接头用于向所述分集水器中导入所述冷却液，所述出液开口用于导出所述分集水器中的冷却液。
14.根据权利要求13所述的运算装置，其特征在于，所述分集水器上还设置有第一导向销以及第二导向销，所述第一导向销位于所述进液插接头的一侧，所述第二导向销位于所述出液插接头的一侧，所述第一导向销以及所述第二导向销用于在冷却液储存件插接所述进液插接头以及所述出液插接头时，对所述冷却液储存件进行导向，以使所述冷却液储存件快速与所述进液插接头以及所述出液插接头插接。
15.根据权利要求1-14中任一项所述的运算装置，其特征在于，所述运算装置还包括多个冷却件，一个所述交换芯片与一个所述冷却件接触，所述冷却件用于对所述交换芯片冷却降温。
16.根据权利要求1-14中任一项所述的运算装置，其特征在于，所述加速卡包括板卡以及算力芯片，所述算力芯片集成于所述板卡。
17.一种服务器系统，其特征在于，所述服务器系统包括服务器以及权利要求1-16中任一项所述的运算装置；
18.根据权利要求17所述的服务器系统，其特征在于，所述运算装置包括基板，所述基板上连接有高密连接器，所述加速卡与所述基板电连接，所述高密连接器与所述服务器连接，以使所述加速卡与所述服务器电连接。
...【技术特征摘要】
1.一种运算装置，其特征在于，应用于服务器，所述运算装置包括：多个加速卡以及多个交换芯片；
2.根据权利要求1所述的运算装置，其特征在于，多个所述加速卡层叠设置，且沿所述加速卡层叠的方向，相邻两个所述加速卡之间具有间隙，且相邻两个所述加速卡连接。
3.根据权利要求2所述的运算装置，其特征在于，所述加速卡沿所述加速卡的厚度方向具有相对的第一面和第二面，所述第一面上设置对插卡槽，所述第二面上设置有对插连接器；
4.根据权利要求2所述的运算装置，其特征在于，所述加速卡沿所述加速卡的厚度方向具有相对的第一面和第二面，所述第一面以及所述第二面上均设置有对插连接器；
5.根据权利要求2所述的运算装置，其特征在于，所述运算装置还包括基板；
6.根据权利要求5所述的运算装置，其特征在于，所述集成面上设置有连接卡槽，最底层的所述加速卡与所述连接卡槽连接。
7.根据权利要求5所述的运算装置，其特征在于，所述基板上连接有高密连接器，所述高密连接器用于连接服务器，以使所述基板与所述服务器之间可通信。
8.根据权利要求2所述的运算装置，其特征在于，所述运算装置还包括冷却组件，所述冷却组件与所述加速卡接触，所述冷却组件用于所述加速卡进行冷却。
9.根据权利要求8所述的运算装置，其特征在于，所述冷却组件包括多个冷却板，相邻两个所述加速卡之间的间隙中设置有至少一个所述冷却板，且所述冷却板分别与相邻两个所述加速卡接触；
10.根据权利要求9所述的运算装置，其特征在于，所述冷却板中设置有至少一个液冷管，所述液冷管具有进液口以及出液口，所述进液口以及所述出液口均与所述冷却板的外部连通，所述液冷管用于流通冷却液，所述冷却液用于对所述液冷管冷却，以对所述冷却板冷却。
11.根据权利要求10所述的运算装置，其特征在于，所述液冷管的形状为弯...
【专利技术属性】
技术研发人员：张政，冯少飞，迟秀，余世茂，孙炳亮，
申请(专利权)人：苏州元脑智能科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。