一种耦合GPU服务器架构、数据中心制造技术

技术编号:38605698 阅读:5 留言:0更新日期:2023-08-26 23:37
本实用新型专利技术属于服务器架构设计技术领域,具体提供一种耦合GPU服务器架构、数据中心,所述架构包括第一中央处理器和拨码开关;拨码开关连接有第二中央处理器、第一切换芯片和第二切换芯片;拨码开关和第一切换芯片分别与第一中央处理器连接;第一切换芯片和第二切换芯片分别连接有多个加速卡。可以在不触动主板和切换板线缆连接的前提下,切换AI服务器的三种架构,操作直观便捷;减少了板卡之间、接口之间的线缆连接,避免了因错误连接线缆导致的架构错误,方便了服务器的运行和维护。方便了服务器的运行和维护。方便了服务器的运行和维护。

【技术实现步骤摘要】
一种耦合GPU服务器架构、数据中心


[0001]本技术涉及服务器架构设计
,具体涉及一种耦合GPU服务器架构、数据中心。

技术介绍

[0002]AI服务器是一种采用异构形式的服务器,常用于大数据及云计算、人工智能等领域。根据应用的范围分为不同的组合方式,如CPU+GPU、CPU+TPU、CPU+FPGA、CPU+ASIC等,其中CPU+GPU是最常见的组合方式,配置的GPU数量通常大于四。NVIDIA的GPU是市场上较为主流的GPU,其架构布局通常分为三种:Balance布局、Common布局和Cascade布局。Balance布局通常见于双路服务器,两颗CPU Socket下挂载数量相同的GPU;Common布局见于单路或双路服务器,所有GPU均挂载于一颗CPU Socket下;Cascade布局为一Switch芯片级联链路,在第一级Switch芯片下挂载若干GPU,然后该Switch芯片级联出第二级Switch芯片,用于挂载另一部分GPU。通用CPU

GPU链路中还包含一块Switch板,用于扩展PCIe链路。基于主板+Switch板的PCIe链路,形成GPU的Balance、Common、Cascade三种架构拓扑,通过变更线缆接法来切换GPU的三种拓扑结构。
[0003]通过线缆连接的主板+Switch板拓扑的Balance、Common、Cascade三种架构是离散的、解耦的,GPU架构的改变依赖于Slimline线缆接法的变更。这种模式有以下缺点:在客户层面,操作起来不方便、不直观,依赖于客户对这三种GPU架构理念及当前主板、Switch板的PCIe链路布局的理解;在服务器维护层面,板际之间使用线缆互连线缆数量多、连接关系复杂,对服务器的运行、维护均不友好。

技术实现思路

[0004]通过线缆连接的主板+Switch板拓扑的三种架构在客户层面,操作起来不方便、不直观,依赖于客户对这三种GPU架构理念及当前主板、Switch板的PCIE链路布局的理解;在服务器维护层面,板际之间使用线缆互连线缆数量多、连接关系复杂,对服务器的运行、维护均不友好。鉴于此,本技术提供一种耦合GPU服务器架构、数据中心。
[0005]第一方面,本技术技术方案提供一种耦合GPU服务器架构,包括第一中央处理器和拨码开关;拨码开关连接有第二中央处理器、第一切换芯片和第二切换芯片;
[0006]拨码开关和第一切换芯片分别与第一中央处理器连接;
[0007]第一切换芯片和第二切换芯片分别连接有多个加速卡。
[0008]作为本技术技术方案的优选,拨码开关为四相三路拨码开关,设置有开关、第一触点、第二触点和第三触点。
[0009]作为本技术技术方案的优选,拨码开关的开关与第二切换芯片连接;
[0010]拨码开关的第一触点与第一中央处理器连接;
[0011]拨码开关的第二触点与第二中央处理器连接;
[0012]拨码开关的第三触点与第一切换芯片连接。
[0013]作为本技术技术方案的优选,所述架构包括主板和切换板;
[0014]第一中央处理器和第二中央处理器设置在主板上;
[0015]拨码开关、第一切换芯片和第二切换芯片设置在切换板上。
[0016]作为本技术技术方案的优选,主板上设置有分别与第一中央处理器和第二中央处理器连接的PCIE插槽。
[0017]作为本技术技术方案的优选,拨码开关的第一触点上行连接至第一中央处理器的PCIE插槽连接;
[0018]拨码开关的第二触点上行连接至第二中央处理器的PCIE插槽连接。
[0019]作为本技术技术方案的优选,切换板上设置有分别与第一切换芯片连接和第二切换芯片的PCIE插槽。
[0020]作为本技术技术方案的优选,拨码开关的开关下行连通到第二切换芯片的PCIE插槽;
[0021]拨码开关的第三触点上行连接至第一切换芯片的PCIE插槽。
[0022]作为本技术技术方案的优选,第一切换芯片和第二切换芯片分别连接有四个加速卡。
[0023]将拨码开关拨至第二触点时,第二切换芯片上行连通到第二中央处理器,此时为Balance架构;将拨码开关拨至第一触点时,第二切换芯片上行连通到第一中央处理器,此时为Common架构;将拨码开关拨至第三触点时,第二切换芯片上行连通到第一切换芯片,此时为Cascade架构。
[0024]第二方面,本技术技术方案还提供一种数据中心,包括如第一方面所述架构的服务器。
[0025]从以上技术方案可以看出,本技术具有以下优点:可以在不触动主板和切换板线缆连接的前提下,切换AI服务器的三种架构,操作直观便捷;减少了板卡之间、接口之间的线缆连接,避免了因错误连接线缆导致的架构错误,方便了服务器的运行和维护。
[0026]此外,本技术设计原理可靠,结构简单,具有非常广泛的应用前景。
[0027]由此可见,本技术与现有技术相比,具有突出的实质性特点和显著地进步,其实施的有益效果也是显而易见的。
附图说明
[0028]为了更清楚地说明本技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0029]图1是本技术一个实施例的耦合GPU服务器架构示意图。
[0030]图2是本技术实施例中拨码开关的连接示意图。
具体实施方式
[0031]为了使本
的人员更好地理解本技术中的技术方案,下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例。基于本技术
中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本技术保护的范围。
[0032]如图1所示,本技术实施例提供一种耦合GPU服务器架构,包括第一中央处理器CPU0和拨码开关;拨码开关连接有第二中央处理器CPU1、第一切换芯片Switch01和第二切换芯片Switch10;
[0033]拨码开关和第一切换芯片Switch01分别与第一中央处理器CPU0连接;
[0034]第一切换芯片和第二切换芯片分别连接有多个加速卡。
[0035]本技术实施例中,拨码开关选择四相三路拨码开关,设置有开关、第一触点、第二触点和第三触点;
[0036]拨码开关的开关与第二切换芯片Switch10连接;
[0037]拨码开关的第一触点与第一中央处理器CPU0连接;
[0038]拨码开关的第二触点与第二中央处理器CPU1连接;
[0039]拨码开关的第三触点与第一切换芯片连接。
[0本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种耦合GPU服务器架构,其特征在于,包括第一中央处理器和拨码开关;拨码开关连接有第二中央处理器、第一切换芯片和第二切换芯片;拨码开关和第一切换芯片分别与第一中央处理器连接;第一切换芯片和第二切换芯片分别连接有多个加速卡。2.根据权利要求1所述的耦合GPU服务器架构,其特征在于,拨码开关为四相三路拨码开关,设置有开关、第一触点、第二触点和第三触点。3.根据权利要求2所述的耦合GPU服务器架构,其特征在于,拨码开关的开关与第二切换芯片连接;拨码开关的第一触点与第一中央处理器连接;拨码开关的第二触点与第二中央处理器连接;拨码开关的第三触点与第一切换芯片连接。4.根据权利要求3所述的耦合GPU服务器架构,其特征在于,所述架构包括主板和切换板;第一中央处理器和第二中央处理器设置在主板上;拨码开关、第一切换芯片和第二切换芯片设置在切换板上。5.根据权利要求4所述的耦合GPU服务器架...

【专利技术属性】
技术研发人员:宿德欣
申请(专利权)人:苏州浪潮智能科技有限公司
类型:新型
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1