一种应用于服务器的加速卡设置方法、装置及介质制造方法及图纸

技术编号:34276858 阅读:108 留言:0更新日期:2022-07-24 17:21
本发明专利技术公开了一种应用于服务器的加速卡设置方法,装置及介质,适用于服务器技术领域。若确定出服务器当前所需的算力支持的数据超过服务器当前加速卡所能提供的算力支持的数据,则向加速卡资源池内申请对应的目标加速卡;将目标加速卡的IP地址发送至服务器;根据IP地址建立服务器与目标加速卡的通信连接以便目标加速卡投入服务器的算力支持服务中。当前服务器的加速卡较少,可以根据算力支持进行调用加速卡,避免现有的算力较少需要寻找算力支持较大的服务器进而迁移整个软件环境导致的维护成本高的问题。不需要改变自身软件环境,实现动态申请加速卡,节省维护成本,从而提高服务器的算力能力。高服务器的算力能力。高服务器的算力能力。

An acceleration card setting method, device and medium applied to server

【技术实现步骤摘要】
一种应用于服务器的加速卡设置方法、装置及介质


[0001]本专利技术涉及服务器
,特别是涉及一种应用于服务器的加速卡设置方法、装置及介质。

技术介绍

[0002]在互联网行业,随着信息化的普及,数据量爆炸式的增长,对计算力有了更高的要求,同时,机器学习、人工智能、无人驾驶、工业仿真等领域的崛起,使得通用中央处理器(Central Processing Unit,CPU)在处理海量计算、海量数据/图片时遇到越来越多的性能瓶颈。为了应对计算多元化的需求,越来越多的场景开始引入图像处理器(Graphics Processing Unit,GPU)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)等硬件进行加速,异构计算应运而生。异构计算技术就是CPU、GPU、专用集成电路(Application Specific Integrated Circuit,ASIC)、协处理器、FPGA等各种计算单元,使用不同的类型指令集、不同的体系架构的计算单元,组成一个混合的系统,执行计算的特殊方式。
[0003]目前异构计算技术其使用加速卡的模式为机卡绑定的模式,在服务器的设备上,插入所需的加速卡设备,通过通用的总线规格(Peripheral Component Interconnect Express,PCIE)总线访问加速卡的设备。服务器上运行的软件根据自身的算力和算法的需要使用对应的加速卡设备。图1为现有的加速卡应用示意图,如图1所示,服务器组1中,在服务器host1

服务器host6上,基于目前需要的数据量,进行加速卡搭配处理计算,FPGA、GPU以及基于人工智能计算的特定处理器(X Processing Unit,XPU)支持host1所需的算力支持,不同的应用需要不同类型的加速卡。现有的硬件绑定模式,在主机算法或者算力变化时,加速卡不能及时改变组合方式。例如,在host1主机上如果要求算力增加,就需要接入新的加速卡,现场工作人员则需要操作加速卡插入host1主机中,导致维护成本较高。若host1主机的加速卡对应支持的算力较少,若配合算力,此时内部的加速卡较少,需要寻找其他算力支持较大的服务器主机,则需要将host1主机的整个软件环境进行转移,搭建软件架构环境,其导致维护成本较高。
[0004]因此,如何降低主机的维护成本是本领域技术人员亟需要解决的。

技术实现思路

[0005]本专利技术的目的是提供一种应用于服务器的加速卡设置方法、装置及介质,实现动态申请加速卡,节省维护成本,从而提高服务器的算力能力。
[0006]为解决上述技术问题,本专利技术提供一种应用于服务器的加速卡设置方法,包括:
[0007]若确定出服务器当前所需的算力支持的数据超过服务器当前加速卡所能提供的算力支持的数据,则向加速卡资源池内申请对应的目标加速卡,其中,加速卡资源池包含多个加速卡的资源,目标加速卡为在加速卡资源池中的各加速卡中确定出的加速卡;
[0008]将目标加速卡的IP地址发送至服务器;
[0009]根据IP地址建立服务器与目标加速卡的通信连接以便目标加速卡投入服务器的算力支持服务中。
[0010]优选地,确定出服务器当前所需的算力支持的数据超过服务器当前加速卡所能提供的算力支持的数据,包括:
[0011]接收服务器发送需要增加的算力支持的数据以确定服务器当前的算力支持的数据超过服务器当前加速卡所能提供的算力支持的数据。
[0012]优选地,向加速卡资源池内申请对应的目标加速卡,包括:
[0013]确定服务器需要增加的算力支持的数据对应的加速卡的类型;
[0014]从加速卡资源池的多个资源池中选取与类型对应的目标资源池,其中,目标资源池包含目标加速卡;
[0015]确定目标资源池中各加速卡的空闲状态;
[0016]从处于空闲状态的加速卡中选取与服务器当前适配的加速卡作为目标加速卡。
[0017]优选地,加速卡资源池的建立包括如下步骤:
[0018]预先获取各加速卡;
[0019]根据各加速卡的类型创建各资源池;
[0020]控制各资源池与各资源池对应的本地交换机建立连接,其中各资源池与各本地交换机一一对应;
[0021]控制各本地交换机串行连接以完成加速卡资源池的建立。
[0022]优选地,各加速卡的类型至少包括FPGA加速卡类型、GPU加速卡类型以及XPU加速卡类型。
[0023]优选地,还包括:
[0024]当目标加速卡投入服务器的算力支持服务时,获取服务器的实际加速卡提供的算力支持的数据,其中服务器当前所需的算力支持的数据大于或等于实际加速卡提供的算力支持的数据;
[0025]根据实际加速卡提供的算力支持的数据与服务器当前所需的算力支持的数据的关系确定对应的未使用加速卡;
[0026]将未使用加速卡进行资源释放以便下一个服务器申请使用。
[0027]优选地,还包括:
[0028]根据时间间隔轮询加速卡资源池的各加速卡的空闲状态以便将空闲状态对应的加速卡供服务器申请。
[0029]为解决上述技术问题,本专利技术还提供一种应用于服务器的加速卡设置装置,包括:
[0030]申请模块,用于若确定出服务器当前所需的算力支持的数据超过服务器当前加速卡所能提供的算力支持的数据,则向加速卡资源池内申请对应的目标加速卡,其中,加速卡资源池包含多个加速卡的资源,目标加速卡为在加速卡资源池中的各加速卡中确定出的加速卡;
[0031]发送模块,用于将目标加速卡的IP地址发送至服务器;
[0032]建立模块,用于根据IP地址建立服务器与目标加速卡的通信连接以便目标加速卡投入服务器的算力支持服务中。
[0033]为解决上述技术问题,本专利技术还提供一种应用于服务器的加速卡设置装置,包括:
[0034]存储器,用于存储计算机程序;
[0035]处理器,用于执行计算机程序时实现如上述应用于服务器的加速卡设置方法的步骤。
[0036]为解决上述技术问题,本专利技术还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如上述应用于服务器的加速卡设置方法的步骤。
[0037]本专利技术提供的一种应用于服务器的加速卡设置方法,包括若确定出服务器当前所需的算力支持的数据超过服务器当前加速卡所能提供的算力支持的数据,则向加速卡资源池内申请对应的目标加速卡,其中,加速卡资源池包含多个加速卡的资源,目标加速卡为在加速卡资源池中的各加速卡中确定出的加速卡;将目标加速卡的IP地址发送至服务器;根据IP地址建立服务器与目标加速卡的通信连接以便目标加速卡投入服务器的算力支持服务中。在要求当前服务器的算力增加时,可以直接调用对应的加速卡,避免现有的硬件绑定模式需现场工作人员进行操作插入导致的维护成本高的问题。当前服务器的加速卡较少,可以根据算力支持进行调用加速卡,避免本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种应用于服务器的加速卡设置方法,其特征在于,包括:若确定出所述服务器当前所需的算力支持的数据超过所述服务器当前加速卡所能提供的算力支持的数据,则向加速卡资源池内申请对应的目标加速卡,其中,所述加速卡资源池包含多个加速卡的资源,所述目标加速卡为在所述加速卡资源池中的各所述加速卡中确定出的加速卡;将所述目标加速卡的IP地址发送至所述服务器;根据所述IP地址建立所述服务器与所述目标加速卡的通信连接以便所述目标加速卡投入所述服务器的算力支持服务中。2.根据权利要求1所述的应用于服务器的加速卡设置方法,其特征在于,所述确定出所述服务器当前所需的算力支持的数据超过所述服务器当前加速卡所能提供的算力支持的数据,包括:接收所述服务器发送需要增加的算力支持的数据以确定所述服务器当前所述的算力支持的数据超过所述服务器当前加速卡所能提供的算力支持的数据。3.根据权利要求2所述的应用于服务器的加速卡设置方法,其特征在于,所述向加速卡资源池内申请对应的目标加速卡,包括:确定所述服务器需要增加的算力支持的数据对应的加速卡的类型;从所述加速卡资源池的多个资源池中选取与所述类型对应的目标资源池,其中,所述目标资源池包含所述目标加速卡;确定所述目标资源池中各所述加速卡的空闲状态;从处于所述空闲状态的加速卡中选取与所述服务器当前适配的加速卡作为所述目标加速卡。4.根据权利要求3所述的应用于服务器的加速卡设置方法,其特征在于,所述加速卡资源池的建立包括如下步骤:预先获取各所述加速卡;根据各所述加速卡的类型创建各所述资源池;控制各所述资源池与各所述资源池对应的本地交换机建立连接,其中各所述资源池与各所述本地交换机一一对应;控制各所述本地交换机串行连接以完成所述加速卡资源池的建立。5.根据权利要求4所述的应用于服务器的加速卡的设置方法,其特征在于,各所述加速卡的类...

【专利技术属性】
技术研发人员:樊嘉恒阚宏伟王彦伟黄宬
申请(专利权)人:广东浪潮智慧计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1