业务请求的处理方法、装置、服务器及存储介质制造方法及图纸

技术编号:37373518 阅读:14 留言:0更新日期:2023-04-27 07:17
本发明专利技术提供一种业务请求的处理方法、装置、服务器及存储介质,该方法包括:响应于算力系统接收到待处理的第一业务请求,算力系统包括多个算力节点;确定第一业务请求到达每个算力节点的松弛时间;基于每个算力节点对应的松弛时间,从多个算力节点中确定能够处理第一业务请求的至少一个可行算力节点;基于Wardrop平衡原理,从至少一个可行算力节点中确定处理第一业务请求的目标算力节点,目标算力节点为传输第一业务请求用时最短的算力节点;基于目标算力节点处理第一业务请求。由于能够通过传输业务请求用时最短的最优算力节点来处理业务请求,因此提高了业务请求的处理效率。因此提高了业务请求的处理效率。因此提高了业务请求的处理效率。

【技术实现步骤摘要】
业务请求的处理方法、装置、服务器及存储介质


[0001]本专利技术涉及物联网
,尤其涉及一种业务请求的处理方法、装置、服务器及存储介质。

技术介绍

[0002]随着物联网技术的发展,业务请求的数量越来越多,当算力系统的资源一定时,如何处理接收到的业务请求,以实现算力系统的负载均衡变得愈发重要。
[0003]现有技术中,当接收到业务请求时,确定算力系统中每个计算节点的闲置算力,将业务请求分配给闲置算力最多的计算节点进行处理。其中,每个计算节点包括多个设备集群,每个计算节点的闲置算力与多个设备集群的CUP使用率、内存占用率等影响业务请求处理速度的参数负相关。
[0004]其中,专利技术人发现现有技术至少存在如下技术问题:业务请求与闲置算力最多的计算节点之间的传输距离可能较大,导致业务请求到达计算节点的传输时间较长。这样,当传输时间较长的业务请求的数量较多时,算力系统处理多个业务请求的整体时间也较长,导致该算力系统不易达到负载均衡。

技术实现思路

[0005]本专利技术提供一种业务请求的处理方法、装置、服务器及存储介质,能够提高业务请求的处理效率,以使算力系统易达到负载均衡。
[0006]第一方面,本专利技术提供一种业务请求的处理方法,包括:
[0007]响应于算力系统接收到待处理的第一业务请求,所述算力系统包括多个算力节点;
[0008]确定所述第一业务请求到达每个算力节点的松弛时间;
[0009]基于所述每个算力节点对应的松弛时间,从所述多个算力节点中确定能够处理所述第一业务请求的至少一个可行算力节点;
[0010]基于Wardrop平衡原理,从所述至少一个可行算力节点中确定处理所述第一业务请求的目标算力节点,所述目标算力节点为传输所述第一业务请求用时最短的算力节点;
[0011]基于所述目标算力节点处理所述第一业务请求。
[0012]在一种可能的设计中,所述基于所述目标算力节点处理所述第一业务请求,包括:将所述第一业务请求添加到所述目标算力节点的业务请求列表内,所述业务请求列表内包括多个待处理的第二业务请求;确定所述多个待处理的第二业务请求的执行顺序;所述目标算力节点基于所述多个待处理的第二业务请求的执行顺序,处理所述多个第二业务请求。
[0013]在一种可能的设计中,所述确定所述多个待处理的第二业务请求的执行顺序,包括:对于每个第二业务请求,基于所述第二业务请求的松弛时间,确定所述第二业务请求的优先级等级;基于所述优先级等级,确定所述第二业务请求对应的平均时延;获取所述第二
业务请求的时延阈值和执行时间,基于所述时延阈值、所述执行时间和所述平均时延,确定所述第二业务请求的优先因子;基于每个第二业务请求对应的优先因子,确定所述多个待处理的第二业务请求的执行顺序。
[0014]在一种可能的设计中,所述确定所述第一业务请求到达每个算力节点的松弛时间,包括:确定接收所述第一业务请求的接收时间、完成所述第一业务请求的截止时间、处理所述第一业务请求的处理时间、所述第一业务请求的数据量和每个算力节点对应的数据传输速率;对于每个算力节点,确定所述第一业务请求的数据量与所述算力节点对应的数据传输速率的比值;基于所述截止时间、所述接收时间、所述处理时间和所述比值,确定所述第一业务请求到达每个算力节点的松弛时间。
[0015]在一种可能的设计中,所述基于所述每个算力节点对应的松弛时间,从所述多个算力节点中确定能够处理所述第一业务请求的至少一个可行算力节点,包括:对于每个算力节点,确定所述第一业务请求所占用的第一算力资源参数和所述算力节点当前闲置的第二算力资源参数;若所述第一算力资源参数小于第二算力资源参数,且所述算力节点对应的松弛时间不小于0,则确定所述算力节点为可行算力节点。
[0016]在一种可能的设计中,所述基于Wardrop平衡原理,从所述至少一个可行算力节点中确定处理所述第一业务请求的目标算力节点,包括:确定所述第一业务请求传输到至少一个可行算力节点对应的至少一个传输路径;基于Wardrop平衡原理,确定每个传输路径传输所述第一业务请求对应的传输时间;从所述至少一个传输路径中选取传输时间最小的目标传输路径,确定所述目标传输路径对应的目标算力节点。
[0017]在一种可能的设计中,所述算力系统内包括待传输的多个第三业务请求,每个第三业务请求对应至少一个可行算力节点;所述基于Wardrop平衡原理,确定每个传输路径传输所述第一业务请求对应的传输时间,包括:基于每个第三业务请求对应至少一个可行算力节点,确定所述多个第三业务请求对应的多个传输类别,每个传输类别对应至少一条传输路径;确定所述多个传输类别对应的多个传输路径;基于Wardrop平衡原理,确定每个传输路径上的目标传输流量,所述目标传输流量用于使所述多个传输路径传输所述多个第三业务请求的总传输时间最小;基于每个传输路径上的目标传输流量,确定每个传输路径传输所述第一业务请求的传输时间,所述目标传输流量与所述传输时间正相关。
[0018]第二方面,本专利技术提供一种业务请求的处理装置,包括:
[0019]接收模块,用于算力系统接收到待处理的第一业务请求,所述算力系统包括多个算力节点;
[0020]第一确定模块,用于确定所述第一业务请求到达每个算力节点的松弛时间;
[0021]第二确定模块,用于基于所述每个算力节点对应的松弛时间,从所述多个算力节点中确定能够处理所述第一业务请求的至少一个可行算力节点;
[0022]第三确定模块,用于基于Wardrop平衡原理,从所述至少一个可行算力节点中确定处理所述第一业务请求的目标算力节点,所述目标算力节点为传输所述第一业务请求用时最短的算力节点;
[0023]处理模块,用于基于所述目标算力节点处理所述第一业务请求。
[0024]第三方面,本专利技术提供一种服务器,包括:至少一个处理器和存储器;
[0025]所述存储器存储计算机执行指令;
[0026]所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的业务请求的处理方法。
[0027]第四方面,本专利技术提供一种计算机存储介质,所述计算机存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如上第一方面以及第一方面各种可能的设计所述的业务请求的处理方法。
[0028]第五方面,本申请还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,其存储在计算机可读存储介质中,至少一个处理器可以从计算机可读存储介质读取计算机程序,至少一个处理器执行计算机程序时,实现如上第一方面以及第一方面各种可能的设计所述的业务请求的处理方法。
[0029]本专利技术提供的业务请求的处理方法、装置、服务器及存储介质,当接收到业务请求时,先确定能够处理业务请求的至少一个可行算力节点,之后通过平衡原理,从至少一个可行算力节点中确定目标算力节点,最后通过目标算力节点处本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种业务请求的处理方法,其特征在于,包括:响应于算力系统接收到待处理的第一业务请求,所述算力系统包括多个算力节点;确定所述第一业务请求到达每个算力节点的松弛时间;基于所述每个算力节点对应的松弛时间,从所述多个算力节点中确定能够处理所述第一业务请求的至少一个可行算力节点;基于Wardrop平衡原理,从所述至少一个可行算力节点中确定处理所述第一业务请求的目标算力节点,所述目标算力节点为传输所述第一业务请求用时最短的算力节点;基于所述目标算力节点处理所述第一业务请求。2.根据权利要求1所述的方法,其特征在于,所述基于所述目标算力节点处理所述第一业务请求,包括:将所述第一业务请求添加到所述目标算力节点的业务请求列表内,所述业务请求列表内包括多个待处理的第二业务请求;确定所述多个待处理的第二业务请求的执行顺序;所述目标算力节点基于所述多个待处理的第二业务请求的执行顺序,处理所述多个第二业务请求。3.根据权利要求2所述的方法,其特征在于,所述确定所述多个待处理的第二业务请求的执行顺序,包括:对于每个第二业务请求,基于所述第二业务请求的松弛时间,确定所述第二业务请求的优先级等级;基于所述优先级等级,确定所述第二业务请求对应的平均时延;获取所述第二业务请求的时延阈值和执行时间,基于所述时延阈值、所述执行时间和所述平均时延,确定所述第二业务请求的优先因子;基于每个第二业务请求对应的优先因子,确定所述多个待处理的第二业务请求的执行顺序。4.根据权利要求1所述的方法,其特征在于,所述确定所述第一业务请求到达每个算力节点的松弛时间,包括:确定接收所述第一业务请求的接收时间、完成所述第一业务请求的截止时间、处理所述第一业务请求的处理时间、所述第一业务请求的数据量和每个算力节点对应的数据传输速率;对于每个算力节点,确定所述第一业务请求的数据量与所述算力节点对应的数据传输速率的比值;基于所述截止时间、所述接收时间、所述处理时间和所述比值,确定所述第一业务请求到达每个算力节点的松弛时间。5.根据权利要求1所述的方法,其特征在于,所述基于所述每个算力节点对应的松弛时间,从所述多个算力节点中确定能够处理所述第一业务请求的至少一个可行算力节点,包括:对于每个算力节点,确定所述第一业务请求所占用的第一算力资源参数和所述算力节点当前闲置的第二算力资源参数;若所述第一算力资源参数小于第二算力资源参数,且所述算力节点对应的松弛时间不

【专利技术属性】
技术研发人员:蔡琼慧邓捷吴信强何春霞肖俊斌刘林徐振兴宋玉洁刘家旭毛俊杰
申请(专利权)人:中国联合网络通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1