服务请求分发方法、装置、设备及计算机可读存储介质制造方法及图纸

技术编号:32126749 阅读:10 留言:0更新日期:2022-01-29 19:17
本发明专利技术涉及金融科技领域,并公开了一种服务请求分发方法、装置、设备及计算机可读存储介质,该方法包括以下步骤:在接收到到服务请求时,获取各主机的系统资源参数和响应时间参数;根据所述系统资源参数确定系统资剩余资源负载率,以及根据所述响应时间参数确定响应时间负载率;根据所述系统资剩余资源负载率和响应时间负载率确定各主机的健康分值;根据所述健康分值为所述主机分发所述服务请求。实现了根据主机的性能指标以及服务体验指标(响应时间)综合评估主机的健康分值,进而根据健康分值为主机分发请求,能够提升服务请求的分配调度的合理性和可靠性。度的合理性和可靠性。度的合理性和可靠性。

【技术实现步骤摘要】
服务请求分发方法、装置、设备及计算机可读存储介质


[0001]本专利技术涉及金融科技(Fintech)领域,尤其涉及一种服务请求分发方法、装置、设备及计算机可读存储介质。

技术介绍

[0002]随着计算机技术的发展,越来越多的技术(大数据、分布式、区块链Blockchain、人工智能等)应用在金融领域,传统金融业正在逐步向金融科技(Fintech)转变,但由于金融行业的安全性、实时性要求,也对服务请求分发技术提出了更高的要求。
[0003]LVS(Linux Virtual Server,Linux虚拟服务器),其作为负载均衡早已应用在各大互联网公司,是一个比较成熟的开源产品。其原理为,用户的Web请求发送至LVS,LVS根据预设负载均衡算法再将该请求发送于后端集群中的真实服务器,由于后端真实服务器集群提供的是相同的服务,那么用户无论请求到任何一台真实服务器,最终的返回结果都是一致的,所以整个集群对用户而言属于透明。
[0004]但是,现有的负载均衡算法一般为机械式的轮询、人为指定服务器、根据请求连接的数量调度服务器等方式,其并未考虑真实服务器的性能指标,也未考虑到影响服务器提供的服务体验的指标,导致请求的分配调度不合理,可靠性较低。

技术实现思路

[0005]本专利技术的主要目的在于提供一种服务请求分发方法、装置、设备及计算机可读存储介质,旨在解决现有技术中服务请求的分配调度不合理的技术问题。
[0006]为实现上述目的,本专利技术提供一种服务请求分发方法,所述服务请求分发方法包括以下步骤:
[0007]在接收到到服务请求时,获取各主机的系统资源参数和响应时间参数;
[0008]根据所述系统资源参数确定系统资剩余资源负载率,以及根据所述响应时间参数确定响应时间负载率;
[0009]根据所述系统资剩余资源负载率和响应时间负载率确定各主机的健康分值;
[0010]根据所述健康分值为所述主机分发所述服务请求。
[0011]可选地,所述响应时间参数包括各预设时间段内处理各历史服务请求的响应时间;
[0012]所述根据所述响应时间参数确定响应时间负载率的步骤包括:
[0013]根据各预设时间段内处理各历史服务请求的响应时间,确定各所述预设时间段内响应时间的平均值;
[0014]根据所述响应时间的平均值计算各所述预设时间段内响应时间的标准差,根据所述标准差确定标准差均值;
[0015]将当前时间所处的预设时间段内响应时间的标准差与所述标准差均值的差值,确定为响应时间负载率。
[0016]可选地,所述系统资源参数包括最大内存和内存使用率;
[0017]所述根据所述系统资源参数确定系统资剩余资源负载率的步骤包括:
[0018]根据各主机的最大内存确定集群内存基线;
[0019]根据预设第一公式、所述集群内存基线、所述最大内存以及所述内存使用率,确定各主机的剩余内存负载率,所述预设第一公式为,
[0020]Sm=Tm(1

Pm)/Bm,
[0021]其中,Sm为主机的剩余内存负载率;
[0022]Tm为主机的最大内存;
[0023]Pm为主机的内存使用率;
[0024]Bm为集群内存基线。
[0025]可选地,所述系统资源参数包括最大网络带宽和网络带宽使用率;
[0026]所述根据所述系统资源参数确定系统资剩余资源负载率的步骤包括:
[0027]根据各主机的最大网络带宽确定集群网络带宽基线;
[0028]根据预设第二公式、所述集群网络带宽基线、所述最大网络带宽以及所述网络带宽使用率,确定各主机的剩余网络带宽负载率,所述预设第二公式为,
[0029]Sn=Tn(1

Pn)/Bn,
[0030]其中,Sn为主机的剩余网络带宽负载率;
[0031]Tn为主机的最大网络带宽;
[0032]Pn为主机的网络带宽使用率;
[0033]Bn为集群网络带宽基线。
[0034]可选地,所述系统资源参数包括最大磁盘容量和磁盘使用率;
[0035]所述根据所述系统资源参数确定系统资剩余资源负载率的步骤包括:
[0036]根据各主机的最大磁盘容量确定集群磁盘容量基线;
[0037]根据所述集群磁盘容量基线、所述最大磁盘容量以及所述磁盘使用率,确定各主机的剩余磁盘容量负载率。
[0038]可选地,所述系统资源参数包括CPU时间片和对应的CPU空闲时间;
[0039]所述根据所述系统资源参数确定系统资剩余资源负载率的步骤包括:
[0040]根据所述CPU空闲时间和所述CPU时间片确定空闲CPU负载率。
[0041]可选地,所述根据所述健康分值为所述主机分发所述服务请求的步骤包括:
[0042]计算各所述主机的健康分值的和,确定各所述主机的健康分值与所述和的比值;
[0043]按照所述比值为所述主机分发所述服务请求。
[0044]进一步地,为实现上述目的,本专利技术还提供一种服务请求分发装置,所述服务请求分发装置包括:
[0045]进一步地,为实现上述目的,本专利技术还提供一种服务请求分发设备,所述服务请求分发设备包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的服务请求分发程序,所述服务请求分发程序被所述处理器执行时实现如上述所述的服务请求分发方法的步骤。
[0046]进一步地,为实现上述目的,本专利技术还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有服务请求分发程序,所述服务请求分发程序被处理器执行时实现如
上所述的服务请求分发方法的步骤。
[0047]本专利技术通过在接收到到服务请求时,获取各主机的系统资源参数和响应时间参数;根据所述系统资源参数确定系统资剩余资源负载率,以及根据所述响应时间参数确定响应时间负载率;根据所述系统资剩余资源负载率和响应时间负载率确定各主机的健康分值;根据所述健康分值为所述主机分发所述服务请求。实现了根据主机的性能指标以及服务体验指标(响应时间)综合评估主机的健康分值,进而根据健康分值为主机分发请求,能够提升服务请求的分配调度的合理性和可靠性。
附图说明
[0048]图1为本专利技术服务请求分发设备实施例方案涉及的设备硬件运行环境的结构示意图;
[0049]图2为本专利技术服务请求分发方法第一实施例的流程示意图;
[0050]图3为本专利技术服务请求分发装置较佳实施例的功能模块示意图。
[0051]本专利技术目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
[0052]应当理解,此处所描述的具体实施例仅用以解释本专利技术,并不用于限定本专利技术。
[0053]需要说明的是,LVS(Linux Virtual Server,Linux虚拟服务器),其作为负载均衡早已应用在各大互联网公司,是本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种服务请求分发方法,其特征在于,所述服务请求分发方法包括以下步骤:在接收到到服务请求时,获取各主机的系统资源参数和响应时间参数;根据所述系统资源参数确定系统资剩余资源负载率,以及根据所述响应时间参数确定响应时间负载率;根据所述系统资剩余资源负载率和响应时间负载率确定各主机的健康分值;根据所述健康分值为所述主机分发所述服务请求。2.如权利要求1所述的服务请求分发方法,其特征在于,所述响应时间参数包括各预设时间段内处理各历史服务请求的响应时间;所述根据所述响应时间参数确定响应时间负载率的步骤包括:根据各预设时间段内处理各历史服务请求的响应时间,确定各所述预设时间段内响应时间的平均值;根据所述响应时间的平均值计算各所述预设时间段内响应时间的标准差,根据所述标准差确定标准差均值;将当前时间所处的预设时间段内响应时间的标准差与所述标准差均值的差值,确定为响应时间负载率。3.如权利要求2所述的服务请求分发方法,其特征在于,所述系统资源参数包括最大内存和内存使用率;所述根据所述系统资源参数确定系统资剩余资源负载率的步骤包括:根据各主机的最大内存确定集群内存基线;根据预设第一公式、所述集群内存基线、所述最大内存以及所述内存使用率,确定各主机的剩余内存负载率,所述预设第一公式为,Sm=Tm(1

Pm)/Bm,其中,Sm为主机的剩余内存负载率;Tm为主机的最大内存;Pm为主机的内存使用率;Bm为集群内存基线。4.如权利要求2所述的服务请求分发方法,其特征在于,所述系统资源参数包括最大网络带宽和网络带宽使用率;所述根据所述系统资源参数确定系统资剩余资源负载率的步骤包括:根据各主机的最大网络带宽确定集群网络带宽基线;根据预设第二公式、所述集群网络带宽基线、所述最大网络带宽以及所述网络带宽使用率,确定各主机的剩余网络带宽负载率,所述预设第二公式为,Sn=Tn(1

Pn)/Bn,其中,Sn为主机的剩余网络带宽负载率;Tn为主机的最大网络带...

【专利技术属性】
技术研发人员:李政隆王文博
申请(专利权)人:深圳前海微众银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1