服务器分配策略的生成方法及装置、电子设备及存储介质制造方法及图纸

技术编号:39244806 阅读:10 留言:0更新日期:2023-10-30 11:57
本发明专利技术公开了一种服务器分配策略的生成方法及装置、电子设备及存储介质,涉及人工智能领域及其他相关技术领域,其中,该生成方法包括:接收用户端发送的用户请求,确定发送用户请求的I P地址,并基于I P地址获取请求权重;将用户请求加入至预先设定的时间窗口的任务队列中,并基于请求权重计算服务器的预估负载值;基于蒙特卡洛树模拟任务队列中各用户请求进行任务分配的过程,得到模拟结果;基于服务器的预估负载值和模拟结果生成服务器分配策略。本发明专利技术解决了相关技术,在为用户请求分配服务器时,缺乏有效的分配策略,无法将用户请求合理分配至目标集群的服务器的技术问题。请求合理分配至目标集群的服务器的技术问题。请求合理分配至目标集群的服务器的技术问题。

【技术实现步骤摘要】
服务器分配策略的生成方法及装置、电子设备及存储介质


[0001]本专利技术涉及人工智能领域及其他相关
,具体而言,涉及一种服务器分配策略的生成方法及装置、电子设备及存储介质。

技术介绍

[0002]近年来,随着移动互联网的发展,用户的数据和请求不断增加,对于企业而言,单一的服务器已经难以适应复杂且繁重的业务环境,因此服务器集群的概念应运而生,集群通过将多台高性能服务器集合为一个整体,负责特定的单一业务。对用户而言,集群本身就是一个超大的服务器,而其中的每台服务器都可以依靠自身配置完整地处理用户请求的业务。集群的出现很大程度上缓解了依赖单一服务器时,服务器过载宕机导致业务流程终止的重大事故,实现了业务的稳定性。对于服务器集群来说,存在两个重要指标:高可用(High Availability)和负载均衡(Load Balance),高可用是指服务器可以长期为用户提供稳定服务,通常利用冗余服务器和故障自动转移,即设置冗余服务器防止整体过载崩溃,同时将故障的服务器中的业务自动转移到功能正常运行的服务器上;而负载均衡是为了保证用户端发送的请求能平均分配到集群中每台服务器上,避免出现部分节点过载,而部分服务器闲置的情况,以实现资源的最优化利用,提高服务器的利用率和可用性。
[0003]实现负载均衡是提高服务器利用率和工作效率的主要途径,因此负载均衡对于服务器集群来说尤为重要。
[0004]相关技术中,负载均衡的实现方法分为静态负载均衡和动态负载均衡,静态负载均衡算法不考虑服务器本身状态,常见的算法如轮询法和随机法,都是依靠请求的数量作为“均衡负载”的依据,按照顺序或完全随机的方式,让所有请求平均分布到每个服务器上,但现实环境中每个请求的持续时间并不是一样的,有可能先被分配的服务器,其请求持续了很长时间,而后被分配的服务器的请求持续时间很短,在分配之后迅速断开连接,导致后分配的服务器此刻负载量更低,但却被闲置;
[0005]而动态均衡算法考虑了服务器本身的状态,比较常见的方式是统计连接数量或响应时间,在此之上对每个服务器加权,以区分它们的性能水平,最常见的算法的就是LC(最小连接数法),即直接将任务分配给拥有连接数最少的服务器,此方法胜在简单,但没有考虑服务器的性能差异。
[0006]上述两种均衡负载算法都存在一定的弊端,导致用户请求无法合理分配至目标集群的各服务器,进而影响服务器的利用率和工作效率。
[0007]针对上述的问题,目前尚未提出有效的解决方案。

技术实现思路

[0008]本专利技术实施例提供了一种服务器分配策略的生成方法及装置、电子设备及存储介质,以至少解决相关技术,在为用户请求分配服务器时,缺乏有效的分配策略,无法将用户请求合理分配至目标集群的服务器的技术问题。
[0009]根据本专利技术实施例的一个方面,提供了一种服务器分配策略的生成方法,包括:接收用户端发送的用户请求,确定发送所述用户请求的IP地址,并基于所述IP地址获取请求权重;将所述用户请求加入至预先设定的时间窗口的任务队列中,并基于所述请求权重计算服务器的预估负载值;基于蒙特卡洛树模拟所述任务队列中各用户请求进行任务分配的过程,得到模拟结果;基于所述服务器的预估负载值和所述模拟结果生成服务器分配策略。
[0010]可选地,在接收用户端发送的用户请求之前,还包括:获取目标集群在目标历史时间段内的访问日志,得到所述目标集群的资源占用信息和访问信息;基于所述资源占用信息和所述访问信息对历史用户请求进行分类,并计算每种类型的所述历史用户请求的权重值;基于所述权重值计算每个所述IP地址对应的所述请求权重,并将所述IP地址和所述请求权重以键值对的形式存储至数据库。
[0011]可选地,基于蒙特卡洛树模拟所述任务队列中各用户请求进行任务分配的过程的步骤包括:从根节点开始进行拓展,得到所述蒙特卡洛树的子节点,其中,所述子节点用于指示所述用户请求的分配状态;基于拓展的所述子节点模拟对所述任务队列中各用户请求进行任务分配的分配过程;统计模拟过程中的标准差,基于所述标准差进行反向传播,计算所述根节点和所述子节点的模拟得分。
[0012]可选地,得到所述蒙特卡洛树的子节点的步骤包括:确定所述任务队列中所有用户请求和目标集群的所有服务器;从所述蒙特卡洛树的根节点出发,选取所述任务队列中的目标用户请求,并基于所述所有服务器确定所述目标用户请求的所有分配结果;为所述目标用户请求的每个所述分配结果创建所述子节点,得到所述蒙特卡洛树的所述子节点。
[0013]可选地,计算所述根节点和所述子节点的模拟得分之后,还包括:获取历史时间段内每个所述用户请求的平均分配时长;基于所述模拟得分、每个所述子节点的访问次数和所有节点的总访问次数计算每个所述子节点的置信区间值;基于所述置信区间值进行迭代计算,直至迭代时长大于等于所述平均分配时长,结束迭代计算,并基于根节点下的第一个子节点的访问次数确定所述用户请求的分配状态,得到所述模拟结果。
[0014]可选地,基于所述服务器的预估负载值和所述模拟结果生成服务器分配策略的步骤包括:基于所述模拟结果计算服务器的实际负载值;将所述服务器的所述实际负载值和所述预估负载值进行比对,得到比对结果;在所述比对结果指示所述实际负载值小于等于所述预估负载值的情况下,基于所述模拟结果生成所述服务器分配策略。
[0015]可选地,所述服务器的预估负载值计算公式为:其中,n表示所述任务队列中所述用户请求的请求数量,w
i
表示每个所述用户请求的请求权重,C表示服务器性能权重,所述服务器性能权重是基于服务器运行状态配置的参数。
[0016]根据本专利技术实施例的另一方面,还提供了一种服务器分配策略的生成装置,包括:接收单元,用于接收用户端发送的用户请求,确定发送所述用户请求的IP地址,并基于所述IP地址获取请求权重;计算单元,用于将所述用户请求加入至预先设定的时间窗口的任务队列中,并基于所述请求权重计算服务器的预估负载值;模拟单元,用于基于蒙特卡洛树模拟对所述任务队列中各用户请求进行任务分配,得到模拟结果;生成单元,用于基于所述服务器的预估负载值和所述模拟结果生成服务器分配策略。
[0017]可选地,所述服务器分配策略的生成装置还包括:第一获取模块,用于获取目标集群在目标历史时间段内的访问日志,得到所述目标集群的资源占用信息和访问信息;第一分类模块,用于基于所述资源占用信息和所述访问信息对历史用户请求进行分类,并计算每种类型的所述历史用户请求的权重值;第一计算模块,用于基于所述权重值计算每个所述IP地址对应的所述请求权重,并将所述IP地址和所述请求权重以键值对的形式存储至数据库。
[0018]可选地,所述模拟单元包括:第一拓展模块,用于从根节点开始进行拓展,得到所述蒙特卡洛树的子节点,其中,所述子节点用于指示所述用户请求的分配状态;第一模拟模块,用于基于拓展的所述子节点模拟对所述任务队列中各用户请求进行任务分配的分配过程;第一统计模块,用于统计模拟过程中的标准差,基于所述本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种服务器分配策略的生成方法,其特征在于,包括:接收用户端发送的用户请求,确定发送所述用户请求的IP地址,并基于所述IP地址获取请求权重;将所述用户请求加入至预先设定的时间窗口的任务队列中,并基于所述请求权重计算服务器的预估负载值;基于蒙特卡洛树模拟所述任务队列中各用户请求进行任务分配的过程,得到模拟结果;基于所述服务器的预估负载值和所述模拟结果生成服务器分配策略。2.根据权利要求1所述的生成方法,其特征在于,在接收用户端发送的用户请求之前,还包括:获取目标集群在目标历史时间段内的访问日志,得到所述目标集群的资源占用信息和访问信息;基于所述资源占用信息和所述访问信息对历史用户请求进行分类,并计算每种类型的所述历史用户请求的权重值;基于所述权重值计算每个所述IP地址对应的所述请求权重,并将所述IP地址和所述请求权重以键值对的形式存储至数据库。3.根据权利要求1所述的生成方法,其特征在于,基于蒙特卡洛树模拟所述任务队列中各用户请求进行任务分配的过程的步骤包括:从根节点开始进行拓展,得到所述蒙特卡洛树的子节点,其中,所述子节点用于指示所述用户请求的分配状态;基于拓展的所述子节点模拟对所述任务队列中各用户请求进行任务分配的分配过程;统计模拟过程中的标准差,基于所述标准差进行反向传播,计算所述根节点和所述子节点的模拟得分。4.根据权利要求3所述的生成方法,其特征在于,得到所述蒙特卡洛树的子节点的步骤包括:确定所述任务队列中所有用户请求和目标集群的所有服务器;从所述蒙特卡洛树的根节点出发,选取所述任务队列中的目标用户请求,并基于所述所有服务器确定所述目标用户请求的所有分配结果;为所述目标用户请求的每个所述分配结果创建所述子节点,得到所述蒙特卡洛树的所述子节点。5.根据权利要求3所述的生成方法,其特征在于,计算所述根节点和所述子节点的模拟得分之后,还包括:获取历史时间段内每个所述用户请求的平均分配时长;基于所述模拟得分、每个所述子节点的访问次数和所有节点的总访问次数计...

【专利技术属性】
技术研发人员:余剑锋成玉龙张涛
申请(专利权)人:中国工商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1