System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种服务实例的调度方法及装置制造方法及图纸_技高网

一种服务实例的调度方法及装置制造方法及图纸

技术编号:41403517 阅读:6 留言:0更新日期:2024-05-20 19:29
本说明书一个或多个实施例提供一种服务实例的调度方法及装置,所述方法包括:确定待调度服务实例对应的候选逻辑核组,每一候选逻辑核组包含同一CPU芯片中的多个逻辑核,且所述多个逻辑核包括至少一个空闲逻辑核;分别将每一候选逻辑核组对应的模型输入信息输入至预先训练的压力预测模型中,并根据所述压力预测模型输出的由所述待调度服务实例产生的预测压力影响数据,计算所述待调度服务实例分别对各个候选逻辑核组所处CPU芯片造成的预测压力增长程度;其中,所述模型输入信息包括相应候选逻辑核组所处CPU芯片的实例部署信息;将所述待调度服务实例调度至预测压力增长程度最小的候选逻辑核组。

【技术实现步骤摘要】

本说明书一个或多个实施例涉及服务实例领域,尤其涉及一种服务实例的调度方法及装置


技术介绍

1、服务实例指的是服务器所提供服务的运行实体。该运行实体在运行时需要占用服务器资源(如cpu资源和内存资源),因此运行于同一服务器的服务实例需要竞争服务器资源,服务器资源的竞争将导致服务实例性能的下降。

2、相关技术中,通过对服务器资源进行管理的来保证服务实例的性能。该方法对正在运行的服务实例进行性能检测,在服务实例性能未达到预期的情况下确定性能下降的原因。若是由于服务实例内部进程的资源竞争导致的性能下降,则为该服务实例分配更多的服务器资源;若是由于与其他服务实例的资源竞争导致的性能下降,则提高该服务实例的运行优先级。

3、然而相关技术提供的方法为被动式的资源管理方法,该方法在服务实例性能未达预期的情况下才能启动,此时服务实例性能已受到影响。


技术实现思路

1、有鉴于此,本说明书一个或多个实施例提供一种服务实例的调度方法及装置,可以解决相关技术中存在的不足。

2、为实现上述目的,本说明书一个或多个实施例提供技术方案如下:

3、根据本说明书一个或多个实施例的第一方面,提出了一种服务实例的调度方法,所述方法包括:

4、确定待调度服务实例对应的候选逻辑核组,每一候选逻辑核组包含同一cpu芯片中的多个逻辑核,且所述多个逻辑核包括至少一个空闲逻辑核;

5、分别将每一候选逻辑核组对应的模型输入信息输入至预先训练的压力预测模型中,并根据所述压力预测模型输出的由所述待调度服务实例产生的预测压力影响数据,计算所述待调度服务实例分别对各个候选逻辑核组所处cpu芯片造成的预测压力增长程度;其中,所述模型输入信息包括相应候选逻辑核组所处cpu芯片的实例部署信息;

6、将所述待调度服务实例调度至预测压力增长程度最小的候选逻辑核组。

7、根据本说明书一个或多个实施例的第二方面,提出了一种压力预测模型的训练方法,所述方法包括:

8、获取训练数据集,所述训练数据集中的每一训练样本包括:相应样本逻辑核组所处cpu芯片的实例部署信息、该样本逻辑核组绑定的各个服务实例分别对应的实际压力影响数据;其中,每一样本逻辑核组包含同一cpu芯片中的多个逻辑核;

9、将所述训练数据集输入至待训练模型中,以使所述待训练模型输出每一训练样本对应的cpu芯片中各个服务实例产生的预测压力影响数据;

10、根据所述实际压力影响数据、所述预测压力影响数据和预先定义的损失函数,迭代优化所述待训练模型,得到所述压力预测模型。

11、据本说明书一个或多个实施例的第三方面,提出了一种服务实例的调度装置,所述装置包括:

12、确定单元:确定待调度服务实例对应的候选逻辑核组,每一候选逻辑核组包含同一cpu芯片中的多个逻辑核,且所述多个逻辑核包括至少一个空闲逻辑核;

13、计算单元:分别将每一候选逻辑核组对应的模型输入信息输入至预先训练的压力预测模型中,并根据所述压力预测模型输出的由所述待调度服务实例产生的预测压力影响数据,计算所述待调度服务实例分别对各个候选逻辑核组所处cpu芯片造成的预测压力增长程度;其中,所述模型输入信息包括相应候选逻辑核组所处cpu芯片的实例部署信息;

14、调度单元:将所述待调度服务实例调度至预测压力增长程度最小的候选逻辑核组。

15、根据本说明书一个或多个实施例的第四方面,提出了一种压力预测模型的训练装置,所述装置包括:

16、获取单元:获取训练数据集,所述训练数据集中的每一训练样本包括:相应样本逻辑核组所处cpu芯片的实例部署信息、该样本逻辑核组绑定的各个服务实例分别对应的实际压力影响数据;其中,每一样本逻辑核组包含同一cpu芯片中的多个逻辑核;

17、输入单元:将所述训练数据集输入至待训练模型中,以使所述待训练模型输出每一训练样本对应的cpu芯片中各个服务实例产生的预测压力影响数据;

18、优化单元:根据所述实际压力影响数据、所述预测压力影响数据和预先定义的损失函数,迭代优化所述待训练模型,得到所述压力预测模型。

19、根据本说明书一个或多个实施例的第五方面,提出了一种电子设备,包括:

20、处理器;

21、用于存储处理器可执行指令的存储器;

22、其中,所述处理器通过运行所述可执行指令以实现如第一方面或第二方面所述方法的步骤。

23、根据本说明书一个或多个实施例的第六方面,提出了一种计算机可读存储介质,其上存储有计算机指令,该指令被处理器执行时实现如第一方面或第二方面所述方法的步骤。

24、由以上技术方案可见,本说明书一个或多个实施例提供的服务实例的调度方法为主动式的调度方法,在调度前为待调度服务实例确定出候选逻辑核组,并通过预先训练的压力预测模型输出的由所述待调度服务实例产生的预测压力影响数据,计算所述待调度服务实例分别对各个候选逻辑核组所处cpu芯片造成的预测压力增长程度,使得待调度服务实例可以被调度至对cpu芯片压力影响最小的候选逻辑核组,从而降低待调度服务实例对cpu芯片运行的影响,进而确保了待调度服务实例和cpu芯片上运行的其他服务实例的性能。

本文档来自技高网...

【技术保护点】

1.一种服务实例的调度方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述确定待调度服务实例对应的候选逻辑核组,包括:

3.根据权利要求2所述的方法,其特征在于,所述候选的空闲逻辑核来自服务器集群中符合候选条件的服务器;其中,所述候选条件包括:空闲逻辑核数量不小于所述待调度服务实例所需的逻辑核数量,且未运行有与所述待调度服务实例所属服务相同的服务实例。

4.根据权利要求1所述的方法,其特征在于,所述压力预测模型包括第一干扰预测层和/或第二干扰预测层;其中,

5.根据权利要求1所述的方法,其特征在于,所述压力预测模型包括输入层,所述输入层用于通过神经网络提取所述模型输入信息中的特征信息,所述特征信息用于生成所述预测压力影响数据。

6.根据权利要求1所述的方法,其特征在于,所述预测压力影响数据包括单独部署压力值和混合部署压力值;其中,

7.根据权利要求1所述的方法,其特征在于,所述模型输入信息还包括各个候选逻辑核组所处CPU芯片的型号。

8.一种压力预测模型的训练方法,其特征在于,所述方法包括:

9.根据权利要求8所述的方法,其特征在于,所述训练数据集中的每一训练样本还包括相应样本逻辑核组所处CPU芯片的型号。

10.一种服务实例的调度装置,其特征在于,所述装置包括:

11.一种压力预测模型的训练装置,其特征在于,所述装置包括:

12.一种电子设备,其特征在于,包括:

13.一种计算机可读存储介质,其上存储有计算机指令,其特征在于,该指令被处理器执行时实现如权利要求1-9中任一项所述方法的步骤。

...

【技术特征摘要】

1.一种服务实例的调度方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述确定待调度服务实例对应的候选逻辑核组,包括:

3.根据权利要求2所述的方法,其特征在于,所述候选的空闲逻辑核来自服务器集群中符合候选条件的服务器;其中,所述候选条件包括:空闲逻辑核数量不小于所述待调度服务实例所需的逻辑核数量,且未运行有与所述待调度服务实例所属服务相同的服务实例。

4.根据权利要求1所述的方法,其特征在于,所述压力预测模型包括第一干扰预测层和/或第二干扰预测层;其中,

5.根据权利要求1所述的方法,其特征在于,所述压力预测模型包括输入层,所述输入层用于通过神经网络提取所述模型输入信息中的特征信息,所述特征信息用于生成所述预测压力影响数据。

6.根据权利要求1...

【专利技术属性】
技术研发人员:戴杰杨定裕梁啟成
申请(专利权)人:阿里巴巴中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1