System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种参数管理系统以及相关方法技术方案_技高网

一种参数管理系统以及相关方法技术方案

技术编号:40539148 阅读:5 留言:0更新日期:2024-03-05 18:54
本申请提供了一种参数管理方法,包括:获取应用在现网环境的当前负载特征,根据应用在现网环境的当前负载特征以及应用在现网环境的历史数据,如历史交互记录或历史运行记录,确定与当前负载特征对应的目标参数,其中,历史交互记录包括第一历史负载特征以及根据第一历史负载特征推荐的参数,历史运行记录包括第二历史负载特征和历史运行参数,然后向用户推荐目标参数。该方法减少了在线交互验证次数,每当有新的负载特征输入,可以无需增量训练直接输出与该负载特征对应的目标参数,保障了用户能够及时使用服务,提升了服务体验。

【技术实现步骤摘要】

本申请涉及云计算,尤其涉及一种参数管理系统、参数管理方法、计算设备集群、计算机可读存储介质以及计算机程序产品。


技术介绍

1、随着云计算技术的不断发展,各种提供云计算业务的云平台应运而生。随着云平台的业务增长涌现了大量的应用,为了让这些应用能够在各种应用场景充分发挥性能,这些应用通常提供了大量的可配置参数。

2、可配置参数的优化(也称作参数优化)是一个非确定性多项式困难问题(non-deterministic polynomial,np-hard)问题。人工优化的专家需要大量的经验培养,成本是十分昂贵的。伴随着人工智能(artificial intelligence,ai)的发展,业界的云服务供应商开始寻求利用ai能力挖掘云上应用的自动化参数配置的能力。例如,学术界在数据库、大数据、中间件等应用场景提出了相应的参数优化算法,同时,工业界也已经出现了成熟的落地应用。

3、业界主流的参数优化算法通常采取用户授权的方式直接使用用户的环境(如生产环境)进行交互验证。然而在初始化训练或交互验证的过程中用户是无法使用服务的,这实际上已经延迟了用户使用服务的时间,影响了用户的正常使用。


技术实现思路

1、针对以上问题,本申请提供一种参数管理方法,该方法基于历史数据如历史交互记录或历史运行记录进行参数推荐,将在线验证次数降为0,每当有新的负载特征即“当前负载特征”输入,可以无需增量训练直接输出与当前负载特征对应的目标参数。其中,优先搜索历史交互记录,以获取与当前负载特征对应的目标参数,可以极大地缩减寻优时间,解决在线优化的时间约束问题,满足在线环境的即时性优化需求。本申请还提供与上述方法对应的参数管理系统、计算设备集群、计算机可读存储介质以及计算机程序产品。

2、第一方面,本申请提供一种参数管理方法。该方法可以由参数管理系统执行。参数管理系统可以是软件系统,该软件系统可以部署在计算设备集群中,计算设备集群执行软件系统的程序代码,从而执行本申请的参数管理方法。在一些可能的实现方式中,参数管理系统也可以是硬件系统,该硬件系统运行时,执行本申请的参数管理方法。

3、具体地,参数管理系统获取应用在现网环境的当前负载特征,根据应用在现网环境的当前负载特征以及应用在现网环境的历史数据,确定与当前负载特征对应的目标参数,其中,历史数据包括历史交互记录或历史运行记录,历史交互记录包括第一历史负载特征以及根据第一历史负载特征推荐的参数,历史运行记录包括第二历史负载特征和历史运行参数,然后参数管理系统向用户推荐目标参数。

4、该方法基于历史数据如历史交互记录或历史运行记录进行参数推荐,降低在线验证次数,每当有新的负载特征即“当前负载特征”输入,可以无需增量训练直接输出与当前负载特征对应的目标参数。其中,优先搜索历史交互记录,以获取与当前负载特征对应的目标参数,可以极大地缩减寻优时间,解决在线优化的时间约束问题,满足在线环境的即时性优化需求。

5、在一些可能的实现方式中,所述目标参数包括在当前硬件规格下的第一目标参数。参数管理系统还可以获取所述应用在现网环境的当前硬件规格,相应地,参数管理系统在确定第一目标参数时,可以根据所述应用在现网环境的当前负载特征和当前硬件规格搜索所述历史交互记录,获得所述第一目标参数;或者,根据所述历史运行记录,通过机器学习算法推理与所述当前负载特征和所述当前硬件规格对应的所述第一目标参数。

6、如此,可以实现在规格不支持变更或变更成本较大的业务场景中,对指定的硬件规格下的参数进行推荐,在不增加成本的情况下,提高应用的性能。

7、在一些可能的实现方式中,参数管理系统可以根据历史运行记录,通过回归模型,推理与当前负载特征和所述当前硬件规格对应的所述第一目标参数。其中,回归模型可以包括高斯模型、贝叶斯模型或随机森林模型。参数管理系统可以根据历史运行记录中的负载特征、参数,通过高斯模型、贝叶斯模型或随机森林模型进行拟合,然后根据拟合后的模型可以推理出与当前负载特征、当前硬件规格对应的第一目标参数。

8、该方法通过基于历史运行记录中的负载特征、参数,进行回归模型拟合,然后采用拟合后的回归模型进行推理,能够较为精准地推理出与当前负载特征对应的第一目标参数,为参数配置提供参考。

9、在一些可能的实现方式中,参数管理系统还可以确定与当前硬件规格对应的性能模拟器,该性能模拟器通过历史运行记录训练得到,然后参数管理系统可以通过性能模拟器驱动机器学习算法,以推理与当前负载特征和所述当前硬件规格对应的所述第一目标参数。

10、由于采用了性能模拟器输出的预测性能作为反馈,而不需要等待生产环境中的真实性能作为反馈,降低了与生产环境的交互次数,如此能够缩减寻优时间,解决在线优化的时间约束问题,满足在线环境的即时性优化需求。

11、在一些可能的实现方式中,参数管理系统还可以使用混合拉丁超立方采样mixlhs对历史运行记录中与当前硬件规格匹配的子数据集进行采样,获得数据样本;在离线环境对数据样本进行验证,获得所述数据样本的真实性能;根据所述数据样本和所述真实性能,训练与所述当前硬件规格对应的所述性能模拟器。

12、其中,混合拉丁超立方采样是指一部分数据样本采用拉丁超立方进行均匀采样得到,另一部分数据样本采用加权调整窗口进行非均匀采样得到。一方面混合拉丁超立方采样可以避免在参数空间内呈现样本点聚集的特点,影响性能模拟器的训练,另一方面混合拉丁超立方采样可以实现性能模拟器对整体参数空间的正确反馈。

13、进一步地,参数管理系统可以在采样时,将用户的业务相关的负载特征刻画为环境变量,与子数据集中经过筛选的参数结合一起进行数据采样,如此,基于上述数据样本训练得到的性能模拟器能够对客户端多变的使用场景做出准确的反馈,同时也避免了为每个客户端场景都训练一个模型的额外开销,实现了能够面向动态环境的在线优化方法。

14、在一些可能的实现方式中,所述目标参数包括在目标硬件规格下的第二目标参数。参数管理系统可以根据所述历史运行记录,通过机器学习算法推理所述目标硬件规格以及与所述当前负载特征和所述目标硬件规格对应的所述第二目标参数。相应地,参数管理系统还可以向所述用户推荐所述目标硬件规格。

15、对于支持规格变更的业务场景,该方法还支持推理出与当前负载特征对应的目标硬件规格以及与当前负载特征、目标硬件规格对应的第二目标参数。参数管理系统无需花费大量时间重新训练ai模型,由此解决了硬件规格变更(集群底层资源变更)的问题。

16、在一些可能的实现方式中,参数管理系统可以根据所述历史运行记录,通过机器学习算法推理获得与所述当前负载特征对应的目标硬件规格,然后根据所述当前负载特征、所述目标硬件规格以及所述历史数据,确定所述第二目标参数。

17、其中,参数管理系统在根据当前负载特征、目标硬件规格,确定第二目标参数时,可以采用根据当前负载特征、当前硬件规格,确定第一目标参数本文档来自技高网...

【技术保护点】

1.一种参数管理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标参数包括在当前硬件规格下的第一目标参数;

3.根据权利要求2所述的方法,其特征在于,所述根据所述历史运行记录,通过机器学习算法推理与所述当前负载特征和所述当前硬件规格对应的所述第一目标参数,包括:

4.根据权利要求3所述的方法,其特征在于,所述性能模拟器通过如下方式训练得到:

5.根据权利要求1至4任一项所述的方法,其特征在于,所述目标参数包括在目标硬件规格下的第二目标参数;

6.根据权利要求5所述的方法,其特征在于,所述根据所述历史运行记录,通过机器学习算法推理所述目标硬件规格以及与所述当前负载特征和所述目标硬件规格对应的所述第二目标参数,包括:

7.根据权利要求1至6任一项所述的方法,其特征在于,所述方法还包括:

8.根据权利要求1至7任一项所述的方法,其特征在于,所述方法还包括:

9.根据权利要求8所述的方法,其特征在于,所述对所述目标参数进行验证,包括:

10.根据权利要求8所述的方法,其特征在于,所述应用部署在集群中的多个节点,所述对所述目标参数进行验证,包括:

11.根据权利要求8所述的方法,其特征在于,所述应用部署在主节点和备用节点,所述对所述目标参数进行验证,包括:

12.一种参数管理系统,其特征在于,所述系统包括:

13.根据权利要求12所述的系统,其特征在于,所述目标参数包括在当前硬件规格下的第一目标参数;

14.根据权利要求13所述的系统,其特征在于,所述参数调优模块具体用于:

15.根据权利要求14所述的系统,其特征在于,所述系统还包括:

16.根据权利要求12至15任一项所述的系统,其特征在于,所述目标参数包括在目标硬件规格下的第二目标参数;

17.根据权利要求16所述的系统,其特征在于,所述参数调优模块具体用于:

18.根据权利要求12至17任一项所述的系统,其特征在于,所述系统还包括:

19.根据权利要求12至18任一项所述的系统,其特征在于,所述系统还包括:

20.根据权利要求19所述的系统,其特征在于,所述验证模块具体用于:

21.根据权利要求19所述的系统,其特征在于,所述应用部署在集群中的多个节点,所述配置模块还用于:

22.根据权利要求19所述的系统,其特征在于,所述应用部署在主节点和备用节点,所述验证模块具体用于:

23.一种计算设备集群,其特征在于,所述计算设备集群包括至少一台计算设备,所述至少一台计算设备包括至少一个处理器和至少一个存储器,所述至少一个存储器中存储有计算机可读指令;所述至少一个处理器执行所述计算机可读指令,以使得所述计算设备集群执行如权利要求1至11任一项所述的方法。

24.一种包含指令的计算机程序产品,其特征在于,当所述指令被计算设备集群运行时,使得所述计算设备集群执行如权利要求1至11任一项所述的方法。

25.一种计算机可读存储介质,其特征在于,包括计算机程序指令,当所述计算机程序指令由计算设备集群执行时,所述计算设备集群执行如权利要求1至11任一项所述的方法。

...

【技术特征摘要】

1.一种参数管理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标参数包括在当前硬件规格下的第一目标参数;

3.根据权利要求2所述的方法,其特征在于,所述根据所述历史运行记录,通过机器学习算法推理与所述当前负载特征和所述当前硬件规格对应的所述第一目标参数,包括:

4.根据权利要求3所述的方法,其特征在于,所述性能模拟器通过如下方式训练得到:

5.根据权利要求1至4任一项所述的方法,其特征在于,所述目标参数包括在目标硬件规格下的第二目标参数;

6.根据权利要求5所述的方法,其特征在于,所述根据所述历史运行记录,通过机器学习算法推理所述目标硬件规格以及与所述当前负载特征和所述目标硬件规格对应的所述第二目标参数,包括:

7.根据权利要求1至6任一项所述的方法,其特征在于,所述方法还包括:

8.根据权利要求1至7任一项所述的方法,其特征在于,所述方法还包括:

9.根据权利要求8所述的方法,其特征在于,所述对所述目标参数进行验证,包括:

10.根据权利要求8所述的方法,其特征在于,所述应用部署在集群中的多个节点,所述对所述目标参数进行验证,包括:

11.根据权利要求8所述的方法,其特征在于,所述应用部署在主节点和备用节点,所述对所述目标参数进行验证,包括:

12.一种参数管理系统,其特征在于,所述系统包括:

13.根据权利要求12所述的系统,其特征在于,所述目标参数包括在当前硬件规格下的第一目标参数;

14.根据权利要求13所述的...

【专利技术属性】
技术研发人员:任宏帅孙涛刘俊洋苗永辉
申请(专利权)人:华为云计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1