System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 异构算力集群的运行性能优化方法、装置、设备及介质制造方法及图纸_技高网

异构算力集群的运行性能优化方法、装置、设备及介质制造方法及图纸

技术编号:41252900 阅读:9 留言:0更新日期:2024-05-10 00:00
本发明专利技术公开了一种异构算力集群的运行性能优化方法、装置、设备及介质。该方法包括:在异构算力集群的业务执行过程中,实时获取异构算力集群的运行状态描述信息;根据预设时长内的当前业务负载信息,获取异构算力集群的当前平均业务算力需求;根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,并按照目标能耗调节策略,对异构算力集群进行调整。本发明专利技术实施例的技术方案提供了一种基于业务压力感知进行能效调节的新方式,可以在有效满足集群算力需求的前提下,提升集群能效比,并可以有效降低集群的整体PUE。

【技术实现步骤摘要】

本专利技术涉及算力集群的能效调节,尤其涉及一种异构算力集群的运行性能优化方法、装置、设备及介质


技术介绍

1、随着算力芯片技术的不断发展,可以通过建设异构算力集群的方式,来满足各行各业的数字化转型需求。

2、在构建异构算力集群时,主要使用的算力资源包括cpu(central processingunit,中央处理器)和gpu(graphics processing unit,图形处理器)。主要的业务规模有单卡的,多卡,甚至多机的计算业务。对于大部分的应用,业务可能会使用到多种类型的异构算力,通过多级的计算支持整个应用。

3、专利技术人在实现本专利技术的过程中发现:在异构算力的需求下,如何提高各级算力资源的能效比,以及如何在满足算力需求的前提下,有效控制各级算力资源的能耗,从而有效提高整体集群的能效比和降低整体pue(power usage effectiveness,电源使用效率),是目前有待解决的重要技术难点。


技术实现思路

1、本专利技术提供了一种异构算力集群的运行性能优化方法、装置、设备及介质,以在有效满足集群算力需求的前提下,提升集群能效比。

2、根据本专利技术实施例的一方面,提供了一种异构算力集群的运行性能优化方法,包括:

3、在异构算力集群的业务执行过程中,实时获取异构算力集群的运行状态描述信息;其中,运行状态描述信息包括当前业务负载信息,以及异构算力集群中当前运行的各算力模块的当前算力状态信息;

4、根据预设时长内的当前业务负载信息,获取异构算力集群的当前平均业务算力需求;

5、根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,并按照目标能耗调节策略,对异构算力集群进行调整;

6、其中,目标能耗调节策略中包括至少一个调节参数的理想值,调节参数包括异构算力集群中至少一个服务器内运行的算力模块数量、各算力模块的工作频率或者各算力模块的工作模式。

7、根据本专利技术实施例的另一方面,提供了一种异构算力集群的运行性能优化装置,包括:

8、实时信息获取模块,用于在异构算力集群的业务执行过程中,实时获取异构算力集群的运行状态描述信息;其中,运行状态描述信息包括当前业务负载信息,以及异构算力集群中当前运行的各算力模块的当前算力状态信息;

9、算力需求获取模块,用于根据预设时长内的当前业务负载信息,获取异构算力集群的当前平均业务算力需求;

10、能耗调整模块,用于根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,并按照目标能耗调节策略,对异构算力集群进行调整;

11、其中,目标能耗调节策略中包括至少一个调节参数的理想值,调节参数包括异构算力集群中至少一个服务器内运行的算力模块数量、各算力模块的工作频率或者各算力模块的工作模式。

12、根据本专利技术实施例的另一方面,还提供了一种电子设备,所述电子设备包括:

13、至少一个处理器;以及

14、与所述至少一个处理器通信连接的存储器;其中,

15、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的异构算力集群的运行性能优化方法。

16、根据本专利技术实施例的另一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的异构算力集群的运行性能优化方法。

17、本专利技术实施例的技术方案,通过在异构算力集群的业务执行过程中,实时获取异构算力集群的运行状态描述信息;根据预设时长内的当前业务负载信息,获取异构算力集群的当前平均业务算力需求;根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,并按照目标能耗调节策略,对异构算力集群进行调整的实现方式,提供了一种基于业务压力感知进行能效调节的新方式,可以在有效满足集群算力需求的前提下,提升集群能效比,并可以有效降低集群的整体pue。

18、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种异构算力集群的运行性能优化方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,包括:

3.根据权利要求1所述的方法,其特征在于,根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,包括:

4.根据权利要求1-3任一项所述的方法,其特征在于,所述运行状态描述信息还包括:异构算力集群中当前运行的各算力模块的当前环境状态信息;

5.根据权利要求4所述的方法,其特征在于,根据各算力模块的当前环境状态信息和当前算力状态信息,确定并执行目标调度策略,包括:

6.根据权利要求5所述的方法,其特征在于,根据待处理业务的业务需求信息、各算力模块的当前算力状态信息和当前环境状态信息,筛选能够承载待处理业务的备选算力模块,包括:

7.根据权利要求5所述的方法,其特征在于,在根据待处理业务的业务需求信息、各算力模块的当前算力状态信息和当前环境状态信息,筛选能够承载待处理业务的备选算力模块之后,还包括:

8.一种异构算力集群的运行性能优化装置,其特征在于,包括:

9. 一种电子设备,其特征在于,所述电子设备包括:

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的异构算力集群的运行性能优化方法。

...

【技术特征摘要】

1.一种异构算力集群的运行性能优化方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,包括:

3.根据权利要求1所述的方法,其特征在于,根据各算力模块的当前算力状态信息,确定异构算力集群在满足当前平均业务算力需求时的目标能耗调节策略,包括:

4.根据权利要求1-3任一项所述的方法,其特征在于,所述运行状态描述信息还包括:异构算力集群中当前运行的各算力模块的当前环境状态信息;

5.根据权利要求4所述的方法,其特征在于,根据各算力模块的当前环境状态信息和当前算力状态信息,确定并执行目标调度策略,包括:

...

【专利技术属性】
技术研发人员:黄金燕陈教彦桑鹏程
申请(专利权)人:上海燧原科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1