负载性能分析方法、装置及存储介质制造方法及图纸

技术编号:41093779 阅读:12 留言:0更新日期:2024-04-25 13:53
本申请实施例公开了一种负载性能分析方法、装置及存储介质,属于计算机技术领域。在该方法中:获取负载在计算平台上的运行过程的指令分布特征,指令分布特征指示运行过程中执行的指令在不同指令类型上的分布情况;基于指令分布特征在计算平台的屋顶线模型中添加有效算力屋顶线;基于更新后的屋顶线模型对负载的性能进行分析。本申请实施例按照指令的性能值对指令进行分类,也即属于同一指令类型的指令的性能值相同。以便于基于负载在计算平台上的运行过程中的指令在不同指令类型上的分布情况来绘制有效算力屋顶线,这样有效算力屋顶线能够更加准确表征负载在计算平台约束下的最大算力,进而准确评估负载的性能。

【技术实现步骤摘要】

本申请实施例涉及计算机,特别涉及一种负载性能分析方法、装置及存储介质


技术介绍

1、对于运行在计算平台上的深度学习模型等负载,负载的性能受计算平台上各种资源的约束,因此如何对运行在计算平台上的负载的性能进行分析是当前研究的热点。

2、相关技术通过屋顶线(roofline)模型分析运行在计算平台上的负载的性能。屋顶线模型是指根据计算平台的资源在二维坐标系中构建屋顶线。二维坐标系的横坐标指示操作强度,操作强度为计算量和内存访问量之间的比值。二维坐标系的纵坐标指示性能,性能为单位时间的计算量。基于此,构建的屋顶线通常包括倾斜屋顶线和水平屋顶线,倾斜屋顶线与计算平台的带宽相关,水平屋顶线与计算平台的最大算力相关。对于运行在计算平台上的任一负载,基于负载的实际性能和实际操作强度在该二维坐标系中构建该负载的工作点,如果该负载的工作点位于倾斜屋顶线对应的区域内,则表明该负载的实际性能受计算平台的带宽的约束,如果该负载的工作点位于水平屋顶线对应的区域内,则表明该负载的实际性能受计算平台的最大算力的约束。另外,由于计算平台通常提供有各类型的计算单元,每种类型的本文档来自技高网...

【技术保护点】

1.一种负载性能分析方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述指令分布特征包括多个指令类型中每个指令类型对应的指令数量,所述指令数量指示在所述运行过程中执行的、且属于相应指令类型的指令的数量;

3.如权利要求1所述的方法,其特征在于,所述基于所述指令分布特征在所述计算平台的屋顶线模型中添加有效算力屋顶线之前,所述方法还包括:

4.如权利要求3所述的方法,其特征在于,所述基于更新后的屋顶线模型对所述负载的性能进行分析,包括:

5.如权利要求3所述的方法,其特征在于,所述基于更新后的屋顶线模型对所述负载的性能...

【技术特征摘要】

1.一种负载性能分析方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述指令分布特征包括多个指令类型中每个指令类型对应的指令数量,所述指令数量指示在所述运行过程中执行的、且属于相应指令类型的指令的数量;

3.如权利要求1所述的方法,其特征在于,所述基于所述指令分布特征在所述计算平台的屋顶线模型中添加有效算力屋顶线之前,所述方法还包括:

4.如权利要求3所述的方法,其特征在于,所述基于更新后的屋顶线模型对所述负载的性能进行分析,包括:

5.如权利要求3所述的方法,其特征在于,所述基于更新后的屋顶线模型对所述负载的性能进行分析,包括:

【专利技术属性】
技术研发人员:魏富春王永忠欧阳忠清
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1