【技术实现步骤摘要】
算法组合调优处理方法、装置、计算机设备及存储介质
[0001]本申请涉及计算
,特别是涉及一种算法组合调优处理方法、装置、计算机设备及存储介质。
技术介绍
[0002]随着计算机技术的发展,推理计算过程中的算子变得更多,每种算子又对应了多种算法,不同的组合情况在硬件平台上表现出的性能也有所差异,需要对算法组合进行调优来获得最佳性能。
[0003]但是,由于所需调优的算子数量较多,导致最终的方案数飞速增长,找到优选组合方案的时间也不断增加,效率低下。
技术实现思路
[0004]基于此,有必要针对上述技术问题,提供一种能够高效地从多个算子中找出优选的算法组合的算法组合调优处理方法、装置、计算机设备及存储介质。
[0005]第一方面,本申请提供了一种算法组合调优处理方法。所述方法包括:
[0006]获取多个算法以及每个算法所属的算子,每个算子包括多个算法;
[0007]获取初始的状态转移矩阵和初始的算法选择矩阵;
[0008]基于每个算法所属的算子、资源占用量和性能代价 ...
【技术保护点】
【技术特征摘要】
1.一种算法组合调优处理方法,其特征在于,所述方法包括:获取多个算法以及每个算法所属的算子,每个算子包括多个算法;获取初始的状态转移矩阵和初始的算法选择矩阵;基于每个算法所属的算子、资源占用量和性能代价,在所述状态转移矩阵中进行状态转移处理,记录状态转移处理后的状态;记录的状态表征按照不同的算子组合方式以及预设的总资源占用量从每个算子中选择的算法对应的性能代价总和最小值;在所述算法选择矩阵中,记录按照不同的算子组合方式以及预设的总资源占用量从每个算子中所选择的实现所述性能代价总和最小值的算法;基于所述状态转移矩阵和所述算法选择矩阵各自记录的内容,确定从每个算子中选择的算法构成的使得性能代价总和最小化的算法组合。2.根据权利要求1所述的方法,其特征在于,所述基于每个算法所属的算子、资源占用量和性能代价,在所述状态转移矩阵中进行状态转移处理,记录状态转移处理后的状态,包括:从多个所述算子中分别按照不同总资源占用量遍历每个算法;获取遍历的算法的资源占用量以及遍历的算法的性能代价;将遍历的总资源占用量减去所述遍历的算法的资源占用量得到第一资源占用中间量;按照所述第一资源占用中间量,从所述状态转移矩阵中前一次遍历的算子组合的各个状态中,确定历史状态;基于所述遍历的算法的性能代价和所述历史状态,确定遍历的算子以及所述遍历的总资源占用量下的候选状态;在所述状态转移矩阵中,将所述候选状态中的最小值,确定为所述遍历的算子以及所述遍历的总资源占用量下的状态。3.根据权利要求2所述的方法,其特征在于,所述从多个所述算子中分别按照不同总资源占用量遍历每个算法,包括:先遍历多个所述算子中的每个算子,再在算子下遍历预设的总资源占用量,再在遍历的总资源占用量下遍历所遍历的算子中的每个算法。4.根据权利要求2或3所述的方法,其特征在于,所述状态转移矩阵的第一维度i,表征所述多个算子中前i个算子的算子组合;所述状态转移矩阵的第二维度j,表征从前i个算子中各取一个算法的总资源占用量;在从前i个算子中各取一个算法,使得选择的算法的总资源占用量为j的情况下,选择的算法的性能代价总和最小值记录为状态转移矩阵中的状态dp
i,j
;其中,i是不小于0的整数,j是不小于0的离散值;所述状态转移处理按照以下公式进行:dp
i,j
=min{dp
i
‑
1,j
‑
resourcei,k
+cost
i,k
};其中,resource
i,k
表示从第i个算子中选择第k个算法的资源占用量,cost
i,k
表示从第i个算子中选择第k个算法的性能代价,j
‑
resource
i,k
表征从总资源占用量j中减去第i个算子中选择的第k个算法的资源占用量后得到第一资源占用中间量,dp
i
‑1,j
‑
resource
i,k
表征按照...
【专利技术属性】
技术研发人员:温春阳,
申请(专利权)人:深圳元戎启行科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。