基于处理器的运算方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:37055600 阅读:18 留言:0更新日期:2023-03-29 19:32
本申请涉及一种基于处理器的运算方法、装置、计算机设备及存储介质。方法包括:获取目标神经网络模型对应的计算图;计算图包含多个计算节点;基于计算图中的各个计算节点之间的连接关系,得到多个计算节点序列,并确定每个计算节点序列对应的目标流;确定每个计算节点对应的目标计算精度,基于目标计算精度确定每个计算节点对应的位于处理器中的计算核心;基于多个目标流和每个计算节点对应的计算核心,对计算图进行运算,得到计算结果。采用本方法,能够提高处理器的运算效率。够提高处理器的运算效率。够提高处理器的运算效率。

【技术实现步骤摘要】
基于处理器的运算方法、装置、计算机设备及存储介质


[0001]本申请涉及计算机
,特别是涉及一种基于处理器的运算方法、装置、计算机设备及存储介质。

技术介绍

[0002]随着计算机技术的发展,神经网络模型被广泛的应用在各行各业,神经网络模型中的计算过程可以使用由节点和边组成的计算图进行表示,计算图是指用图论语言表示数学函数的一种方式。
[0003]传统技术中,处理器中的GPU(Graphics Processing Unit,图形处理器)和CPU(central processing unit,中央处理器)按照计算节点的连接顺序依次进行运算,GPU对当前计算节点进行运算之前,需要等待CPU将当前计算节点所需要的输入数据发送给GPU,GPU获取当前计算节点所需要的输入数据之后对当前计算节点进行运算,然后将运算结果发送给CPU,处理器中的GPU对计算图进行运算的过程中,需要耗费大量的等待时间,导致处理器的运算效率低下。

技术实现思路

[0004]基于此,有必要针对上述技术问题,提供一种能够提高处理器运算效率的基于处理器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于处理器的运算方法,其特征在于,包括:获取目标神经网络模型对应的计算图;所述计算图包含多个计算节点;基于所述计算图中的各个计算节点之间的连接关系,得到多个计算节点序列,并确定每个所述计算节点序列对应的目标流;确定每个所述计算节点对应的目标计算精度,基于所述目标计算精度确定每个所述计算节点对应的位于处理器中的计算核心;基于多个所述目标流和每个所述计算节点对应的计算核心,对所述计算图进行运算,得到计算结果。2.根据权利要求1所述的方法,其特征在于,所述基于所述计算图中的各个计算节点之间的连接关系,得到多个计算节点序列,并确定每个所述计算节点序列对应的目标流,包括:基于所述计算图中的各个计算节点之间的连接关系,得到所述计算图对应的最大匹配二分图;将所述最大匹配二分图中具有连接关系的计算节点组成计算节点序列,得到多个所述计算节点序列;为每个所述计算节点序列分配一个目标流;所述目标流用于对所对应的计算节点序列进行封装,不同的所述目标流封装的计算节点序列中的计算节点能够进行并行运算。3.根据权利要求2所述的方法,其特征在于,所述基于所述计算图中的各个计算节点之间的连接关系,得到所述计算图对应的最大匹配二分图,包括:对所述计算图中的各个计算节点进行遍历,得到各个所述计算节点对应的最长遍历路径;基于所述最长遍历路径中的若干个计算节点之间的连接关系,得到邻接矩阵;所述邻接矩阵中的每一行和每一列分别对应一个所述计算节点;基于所述邻接矩阵对多个所述计算节点进行连接,得到最小等价图;基于所述最小等价图中的各个所述计算节点之间的连接关系,得到所述计算图对应的最大匹配二分图。4.根据权利要求1所述的方法,其特征在于,所述确定每个所述计算节点对应的目标计算精度,包括:获取目标函数、时间约束条件、运算次数约束条件以及延迟约束条件;根据所述时间约束条件、所述运算次数约束条件和所述延迟约束条件确定多个候选精度组合;所述候选精度组合包括每个所述计算节点对应的候选精度;针对每个所述候选精度组合,基于每个所述计算节点对应的候选精度和计算类型,确定每个所述计算节点对应的误差;将每个所述计算节点对应的误差代入到所述目标函数,得到每个所述候选精度组合对应的总误差;将多个总误差中的最小总误差对应的候选精度组合包括的每个所述计算节点的候选精度,确定为每个所述计算节点的目标计算精度。5.根据权利要求1所述的方法,其特征在于,所述基于多个所述目标流和每个所述计算节点对应的计算核心,对所述计算图进行运算,得到计算结果之前,所述方法还包括:获取所述计算节点对应的计算类型和所述计算类型对应的多个候选计算方法,以及所
述计算节点对应的目标预测模型;基于所述目标预测模型,分别对每个所述候选计算方法的计算时长进行预测,得到每个所述候选计算方法的预测计算时长;将多个预测计算时长中的最短预测计算时长对应的候选计算方法,确定为所述计算节点对应的目标计算方法;所述...

【专利技术属性】
技术研发人员:白杨沈小勇吕江波
申请(专利权)人:深圳思谋信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1