【技术实现步骤摘要】
数据处理方法、装置、终端设备及计算机可读存储介质
[0001]本申请属于数据处理
,尤其涉及数据处理方法、装置、终端设备及计算机可读存储介质。
技术介绍
[0002]神经网络处理器是一种用于执行神经网络模型的计算任务的处理器,如用于执行基于神经网络的目标检测任务和目标跟踪任务等。神经网络模型中包括多种算子,如卷积算子、转换算子和reorg算子等。神经网络处理器可以较为高效地执行一些逻辑较为简单的算子的计算任务,如卷积算子和转换算子等。但对于如reorg算子这种逻辑较复杂的算子,神经网络处理器的执行效率较低。
技术实现思路
[0003]本申请实施例提供了一种数据处理方法、装置、终端设备及计算机可读存储介质,可以提高神经网络处理器对逻辑复杂算子的执行效率。
[0004]第一方面,本申请实施例提供了一种数据处理方法,应用于神经网络处理器,所述方法包括:
[0005]获取待处理算子的输入张量和第一计算参数;
[0006]根据所述第一计算参数设置所述神经网络处理器的基础算子的第二计算参数, ...
【技术保护点】
【技术特征摘要】
1.一种数据处理方法,其特征在于,应用于神经网络处理器,所述方法包括:获取待处理算子的输入张量和第一计算参数;根据所述第一计算参数设置所述神经网络处理器的基础算子的第二计算参数,其中,所述基础算子的算法复杂度低于所述待处理算子的算法复杂度;基于所述第二计算参数,利用所述基础算子对所述待处理算子的输入张量进行计算,获得所述基础算子的输出张量;转换所述基础算子的输出张量的张量形状,获得目标张量,所述目标张量的张量形状与所述待处理算子的输出张量的张量形状一致。2.如权利要求1所述的数据处理方法,其特征在于,所述基础算子为二维卷积算子,相应的,所述第二计算参数包括权重矩阵、步长和卷积核;所述根据所述第一计算参数设置所述神经网络处理器的基础算子的第二计算参数,包括:生成所述权重矩阵,其中,所述权重矩阵的张量形状由所述第一计算参数确定;将所述步长每个维度的大小设置为所述第一计算参数;将所述卷积核每个维度的大小设置为所述第一计算参数。3.如权利要求2所述的数据处理方法,其特征在于,所述生成所述权重矩阵,包括:根据所述第一计算参数计算第一张量形状;获取与所述第一计算参数相匹配的单位矩阵;将所述单位矩阵转换为符合所述第一张量形状的权重矩阵。4.如权利要求1所述的数据处理方法,其特征在于,所述基于所述第二计算参数,利用所述基础算子对所述待处理算子的输入张量进行计算,获得所述基础算子的输出张量,包括:转换所述待处理算子的输入张量的张量形状,获得第一中间张量,所述第一中间张量的张量形状与所述第二计算参数相匹配;基于所述第二计算参数,利用所述基础算子对所述第一中间张量进行计算,获得所述基础算子的输出张量。5.如权利要求4所述的数据处理方法,其特征在于,所述转换所述待处理算子的输入张量的张量形状,获得第一中间张量,包括:根据所述待处理算子的输入张量的...
【专利技术属性】
技术研发人员:陈敏,蔡万伟,
申请(专利权)人:深圳云天励飞技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。