数据处理方法、电子设备和可读存储介质技术

技术编号:25044368 阅读:19 留言:0更新日期:2020-07-29 05:34
本申请涉及一种数据处理方法、装置、电子设备和可读存储介质,针对子网络划分处理后的目标神经网络,所述目标神经网络包括至少一个子网络;采用本方法能够至少在进行所述子网络的编译和运行的过程中,仅需要一次输入操作和一次输出操作即可,相比于对所述子网络中多个网络层进行分别编译运行,所需的多次输入操作和多次输出操作,本实施例的数据处理方法更高效,提高了运算速率。

【技术实现步骤摘要】
数据处理方法、电子设备和可读存储介质
本申请涉及机器学习
,特别是涉及一种数据处理方法、装置、电子设备和可读存储介质。
技术介绍
深度学习一般分为训练和推理两个过程,训练过程用于搜索和求解神经网络模型的最优参数;而推理过程则用于根据经过训练的神经网络模型,对输入的新的数据进行推理,即前向运算,得到目标输出。目前,基于caffe等深度学习框架构建的神经网络模型的前向运算过程,是由处理器逐层对神经网络的每层进行编译和运行操作的,即每层的操作为单独的运算,每层运算时均需要进行至少一次输入拷贝和至少一次输出拷贝。总之,目前的神经网络的逐层前向运算的方式,存在运算速率低的问题。
技术实现思路
基于此,有必要针对上述技术问题,提供一种能够提高运算速率的数据处理方法、装置、电子设备和可读存储介质。第一方面,一种数据处理方法,所述方法包括:获取目标神经网络的模型数据和权值数据,其中,所述目标神经网络包括至少一个子网络,每个所述子网络中包含至少一个网络层,每个所述子网络中的所述网络层具有相同的融合属性,至本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,所述方法包括:/n获取原始神经网络中各个网络层的依赖关系和融合属性,其中,所述各个网络层的融合属性用于表示所述网络层能否在第一处理器上运行;/n根据所述原始神经网络中各个网络层的融合属性及各个网络层的依赖关系,将具有相同融合属性的至少一个网络层融合为一个子网络,获得目标神经网络;/n其中,所述目标神经网络包括至少一个子网络,所述子网络中的各个网络层在所述目标神经网络的运行过程中作为整体被编译运行。/n

【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法包括:
获取原始神经网络中各个网络层的依赖关系和融合属性,其中,所述各个网络层的融合属性用于表示所述网络层能否在第一处理器上运行;
根据所述原始神经网络中各个网络层的融合属性及各个网络层的依赖关系,将具有相同融合属性的至少一个网络层融合为一个子网络,获得目标神经网络;
其中,所述目标神经网络包括至少一个子网络,所述子网络中的各个网络层在所述目标神经网络的运行过程中作为整体被编译运行。


2.根据权利要求1所述的方法,其特征在于,根据所述原始神经网络中各个网络层的融合属性及各个网络层的依赖关系,将具有相同融合属性的至少一个网络层融合为一个子网络,获得目标神经网络,包括:
根据所述原始神经网络中各个网络层的依赖关系,确定各个所述网络层的拓扑排序;
根据所述拓扑排序,若所述当前网络层的融合属性与所述当前网络层的上一网络层的融合属性相同,则确定所述当前网络层与所述当前网络层的上一网络层属于同一子网络;
根据所述拓扑排序,若所述当前网络层的融合属性与所述当前网络层的上一网络层的融合属性不相同,则确定所述当前网络层与所述当前网络层的上一网络层属于不同的子网络。


3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
根据所述原始神经网络中各个网络层的配置信息,确定各个网络层的融合属性;其中,所述网络层的融合属性包括第一融合属性和第二融合属性;
所述第一融合属性表示所述第一处理器支持所述网络层的运行,所述第二融合属性表示所述第一处理器不支持所述网络层的运行。


4.根据权利要求3所述的方法,其特征在于,所述根据所述原始神经网络中各个网络层的配置信息确定所述各个网络层的融合属性的步骤,包括:
获取各个网络层的预...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:中科寒武纪科技股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1