一种数据处理方法、片上系统、电子设备及介质技术方案

技术编号:37401136 阅读:21 留言:0更新日期:2023-04-30 09:29
本申请涉及人工智能技术领域,公开了一种数据处理方法、片上系统、电子设备及介质。本申请的数据处理方法包括:确定神经网络中各节点所需的数据处理资源,并且根据各节点的数据依赖关系将神经网络中的节点分为多个独立节点单元组;基于各节点所需的数据处理资源、多个独立节点单元组,确定神经网络中各节点的执行顺序;控制神经网络基于执行顺序执行各节点,以对待处理数据进行处理。上述数据处理方法可以为各节点分配各节点所需的数据处理资源,并且可以控制神经网络基于执行顺序执行各节点,降低了因资源分配而产生的等待时间,避免了资源的浪费,提升了计算速度。提升了计算速度。提升了计算速度。

【技术实现步骤摘要】
一种数据处理方法、片上系统、电子设备及介质


[0001]本申请涉及人工智能
,特别涉及一种数据处理方法、片上系统、电子设备及介质。

技术介绍

[0002]随着人工智能(artificial intelligence,AI)的迅速发展,神经网络在人工智能领域的应用越来越广泛。可以理解,神经网络是通过神经网络中各节点(或称为各算子)执行相应的操作进行数据处理的;其中,神经网络中一些节点的输出数据可以作为另一些节点的输入数据,各节点只有接收到输入数据后,才可以执行相应的操作,即节点之间存在数据依赖关系。
[0003]目前,神经网络是根据神经网络中各节点的连接顺序依次运行的,在神经网络运行过程中会存在一些节点虽然资源已经准备完毕,但是按照执行顺序而被迫等待,因此执行时间较长;并且,电子设备会按照相同的分配方式为各节点分配相同数量的计算单元与内存单元,但是神经网络中各节点执行的操作类型并不相同,例如对于计算敏感性操作,在读取数据后,需要对单位数据执行多次算术运算,因此计算所需要的时间较长,为了加快计算速度,需要较多的计算资源,如常见的卷积算本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,应用于电子设备,其特征在于,包括:确定神经网络中各节点所需的数据处理资源,并且根据所述各节点的数据依赖关系将所述神经网络中的节点分为多个独立节点单元组,其中,所述独立节点单元组包括多个独立节点单元,同一独立节点单元组中的各独立节点单元之间无数据依赖关系;基于所述各节点所需的数据处理资源、所述多个独立节点单元组,确定所述神经网络中各节点的执行顺序;控制所述神经网络基于所述执行顺序执行各节点,以对待处理数据进行处理。2.根据权利要求1所述的数据处理方法,其特征在于,所述基于所述各节点所需的数据处理资源、所述多个独立节点单元组,确定所述神经网络中各节点的执行顺序包括:基于所述各节点所需的数据处理资源、所述多个独立节点单元组,确定所述神经网络各节点的执行顺序集合;确定所述执行顺序集合中执行时间最短的第一执行顺序;当所述第一执行顺序对应的数据处理时间低于所述神经网络的各节点的默认执行顺序对应的数据处理时间时,将所述第一执行顺序作为所述神经网络各节点的执行顺序;当所述第一执行顺序对应的数据处理时间不低于所述神经网络的各节点的默认执行顺序对应的数据处理时间时,将所述神经网络的各节点的默认执行顺序作为所述神经网络各节点的执行顺序。3.根据权利要求1所述的数据处理方法,其特征在于,所述控制所述神经网络基于所述执行顺序执行各节点,以对待处理数据进行处理包括:按照所述执行顺序为所述各节点分配所述各节点所需的数据处理资源;控制所述神经网络基于所述各节点所需的数据处理资源对所述待处理数据进行处理。4.根据权利要求1所述的数据处理方法,其特征在于,所述独立节点单元包括一个节点或者多个节点。5.根据权利要求1所述的数据处理方法,其特征在于,所述数据处理资源包括计算资源和内存资源。6.根据权利要求5所述的数据处理方法,其特征在于,基于各节点所需的数据处理资源对所述神经网络所需的内存资源进行分片,获取多种类型的内存资源片;所述控制所述神经网络基于所述执行顺序执行各节点,以对待处理数据进行处理,包括:确定所述各节点的操作类型以及所需内存资源片的数量;基于所述各节点的操作类型以及所需内存资源片的数量为所述各节点分配对应类型以及对应数量的内存资源片。7.根据权利要求6所述的数据处理方法,其特征在于,所述多种类型的内存资源片包括卷积类算子的内存片和全连接类算子的内存片;所述各节点的操作类型包括卷积操作和全连接操作。8.根据权利...

【专利技术属性】
技术研发人员:刘超黄敦博章小龙
申请(专利权)人:安谋科技中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1