【技术实现步骤摘要】
一种算子执行方法、装置、电子设备及存储介质
本公开涉及深度学习
,具体而言,涉及一种算子执行方法、装置、电子设备及存储介质。
技术介绍
基于动态图计算模型的神经网络执行数据处理任务时的神经网络结构不固定,造成无法将数据处理过程的不同阶段需要占用的内存量确定下来,进而也无法预先为数据处理过程设定内存回收的节点。当前的内存清理方法为神经网络的计算算子和辅助算子设定内存清理算子;一旦某个计算算子或者辅助算子被执行,即执行与其对应的内存清理算子进行内存清理。该方法存在数据处理效率低的问题。
技术实现思路
本公开实施例至少提供一种算子执行方法、装置、电子设备及存储介质。第一方面,本公开实施例提供了一种算子执行方法,包括:响应于接收到待执行的第一算子,确定所述第一算子的状态信息;根据所述状态信息,执行或不执行待执行算子,所述待执行算子包括所述第一算子以及在接收到所述第一算子之前接收到的第二算子。这样,在接收到第一算子后,能够确定第一算子的状态信息,并基于第一算子的状态信息,确定执行或不执行当前待 ...
【技术保护点】
1.一种算子执行方法,其特征在于,包括:/n响应于接收到待执行的第一算子,确定所述第一算子的状态信息;/n根据所述状态信息,执行或不执行待执行算子,所述待执行算子包括所述第一算子以及在接收到所述第一算子之前接收到的第二算子。/n
【技术特征摘要】
1.一种算子执行方法,其特征在于,包括:
响应于接收到待执行的第一算子,确定所述第一算子的状态信息;
根据所述状态信息,执行或不执行待执行算子,所述待执行算子包括所述第一算子以及在接收到所述第一算子之前接收到的第二算子。
2.根据权利要求1所述的算子执行方法,其特征在于,所述状态信息包括算子类型,所述算子类型包括计算算子、辅助算子和内存清理算子中的至少一项。
3.根据权利要求2所述的算子执行方法,其特征在于,所述状态信息还包括所述待执行算子中所述算子类型对应的算子数量。
4.根据权利要求1至3任一项所述的算子执行方法,其特征在于,所述根据所述状态信息,执行或不执行待执行算子,包括:
响应于所述状态信息表征所述第一算子的算子类型为计算算子或内存清理算子,将所述第一算子加入目标队列,所述目标队列为用于存放计算算子的第一队列或用于存放内存清理算子的第二队列。
5.根据权利要求4所述的算子执行方法,其特征在于,在所述将所述第一算子加入目标队列之后,还包括:
响应于所述目标队列中的算子数量达到数量阈值,依次执行所述待执行算子中所述第一队列的算子以及所述第二队列的算子。
6.根据权利要求5所述的算子执行方法,其特征在于,所述方法应用于一种电子设备,所述数量阈值与所述电子设备的内存呈正相关。
7.根据权利要求1至6任一项所述的算子执行方法,其特征在于,所述根据所述状态信息,执行或不执行待执行算子,包括:
响应于所述状态信息表征所述第一算子的算子类型为辅助算子,依次执行所述待执行算子中第一队列的算子、所述第一算子以及第二队列的算子,所述第一队列用于存放计算算子,所述第二队列用于存放内存清理算子。
8.根据权利要求1至7任一项所述的算子执行方法,其特征在于,所述执行待执行算子,包括:
在执行所述待执行算子中第三算子的过程中,确定对象指针指向的内容是否为空;
响应于所述对象指针指向的内容非空,基于所述第三算子对应的上下文以及所述对...
【专利技术属性】
技术研发人员:王骞,李周洋,张行程,
申请(专利权)人:上海商汤智能科技有限公司,
类型:发明
国别省市:上海;31
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。