System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术实施例涉及神经网络,尤其涉及一种神经网络的符号追踪方法、装置、设备及存储介质。
技术介绍
1、目前,机器学习库(如pytorch)是基于动态图执行模式的深度学习框架,提升了机器学习的易用性。但是在模型量化、计算图生成、动态图转静态图等实际应用场景中,用户需要提前捕获神经网络的结构,如有向无环图(directed acyclic graph,dag),以便进行神经网络的分析、可视化和性能优化等。
2、现有的神经网络符号追踪工具通过记录神经网络模型或函数对虚假的值(称之为代理对象或者代理实例)的操作,来获取神经网络的结构,从而生成计算图。然而由于该方式中的代理对象并非真实数据,无法准确的对神经网络进行追踪。
技术实现思路
1、本专利技术实施例提供一种神经网络的符号追踪方法、装置、设备及存储介质,可以提高对神经网络模型符号追踪的准确性,提高计算图的生成精度。
2、第一方面,本专利技术实施例提供了一种神经网络的符号追踪方法,包括:
3、获取目标神经网络及其虚拟输入;
4、根据所述虚拟输入创建输入代理实例,并将所述输入代理实例对应的节点作为输入节点;其中,所述虚拟输入为所述输入代理实例的元数据;
5、将所述输入代理实例作为传入参数调用所述目标神经网络,生成计算图主体;其中,所述计算图主体包括至少一个计算节点;
6、在追踪完成所述目标神经网络后,根据输出数据创建输出代理实例,并将所述输出代理实例的节点作为输出节点
7、第二方面,本专利技术实施例还提供了一种神经网络的符号追踪装置,包括:
8、虚拟输入模块,用于获取目标神经网络及其虚拟输入;
9、输入节点创建模块,用于根据所述虚拟输入创建输入代理实例,并将所述输入代理实例对应的节点作为输入节点;其中,所述虚拟输入为所述输入代理实例的元数据;
10、计算图主体生成模块,用于将所述输入代理实例作为传入参数调用所述目标神经网络,生成计算图主体;其中,所述计算图主体包括至少一个计算节点;
11、计算图获取模块,用于在追踪完成所述目标神经网络后,根据输出数据创建输出代理实例,并将所述输出代理实例的节点作为输出节点,从而获得所述目标神经网络对应的计算图;其中,所述计算图包括所述输入节点、所述计算图主体及所述输出节点。
12、第三方面,本专利技术实施例还提供了一种电子设备,所述电子设备包括:
13、至少一个处理器;以及
14、与所述至少一个处理器通信连接的存储器;其中,
15、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术实施例所述的神经网络的符号追踪方法。
16、第四方面,本专利技术实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术实施例所述的神经网络的符号追踪方法。
17、本专利技术实施例公共了一种神经网络的符号追踪方法、装置、设备及存储介质。获取目标神经网络及其虚拟输入;根据虚拟输入创建输入代理实例,并将输入代理实例对应的节点作为输入节点;其中,虚拟输入为输入代理实例的元数据;将输入代理实例作为传入参数调用目标神经网络,生成计算图主体;其中,计算图主体包括至少一个计算节点;在追踪完成目标神经网络后,根据输出数据创建输出代理实例,并将输出代理实例的节点作为输出节点,从而获得目标神经网络对应的计算图;其中,计算图包括输入节点、计算图主体及输出节点。本专利技术实施例提供的神经网络的符号追踪方法,基于代理实例对神经网络进行符号追踪,以获得神经网络的计算图,可以提高对神经网络模型符号追踪的准确性,提高计算图的生成精度。
本文档来自技高网...【技术保护点】
1.一种神经网络的符号追踪方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,将所述输入代理实例作为传入参数调用所述目标神经网络,生成计算图主体,包括:
3.根据权利要求2所述的方法,其特征在于,若所述计算单元为叶子模块,则所述虚拟运算逻辑为输出属性与输入属性间的映射关系;确定所述计算单元对应的虚拟运算逻辑,包括:
4.根据权利要求3所述的方法,其特征在于,预先构建叶子模块与虚拟运算逻辑间的对应关系,包括:
5.根据权利要求2所述的方法,其特征在于,若所述计算单元为叶子函数,确定所述计算单元对应的虚拟运算逻辑,包括:
6.根据权利要求2所述的方法,其特征在于,在将处理结果作为所述代理实例的元数据之后,还包括:
7.根据权利要求2所述的方法,其特征在于,还包括:创建自定义代理类;其中,所述自定义代理类包括元数据属性及节点属性;所述输入代理实例、所述输出代理实例及所述代理实例均为所述自定义代理类的对象。
8.一种神经网络的符号追踪装置,其特征在于,包括:
9.一种电子设备,
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的神经网络的符号追踪方法。
...【技术特征摘要】
1.一种神经网络的符号追踪方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,将所述输入代理实例作为传入参数调用所述目标神经网络,生成计算图主体,包括:
3.根据权利要求2所述的方法,其特征在于,若所述计算单元为叶子模块,则所述虚拟运算逻辑为输出属性与输入属性间的映射关系;确定所述计算单元对应的虚拟运算逻辑,包括:
4.根据权利要求3所述的方法,其特征在于,预先构建叶子模块与虚拟运算逻辑间的对应关系,包括:
5.根据权利要求2所述的方法,其特征在于,若所述计算单元为叶子函数,确定所述计算单元对应的虚拟运算逻辑,包括:
6....
【专利技术属性】
技术研发人员:江忠泽,
申请(专利权)人:亿咖通湖北技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。