编译方法及装置制造方法及图纸

本公开涉及编译方法及装置，所述装置包括控制器单元，所述控制器单元包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。本公开可以提高装置在进行神经网络模型的编译时的编译效率。

【技术实现步骤摘要】
编译方法及装置
本公开涉及信息处理
，尤其涉及一种编译方法及装置。
技术介绍
随着信息技术的不断发展和人们日益增长的需求，人们对信息及时性的要求越来越高了。目前，终端对信息的获取以及处理通常是基于通用处理器获得的。在实践中发现，这种基于通用处理器运行软件程序来处理信息的方式，受限于通用处理器的运行速率及数据的调用速率，特别是在处理神经网络模型编译等运算量较大的任务时，通用处理器负荷较大的情况下，信息处理效率较低、时延较大。因此，急需提出一种新的技术方案以提高信息处理效率、减小时延。
技术实现思路
根据本公开的一个方面，提出了一种神经网络模型的编译方法，所述方法包括：确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分；获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果；根据所述第一编译结果得到所述待编译的神经网络模型的编译结果。在一种可能的实施方式中，确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分，包括:本文档来自技高网...

【技术保护点】
1.一种神经网络模型的编译方法，其特征在于，所述方法包括：/n确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分；/n获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果；/n根据所述第一编译结果得到所述待编译的神经网络模型的编译结果。/n

【技术特征摘要】
1.一种神经网络模型的编译方法，其特征在于，所述方法包括：
确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分；
获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果；
根据所述第一编译结果得到所述待编译的神经网络模型的编译结果。


2.根据权利要求1所述的方法，其特征在于，确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分，包括:
将所述待编译的神经网络模型的计算图与所述已编译的神经网络模型的计算图进行比较，得到比较结果；
根据所述比较结果，将所述待编译的神经网络模型的计算图与已编译的神经网络模型的计算图中相同的部分作为所述相同部分。


3.根据权利要求1或2所述的方法，其特征在于，所述相同部分对应的算子、算子之间的连接关系相同。


4.根据权利要求3所述的方法，其特征在于，所述相同部分对应的数据的维度相同。


5.根据权利要求3所述的方法，其特征在于，所述相同部分对应的权值的维度相同。


6.根据权利要求1所述的方法，其特征在于，所述相同部分包括神经网络模型的至少一个层和/或至少一个算子。


7.根据权利要求1所述的方法，其特征在于，所述方法还包括：
确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的不同部分；
对所述不同部分进行编译得到第二编译结果；
所述根据所述第一编译结果得到所述待编译的神经网络模型的编译结果，包括：
利用所述第一编译结果及所述第二编译结果得到所述待编译的神经网络模型的编译结果。


8.根据权利要求1所述的方法，其特征在于，当所述已编译的神经网络模型的编译结果包括与网络结构信息对应的第一部分、和与数据信息和权值信息对应的第二部分时，所述获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果，还包括：
在所述第一部分中，获取与所述相同部分对应的第一编译结果。


9.根据权利要求1所述的方法，其特征在于，当所述已编译的神经网络模型的编译结果包括网络结构信息编译结果和数据信息及权值信息编译结果时，所述获取已编译的神经网络模型中与所述相同部分对应的第一编译结果，还包括：
在所述网络结构信息编译结果中获取与所述相同部分对应的第一编译结果。


10.一种神经网络模型的编译装置，其特征在于，所述装置包括：
确定模块，用于确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分；
获取模块，连接于所述确定模块，用于获取已编译的神...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31