运算方法、装置及相关产品制造方法及图纸

本公开涉及一种运算方法、装置及相关产品，所述产品包括控制器单元，所述控制器单元包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高相关产品在进行神经网络模型的运算时的运算效率。

【技术实现步骤摘要】
运算方法、装置及相关产品
本公开涉及信息处理
，尤其涉及一种运算方法、装置及相关产品。
技术介绍
在人工智能
，神经网络算法是最近非常流行的一种机器学习算法，在各种领域中都取得了非常好的效果，比如图像识别，语音识别，自然语言处理等。随着神经网络算法的发展，算法的复杂度也越来越高，为了提高识别度，模型的规模也在逐渐增大。用GPU和CPU处理起这些大规模的模型，要花费大量的计算时间，并且耗电量很大。
技术实现思路
有鉴于此，本公开提出了一种神经网络的编译方法及装置。根据本公开的一方面，提供了一种神经网络的编译方法，所述方法包括：根据所述神经网络的计算图得到所述神经网络对应的哈希码；在已保存的哈希码中存在所述神经网络对应的哈希码时，根据所述神经网络对应的哈希码获取所述神经网络对应的编译指令；其中，所述已保存的哈希码为已经编译过的神经网络的哈希码。在一种可能的实现方式中，所述方法还包括：在已保存的哈希码中不存在所述神经网络对应的哈希码时，对所述神经网络进行编译生成编译文件，本文档来自技高网...

【技术保护点】
1.一种神经网络的编译方法，其特征在于，所述方法包括：/n根据所述神经网络的计算图得到所述神经网络对应的哈希码；/n在已保存的哈希码中存在所述神经网络对应的哈希码时，根据所述神经网络对应的哈希码获取所述神经网络对应的编译指令；/n其中，所述已保存的哈希码为已经编译过的神经网络的哈希码。/n

【技术特征摘要】
1.一种神经网络的编译方法，其特征在于，所述方法包括：
根据所述神经网络的计算图得到所述神经网络对应的哈希码；
在已保存的哈希码中存在所述神经网络对应的哈希码时，根据所述神经网络对应的哈希码获取所述神经网络对应的编译指令；
其中，所述已保存的哈希码为已经编译过的神经网络的哈希码。


2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在已保存的哈希码中不存在所述神经网络对应的哈希码时，对所述神经网络进行编译生成编译文件，所述编译文件中包括所述神经网络对应的编译指令。


3.根据权利要求1或2所述的方法，其特征在于，所述神经网络对应的哈希码包括根据计算图的第一特征得到的第一哈希码和根据计算图的第二特征得到的第二哈希码，
在已保存的哈希码中存在所述神经网络对应的哈希码时，根据所述神经网络对应的哈希码获取所述神经网络对应的编译指令，包括：
在已保存的哈希码中存在所述根据计算图的第一特征得到的第一哈希码和所述根据计算图的第二特征得到的第二哈希码，且已保存的所述第一哈希码和所述第二哈希码之间存在第二关联关系时，根据所述第一哈希码和所述第二哈希码获取所述神经网络对应的编译指令。


4.根据权利要求3所述的方法，其特征在于，
在已保存的哈希码中不存在所述神经网络对应的哈希码时，对所述神经网络进行编译生成编译文件，包括：
在已保存的哈希码中不存在所述第一哈希码，或者，在已保存的哈希码中不存在所述第二哈希码，或者，在已保存的哈希码中存在的所述第一哈希码和第二哈希码不存在第二关联关系时，对所述神经网络进行编译生成编译文件。


5.根据权利要求4所述的方法，其特征在于，所述方法还包括：
在已保存的哈希码中不存在所述第一哈希码，或者，在已保存的哈希码中不存在所述第二哈希码，或者，在已保存的哈希码中存在的所述第一哈希码和第二哈希码不存在第二关联关系时，根据所述第一哈希码和所述第二哈希码生成第三哈希码；
将所述第三哈希码作为所述编译文件的标识。


6.根据权利要求3所述的方法，其特征在于，
已保存的哈希码中的第一哈希码、第二哈希码和编译文件的标识之间存在第一关联关系，
根据所述第一哈希码和所述第二哈希码获取所述神经网络对应的编译指令，包括：
根据所述第一哈希码、所述第二哈希码和所述第一关联关系，确定与所述第一哈希码和所述第二哈希码对应的编译文件的标识；
根据所述编译文件的标识获取编译文件，所述编译文件中包括所述编译指令。


7.根据权利要求1-6任意一项所述的方法，其特征在于，根据所述神经网络的计算图得到所述神经网络对应的哈希码，包括：
根据所述计算图的图结构计算所述神经网络的所述第一哈希码；
根据所述计算图的数据信息计算所述神经网络的所述第二哈希码。


8.根据权利要求7所述的方法，其特征在于，
所述图结构包括计算图中的算子的结构和算子的参数，所述数据信息包括与每个算子对应的数据信息。


9.根据权利要求8所述的方法，其特征在于，所述算子的参数包括算子类型、算子标识和算子参数属性。


10.根据权利要求8所述的方法，其特征在于，与每个算子对应的数据信息包括：每个算子对应的输入数据、输出数据、权值、偏重中的一项或多项，或者，根据每个算子对应的输入数据、输出数据、权值、偏置中的一项或多项生成的哈希码。


11.一种神经网络的编译装置，其特征在于，所述装置包括：
第一哈希模块，用于根据所述神经网络的计算图得到所述神经网络对应的哈希码；

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31