存储方法及装置、运算方法及装置制造方法及图纸

本公开涉及一种存储方法及装置、运算方法及装置，所述装置包括控制器单元，所述控制器单元包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高装置在进行神经网络模型的运算时的运算效率。

【技术实现步骤摘要】
存储方法及装置、运算方法及装置
本公开涉及信息处理
，尤其涉及一种存储方法及装置、运算方法及装置。
技术介绍
随着信息技术的不断发展和人们日益增长的需求，人们对信息及时性的要求越来越高了。目前，终端对信息的获取以及处理均是基于通用处理器获得的。在实践中发现，这种基于通用处理器运行软件程序来处理信息的方式，受限于通用处理器的运行速率及数据的调用速率，特别是在通用处理器负荷较大的情况下，信息处理效率较低、时延较大。因此，急需提出一种新的技术方案以提高信息处理效率、减小时延。
技术实现思路
有鉴于此，本公开提出了一种存储方法，所述方法包括：查询模型库中是否存在待存储的神经网络模型，获得查询结果；根据所述查询结果确定所述神经网络模型的模型引用次数；将所述神经网络模型存储到与所述模型引用次数对应的存储器中，其中，所述存储器包括多种，各种存储器具有不同的存取速度。在一种可能的实施方式中，所述查询模型库中是否存在待存储的神经网络模型，获得查询结果，包括：获取所述神经网络模型的格式化文本本文档来自技高网...

【技术保护点】
1.一种存储方法，其特征在于，所述方法包括：/n查询模型库中是否存在待存储的神经网络模型，获得查询结果；/n根据所述查询结果确定所述神经网络模型的模型引用次数；/n将所述神经网络模型存储到与所述模型引用次数对应的存储器中，其中，所述存储器包括多种，各种存储器具有不同的存取速度。/n

【技术特征摘要】
1.一种存储方法，其特征在于，所述方法包括：
查询模型库中是否存在待存储的神经网络模型，获得查询结果；
根据所述查询结果确定所述神经网络模型的模型引用次数；
将所述神经网络模型存储到与所述模型引用次数对应的存储器中，其中，所述存储器包括多种，各种存储器具有不同的存取速度。


2.根据权利要求1所述的方法，其特征在于，所述查询模型库中是否存在待存储的神经网络模型，获得查询结果，包括：
获取所述神经网络模型的格式化文本，所述格式化文本包括所述神经网络模型被编译前的格式化文本；
确定所述模型库中是否存在相同的格式化文本；
在模型库中不存在相同的格式化文本时，确定所述查询结果为模型库中不存在所述神经网络模型；或
在模型库中存在相同的格式化文本时，确定所述查询结果为模型库中存在所述神经网络模型。


3.根据权利要求1所述的方法，其特征在于，所述查询模型库中是否存在待存储的神经网络模型，获得查询结果，包括：
根据所述神经网络模型的标识信息查询所述模型库中是否存储有所述神经网络模型；
在所述模型库中存在与所述神经网络模型的标识信息相同的标识信息时，确定所述查询结果为所述模型库中存在所述神经网络模型。


4.根据权利要求1所述的方法，其特征在于，所述根据所述查询结果确定所述神经网络模型的模型引用次数，包括：
在所述查询结果为所述模型库中不存在所述神经网络模型时，将所述模型调用次数确定为第一预设值。


5.根据权利要求4所述的方法，其特征在于，所述将所述神经网络模型存储到与所述模型引用次数对应的存储器中，包括：
将所述神经网络模型存储到与第一预设值对应的存储器中，并在所述模型库中记录所述神经网络模型的模型信息，所述模型信息包括格式化文本、存储所述神经网络模型的存储器、所述模型调用次数、所述神经网络模型的标识信息及它们之间的对应关系。


6.根据权利要求1所述的方法，其特征在于，所述根据所述查询结果确定所述神经网络模型的模型引用次数，还包括：
在所述查询结果为所述模型库中存在所述神经网络模型时，从模型库中获取所述神经网络模型对应的模型引用次数。


7.根据权利要求6所述的方法，其特征在于，在确定所述模型引用次数后，所述方法还包括：
对获取的模型调用次数及第二预设值进行求和处理，利用求和结果对所述模型调用次数进行更新。


8.根据权利要求7所述的方法，其特征在于，在利用求和结果对所述模型调用次数进行更新之后，所述方法还包括：
确定更新后的模型调用次数所在的阈值区间；
若更新后的模型调用次数与更新前的模型调用次数不在同一阈值区间，则将对应的神经网络模型从原来的存储器转移到新的存储器进行存储，所述新的存储器为更新后的模型调用次数所在阈值区间对应的存储器。


9.根据权利要求8所述的方法，其特征在于，所述方法还包括：
利用更新后的存储器及更新后的模型调用次数更新模型库中记录的所述神经网络模型的模型信息，其中，所述模型信息中记录有存储所述神经网络模型的存储器及所述神经网络模型的模型调用次数。


10.根据权利要求1-9任一项所述的方法，其特征在于，所述存储器包括硬盘、主存及内存中的至少两种。


11.一种运算方法，其特征在于，所述方法包括：
确定需要运行的神经网络模型；
根据模型库中的模型信息确定存储所述神经网络模型的存储器，其中，所述存储器包括多种，各种存储器具有不同的存取速度，所述模型信息记录有存储所述神经网络模型的存储器信息；
从确定的存储器中获取所述神经网络模型的数据；
将所述神经网络模型的数据发送至硬件系统，以使所述硬件系统运行所述神经网络模型。


12.根据权利要求11所述的方法，其特征在于，所述模型信息中还包括格式化文本与存储所述神经网络模型的存储器的对应关系，所述根据模型库中的模型信息确定存储所述神经网络模型的存储器，包括：
获取所述神经网络模型的格式化文本，所述格式化文本包括所述神经网络模型被编译前的格式化文本；
利用所述格式化文本在所述模型信息中确定存储所述神经网络模型的存储器。


13.根据权利要求11所述的方法，其特征在于，所述模型信息中还包括所述神经网络模型的标识信息与存储所述神经网络模型的存储器的对应关系，所述根据模型库中的模型信息确定存储所述神经网络模型的存储器，包括：
确定所述神经网络模型的标识信息；
利用所述神经网络模型的标识信息在所述模型信息中确定存储所述神经网络模型的存储器。


14.一种存储装置，其特征在于，所述装置包括：
查询模块，用于查询模型库中是否存在待存储的神经网络模型，获得查询结果；
第一确定模块，连接于所述查询模块，用于根据所述查询结果确定所述神经网络模型的模型引用次数；
存储模块，连接于所述第一确定模块，用于将所述神经网络模型存储到与所述模型引用次数对应的存储器中，其中，所述存储器包括多种...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31