转换方法、装置、计算机设备和存储介质制造方法及图纸

本申请涉及一种模型转换方法、装置、计算机设备及存储介质，该方法能够将初始离线模型转换为目标离线模型。上述的模型转换方法、装置、计算机设备和存储介质，极大的降低了计算机设备的数据输入量，转换过程简单，从而可以降低该计算机设备的数据处理量，进而可以提高处理效率，降低功耗。

Conversion method, device, computer equipment and storage medium

【技术实现步骤摘要】
转换方法、装置、计算机设备和存储介质
本申请涉及计算机
，特别是涉及一种模型转换方法、装置、计算机设备和存储介质。
技术介绍
随着人工智能技术的发展，如今深度学习已无处不在且必不可少，并随之产生了许多可扩展的深度学习系统，例如，TensorFlow、MXNet、Caffe和PyTorch等等，上述深度学习系统可以用于提供各种能够在CPU或GPU等处理器上运行的神经网络模型或其他机器学习模型。当神经网络模型等机器学习模型需在不同的处理器上运行上，往往需要对神经网络模型等机器学习模型进行转换。传统的转换方法是：开发者可以为同一神经网络模型配置有多个不同的转换模型，多个转换模型可以适用于不同的处理器，在实际使用中，计算机设备需同时接收该神经网络模型及其对应的多个转换模型，用户需要根据当前计算机设备的类型从上述的多种模型中选择一个模型，从而使得该神经网络模型能够在当前计算机设备上运行。但上述转换方法的数据输入量及数据处理量均较大，上述超大的数据输入量及数据处理量容易超出计算机设备的存储容量及处理极限，导致计算机设备的处理速度较低甚至无法正常工作。
技术实现思路
基于此，有必要针对上述技术问题，提供一种模型转换方法、装置、计算机设备和存储介质，能够减小计算机设备的数据输入量及数据处理量，提高计算机设备的处理速度。本申请提供了一种模型转换方法，所述方法包括如下步骤：获取初始离线模型及计算机设备的硬件属性信息；根据所述初始离线模型和所述计算机设备的硬件属性信息，判断所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息是否匹配；若所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息不匹配，则根据所述计算机设备的硬件属性信息和预设的模型转换规则，将所述初始离线模型转换为与所述计算机设备的硬件属性信息匹配的目标离线模型。在一个实施例中，所述的根据所述计算机设备的硬件属性信息和预设的模型转换规则，将所述初始离线模型转换为与所述计算机设备的硬件属性信息匹配的目标离线模型的步骤，包括：根据所述计算机设备的硬件属性信息确定所述目标离线模型的模型属性信息；根据所述初始离线模型的模型属性信息和所述目标离线模型的模型属性信息，从多个所述的预设的模型转换规则中选择一个所述模型转换规则作为目标模型转换规则；根据所述初始离线模型的模型属性信息和所述目标模型转换规则，将所述初始离线模型转换为所述目标离线模型。在一个实施例中，所述的根据所述初始离线模型的模型属性信息和所述目标离线模型的模型属性信息，从多个所述预设的模型转换规则中选择一个所述模型转换规则作为目标模型转换规则的步骤，还包括：根据所述初始离线模型的模型属性信息和所述目标离线模型的模型属性信息，从多个所述预设的模型转换规则中选择出一个以上的可用模型转换规则；对所述一个以上的可用模型转换规则进行优先级排序，并将优先级最高的可用模型转换规则作为所述目标转换规则。在一个实施例中，所述的对一个以上的可用模型转换规则进行优先级排序的步骤，还包括如下步骤：分别获取采用各个所述可用模型转换规则，将所述初始离线模型转换为所述目标离线模型的过程参数，其中，所述过程参数包括转换速度、功耗、内存占用率及磁盘I/O占用率中的一种或多种；根据各个所述可用模型转换规则的过程参数，对一个以上的可用模型转换规则进行优先级排序。在一个实施例中，所述初始离线模型的模型属性信息、所述目标离线模型的模型属性信息及所述可用模型转换规则一一对应存储。在一个实施例中，所述的根据所述初始离线模型和所述计算机设备的硬件属性信息，判断所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息是否匹配的步骤包括：若根据所述初始离线模型的模型属性信息和所述计算机设备的硬件属性信息，确定所述计算机设备能够支持所述初始离线模型的运行时，则判定所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息匹配；若根据所述初始离线模型的模型属性信息和所述计算机设备的硬件属性信息，确定所述计算机设备不支持所述初始离线模型的运行时，则判定所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息不匹配。在一个实施例中，所述的获取初始离线模型的步骤，还包括：通过所述计算机设备上的应用软件获取所述初始离线模型和所述计算机设备的硬件属性信息。在一个实施例中，所述方法还包括如下步骤：将所述目标离线模型存储于所述计算机设备的第一存储器或第二存储器。在一个实施例中，所述方法还包括如下步骤：获取所述目标离线模型，并运行所述目标离线模型；其中，所述目标离线模型中包含原始网络中各个离线节点对应的网络权值、指令以及各个离线节点与所述原始网络中的其他计算节点之间的接口数据。本申请提供了一种模型转换装置，所述装置包括：获取模块，用于获取初始离线模型及计算机设备的硬件属性信息；判断模块，用于根据所述初始离线模型和所述计算机设备的硬件属性信息，判断所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息是否匹配；转换模块，用于在所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息不匹配，则根据所述计算机设备的硬件属性信息和预设的模型转换规则，将所述初始离线模型转换为与所述计算机设备的硬件属性信息匹配的目标离线模型。本申请提供了一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。在一个实施例中，所述处理器包括运算单元和控制器单元，所述运算单元包括主处理电路和多个从处理电路；所述控制器单元用于获取数据、机器学习模型以及计算指令；所述控制器单元还用于解析所述计算指令得到多个运算指令，并将所述多个运算指令以及所述数据发送给所述主处理电路；所述主处理电路用于对所述数据以及与所述多个从处理电路之间传输数据和运算指令执行前序处理；所述多个从处理电路用于依据从所述主处理电路传输的数据以及运算指令并行执行中间运算得到多个中间结果，并将多个中间结果传输给所述主处理电路；所述主处理电路还用于对所述多个中间结果执行后续处理得到所述计算指令的计算结果。一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。上述的模型转换方法、装置、计算机设备和存储介质，计算机设备只需接收一个初始离线模型，即可根据预设的模型转换规则和该计算机设备的硬件属性信息，将该初始离线模型转换为目标离线模型，无需获得多个不同的模型数据，极大的降低了计算机设备的数据输入量，避免了数据输入量过大导致的超出计算机设备的存储容量等问题，保证计算机设备的正常运行。同时，上述模型转换方法可以降低该计算机设备的数据处理量，进而可以提高计算机设备的处理速度及处理效率，降低功耗。同时，上述的模型转换过程中，模型转换过程简单，无本文档来自技高网...

【技术保护点】
1.一种模型转换方法，其特征在于，所述方法包括如下步骤：/n获取原始神经网络对应的初始离线模型；/n若所述计算机设备不能够支持所述初始离线模型的运行时，则将所述初始离线模型转换所述计算机设备能够运行的目标离线模型；/n其中，所述初始离线模型和所述目标离线模型均包含所述原始神经网络中各个计算节点经编译后获得指令。/n

【技术特征摘要】
1.一种模型转换方法，其特征在于，所述方法包括如下步骤：
获取原始神经网络对应的初始离线模型；
若所述计算机设备不能够支持所述初始离线模型的运行时，则将所述初始离线模型转换所述计算机设备能够运行的目标离线模型；
其中，所述初始离线模型和所述目标离线模型均包含所述原始神经网络中各个计算节点经编译后获得指令。


2.根据权利要求1所述的方法，其特征在于，若所述计算机设备不能够支持所述初始离线模型的运行时，则将所述初始离线模型转换所述计算机设备能够运行的目标离线模型，包括：
若所述计算机设备不能够支持所述初始离线模型的运行时，则根据获取的计算机设备的硬件属性信息和预设的模型转换规则，将所述初始离线模型转换所述目标离线模型；
其中，所述初始离线模型的模型属性信息与所述计算机设备的硬件属性信息不匹配，所述目标离线模型的模型属性信息与所述计算机设备的硬件属性信息匹配。


3.根据权利要求2所述的方法，其特征在于，根据获取的计算机设备的硬件属性信息和预设的模型转换规则，将所述初始离线模型转换所述计算机设备能够运行的目标离线模型，包括：
根据所述计算机设备的硬件属性信息确定所述目标离线模型的模型属性信息；
根据所述初始离线模型的模型属性信息、所述目标离线模型的模型属性信息和预设的模型转换规则，将所述初始离线模型转换为所述目标离线模型；
其中，所述模型转换规则与所述初始离线模型的模型属性信息及所述目标离线模型的模型属性信息对应存储。


4.根据权利要求3所述的方法，其特征在于，所述的根据所述初始离线模型的模型属性信息、所述目标离线模型的模型属性信息和预设的模型转换规则，将所述初始离线模型转换为与所述计算机设备的硬件属性信息匹配的目标离线模型的步骤，包括：
根据所述初始离线模型的模型属性信息和所述目标离线模型的模型属性信息，从所述一个以上的预设的模型转换规则中选择一个所述模型转换规则作为目标模型转换规则；
根据所述初始离线模型的模型属性信息和所述目标模型转换规则，将所述初始离线模型转换为所述目标离线模型。


5.根据权利要求4所述的方法，其特征在于，所述的根据所述初始离线模型的模型属性信息和所述目标离线模型的模型属性信息，从多个所述预设的模型转换规则中选择一个所述模型转换规则作为目标模型转换规则的步骤，还包括：
根据所述初始离线模型的模型属性信息和所述目标离线模型的模型属性信息，从所述一个以上的预设的模型转换规则中选择出一个以上的可用模型转换规则；
对所述一个以上的可用模型转换规则进行优先级排序，并将优先级最高的可用模型转换规则作为目标转换规则。


6.根据权利要求5所述的方法，其特征在于，所述的对一个以上的可用模型转换规则进行优先级排序的步骤，还包括如下步骤：
分别获取采用各个所...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：中科寒武纪科技股份有限公司，
类型：发明
国别省市：北京;11