基于神经网络的指令推送方法、系统、设备及存储介质技术方案

本发明专利技术实施例公开了一种基于神经网络的指令推送方法、系统、设备及存储介质。该指令推送方法包括：解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；解析所述结构数据得到驱动层可识别的指令数据；发送所述参数数据和指令数据至所述驱动层根据所述指令数据和参数数据进行初始化；发送所述输入计算图至所述驱动层并通知所述驱动层，以使驱动层根据指令数据驱动硬件层计算所述输入计算图和参数数据以得到输出计算图。本发明专利技术实施例实现了提高神经网络的指令执行效率。

Instruction push method, system, equipment and storage medium based on Neural Network

【技术实现步骤摘要】
基于神经网络的指令推送方法、系统、设备及存储介质
本专利技术实施例涉及神经网络技术，尤其涉及一种基于神经网络的指令推送方法、系统、设备及存储介质。
技术介绍
随着深度学习技术的逐渐成熟，基于神经网络的行业落地应用越来越多，包括安全防卫、工业监控、自动驾驶等。神经网络由多个重复性计算层(也称为算子)组成，其计算方式具有高并行度、高计算量的特点。神经网络中，采用指令集的方式实现硬件层和软件层的交互，十分灵活。但是硬件层和软件层的指令集交互是串行执行的，即硬件层接收到一条来自软件层的指令后才执行，无法确定下一条指令，在神经网络执行计算时，其计算是循环的，指令是静态的，而指令集交互方式仍然会使用动态指令的方式去兼容，导致硬件效率无法最大化，过多的软件层和硬件层的指令交互次数造成时间和资源的浪费，指令的执行效率大大降低。
技术实现思路
本专利技术实施例提供一种基于神经网络的指令推送方法、系统、设备及存储介质，以实现提高神经网络的指令执行效率。本专利技术实施例提供了一种基于神经网络的指令推送方法，该方法包括：...

【技术保护点】
1.一种基于神经网络的指令推送方法，其特征在于，包括：/n解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；/n解析所述结构数据得到驱动层可识别的指令数据；/n发送所述参数数据和所述指令数据至所述驱动层，使所述驱动层根据所述指令数据和所述参数数据进行初始化；/n发送所述输入计算图至所述驱动层并通知所述驱动层根据所述指令数据驱动硬件层计算所述输入计算图和所述参数数据以得到输出计算图。/n

【技术特征摘要】
1.一种基于神经网络的指令推送方法，其特征在于，包括：
解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；
解析所述结构数据得到驱动层可识别的指令数据；
发送所述参数数据和所述指令数据至所述驱动层，使所述驱动层根据所述指令数据和所述参数数据进行初始化；
发送所述输入计算图至所述驱动层并通知所述驱动层根据所述指令数据驱动硬件层计算所述输入计算图和所述参数数据以得到输出计算图。


2.根据权利要求1所述的指令推送方法，其特征在于，在所述解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图之前，还包括：
接收用户的编写和训练指令生成所述预设神经网络模型。


3.根据权利要求1所述的指令推送方法，其特征在于，在所述发送所述输入计算图至所述驱动层并通知所述驱动层根据所述指令数据驱动硬件层计算所述输入计算图和所述参数数据以得到输出计算图之后，包括：
读取所述输出计算图，判断所述输出计算图是否存在剩余待计算节点；
响应于所述输出计算图不存在所述剩余待计算节点的判断结果，将所述输出计算图转换为计算结果并返回至用户。


4.根据权利要求3所述的指令推送方法，其特征在于，在所述判断所述输出计算图是否存在剩余待计算节点之后，还包括：
响应于所述输出计算图存在所述剩余待计算节点的判断结果，根据所述结构数据计算所述剩余待计算节点，得到剩余计算节点，将所述输出计算图和所述剩余计算节点转换为计算结果并返回至用户。


5.一种基于神经网络的指令推送系统，其特征在于，包括：
模型解析模块，用于解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；...

【专利技术属性】
技术研发人员：李金鹏，黄炯凯，蔡权雄，牛昕宇，
申请(专利权)人：深圳鲲云信息科技有限公司，
类型：发明
国别省市：广东;44