一种神经网络模型数据的加载方法及相关装置制造方法及图纸

技术编号:23342788 阅读:16 留言:0更新日期:2020-02-15 03:42
本申请公开了一种神经网络模型数据的加载方法,包括:将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件;根据所述配置文件和OpenCL框架进行加载处理,以便将神经网络加载至对应的硬件中。通过先对神经网络模型文件进行框架信息的提取处理,然后根据通用框架对框架信息进行配置信息转换处理,得到配置文件,最后加载至对应硬件中,实现自动生成配置文件,提高加载效率。本申请还公开了一种神经网络模型数据的加载装置、计算机设备以及计算机可读存储介质,具有以上有益效果。

A loading method of neural network model data and related devices

【技术实现步骤摘要】
一种神经网络模型数据的加载方法及相关装置
本申请涉及计算机
,特别涉及一种神经网络模型数据的加载方法、加载装置、计算机设备以及计算机可读存储介质。
技术介绍
随着信息技术的不断发展,对数据处理的速度要求越来越高。因此,就出现了采用FPGA(FieldProgrammingGateArray现场可编辑门阵列)对数据进行处理,由于FPGA是通过硬件电路进行计算,可以加快数据处理的速度。尤其,在机器学习
中,由于机器学习的过程需要巨大的计算量以及较高的数据计算效率,目前常常使用FPGA对机器学习的过程进行加速,以便提高机器学习的效率。其中,必不可少的步骤就是对FPGA进行开发,将机器学习模型文件编译加载至FPGA中。现有技术中,传统的FPGA开发,需要开发人员具备一定的硬件编程语言的基础,如Verilog(硬件描述语言),VHDL(Very-High-SpeedIntegratedCircuitHardwareDescriptionLanguage超高速集成电路硬件描述语言)等,并且往往存在编程难度较大,开发周期长,代码编写效率低等问题,尤其对于大型硬件网络开发,会导致FPGA应用的效率直线下降,不利于快速开发。在另一个现有技术中,采用OpenCL开放式编程语言进行FPGA的开发。由于OpenCL是以C和C++编写,降低了FPGA的开发难度,并且可以运行在包括FPGA在内的任何类型的硬件微处理器中。有效的降低了编程难度,提高了开发效率。但是,在现有技术中当将模型文件加载至FPGA中时,还需要技术人员编写配置文件以便将模型文件加载至FPGA中。当将FPGA应用在神经网络的边缘计算中时,需要开发大量的FPGA芯片用以实现边缘计算。但是,人工编写配置文件的过程仍然会拖慢FPGA芯片的开发效率,降低应用的速度,无法保证快速实现边缘计算。因此,如何提高将神经网络加载至FPGA此类硬件中的效率是本领域技术人员关注的重点问题。
技术实现思路
本申请的目的是提供一种神经网络模型数据的加载方法、加载装置、计算机设备以及计算机可读存储介质,通过先对神经网络模型文件进行框架信息的提取处理,然后根据通用框架对框架信息进行配置信息转换处理,得到配置文件,最后加载至对应硬件中,实现自动生成配置文件,提高加载效率。为解决上述技术问题,本申请提供一种神经网络模型数据的加载方法,包括:将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件;根据所述配置文件和OpenCL框架进行加载处理,以便将神经网络加载至对应的硬件中。可选的,将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息,包括:通过预设路径获取到所述神经网络模型文件;对所述神经网络模型文件进行网络框架信息提取处理,得到框架数据;将所述框架数据存入预设格式的结构体中,得到所述框架信息。可选的,根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件,包括:根据所述框架信息对所述通用框架进行适配处理,得到适配信息;将所述框架信息和所述适配信息进行编译格式转换处理,得到所述配置文件。可选的,所述配置文件包括:卷积网络总体信息、基本结构信息、卷积网络细节信息以及周期数信息。本申请还提供一种神经网络模型数据的加载装置,包括:模型文件解析模块,用于将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;框架信息转换模块,用于根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件;配置文件加载模块,用于根据所述配置文件和OpenCL框架进行加载处理,以便将神经网络加载至对应的硬件中。可选的,所述模型文件解析模块,包括:模型文件获取单元,用于通过预设路径获取到所述神经网络模型文件;框架数据提取单元,用于对所述神经网络模型文件进行网络框架信息提取处理,得到框架数据;框架信息获取单元,用于将所述框架数据存入预设格式的结构体中,得到所述框架信息。可选的,所述框架信息转换模块,包括:适配信息获取单元,用于根据所述框架信息对所述通用框架进行适配处理,得到适配信息;编译格式转换单元,用于将所述框架信息和所述适配信息进行编译格式转换处理,得到所述配置文件。可选的,所述配置文件包括:卷积网络总体信息、基本结构信息、卷积网络细节信息以及周期数信息。本申请还提供一种计算机设备,包括:存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现如上所述的加载方法的步骤。本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的加载方法的步骤。本申请所提供的一种神经网络模型数据的加载方法,包括:将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件;根据所述配置文件和OpenCL框架进行加载处理,以便将神经网络加载至对应的硬件中。通过先从神经网络模型文件中提取出用于描述神经网络整体结构的框架信息,然后再根据通用框架对框架信息针对性的生成对应的配置文件,而不是通过技术人员人工生成对应的配置文件,最后根据该配置文件和OpenCL框架进行加载处理,也就是将神经网络加载至对应的硬件中,以便开发出对应的神经网络硬件,由于避免采用人工的方式获取到配置文件,使用自动生成的方式,提高了配置文件的获取效率,同时也提高了将神经网络加载至FPGA此类硬件中的效率。本申请还提供一种神经网络模型数据的加载装置、计算机设备以及计算机可读存储介质,具有以上有益效果,在此不作赘述。附图说明为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。图1为本申请实施例所提供的一种神经网络模型数据的加载方法的流程图;图2为本申请实施例所提供的一种神经网络模型数据的加载装置的结构示意图。具体实施方式本申请的核心是提供一种神经网络模型数据的加载方法、加载装置、计算机设备以及计算机可读存储介质,通过先对神经网络模型文件进行框架信息的提取处理,然后根据通用框架对框架信息进行配置信息转换处理,得到配置文件,最后加载至对应硬件中,实现自动生成配置文件,提高加载效率。为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申本文档来自技高网
...

【技术保护点】
1.一种神经网络模型数据的加载方法,其特征在于,包括:/n将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;/n根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件;/n根据所述配置文件和OpenCL框架进行加载处理,以便将神经网络加载至对应的硬件中。/n

【技术特征摘要】
1.一种神经网络模型数据的加载方法,其特征在于,包括:
将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;
根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件;
根据所述配置文件和OpenCL框架进行加载处理,以便将神经网络加载至对应的硬件中。


2.根据权利要求1所述的加载方法,其特征在于,将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息,包括:
通过预设路径获取到所述神经网络模型文件;
对所述神经网络模型文件进行网络框架信息提取处理,得到框架数据;
将所述框架数据存入预设格式的结构体中,得到所述框架信息。


3.根据权利要求1所述的加载方法,其特征在于,根据通用框架对所述框架信息进行配置信息转换处理,得到配置文件,包括:
根据所述框架信息对所述通用框架进行适配处理,得到适配信息;
将所述框架信息和所述适配信息进行编译格式转换处理,得到所述配置文件。


4.根据权利要求1所述的加载方法,其特征在于,所述配置文件包括:卷积网络总体信息、基本结构信息、卷积网络细节信息以及周期数信息。


5.一种神经网络模型数据的加载装置,其特征在于,包括:
模型文件解析模块,用于将接收到的神经网络模型文件进行网络框架信息提取处理,得到框架信息;
框架信息转换模块,用于根据通用框架对所述框架信息进行配置信息...

【专利技术属性】
技术研发人员:高峰
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1