一种参数编译方法、装置和计算机可读存储介质制造方法及图纸

本发明专利技术实施例公开了一种参数编译方法、装置和介质，提取各模型文件所包含的网络参数；按照预先设定的参数规格，将各网络参数转换为对应的中间参数；依据各中间参数对应的尺寸信息、权重信息和上下文操作序号，为各中间参数分配对应的内存地址；将各中间参数及其对应的内存地址按照设定的方式存储至预设存储空间。通过对各模型文件的网络参数进行转换，可以将不同框架的模型文件转换成统一的、硬件友好的中间参数，解除了网络参数的各种操作运算与硬件的相关性，很好的解决了支持多种框架带来的软件代码冗余、依赖库冲突等问题。本申请在FPGA预处理阶段把数据写入硬件，就不再需要主机和FPGA的通信，不存在主机与FPGA的通信压力。

【技术实现步骤摘要】
一种参数编译方法、装置和计算机可读存储介质
本专利技术涉及人工智能
，特别是涉及一种参数编译方法、装置和计算机可读存储介质。
技术介绍
随着人工智能在各个领域的发展，如农业、金融、安防、健康医疗、制造等，人们迫切的希望算法能够计算速度更快、精度更高，同时功耗更低，为了满足人们对速度、精度的需求，各大硬件产商研发专门针对人工智能算法计算的加速卡及相应配套的工具，来加速人工智能算法在日常使用的普及。针对种类繁多的深度学习框架，算法开发人员可能会使用多个框架作为开发，而每个框架中的工作负载都以独特的方式表示和执行，因此，即使是一个简单的卷积(Convolution)操作，也可能需要以不同的方式定义。而支持多个框架需要硬件底层软件为每个不同操作作适配，会导致软件设计的臃肿，影响算法执行的效率。可见，如何降低多种框架带来的软件代码冗余，是本领域技术人员需要解决的问题。
技术实现思路
本专利技术实施例的目的是提供一种参数编译方法、装置和计算机可读存储介质，可以降低多种框架带来的软件代码冗余。r>为解决上述技术问本文档来自技高网...

【技术保护点】
1.一种参数编译方法，其特征在于，包括：/n提取各模型文件所包含的网络参数；/n按照预先设定的参数规格，将各所述网络参数转换为对应的中间参数；其中，所述参数规格包括尺寸信息、权重信息和上下文操作序号；/n依据各所述中间参数对应的尺寸信息、权重信息和上下文操作序号，为各所述中间参数分配对应的内存地址；/n将各所述中间参数及其对应的内存地址按照设定的方式存储至预设存储空间。/n

【技术特征摘要】
1.一种参数编译方法，其特征在于，包括：
提取各模型文件所包含的网络参数；
按照预先设定的参数规格，将各所述网络参数转换为对应的中间参数；其中，所述参数规格包括尺寸信息、权重信息和上下文操作序号；
依据各所述中间参数对应的尺寸信息、权重信息和上下文操作序号，为各所述中间参数分配对应的内存地址；
将各所述中间参数及其对应的内存地址按照设定的方式存储至预设存储空间。


2.根据权利要求1所述的参数编译方法，其特征在于，所述提取各模型文件所包含的网络参数包括：
根据加载的模型参数，识别各模型文件所对应的框架类型；
依据各框架类型所对应的网络结构，从各所述模型文件中解析出相应的网络参数。


3.根据权利要求1所述的参数编译方法，其特征在于，所述依据各所述中间参数对应的尺寸信息、权重信息和上下文操作序号，为各所述中间参数分配对应的内存地址包括：
按照各所述中间参数对应的上下文操作序号，对各所述中间参数进行排序；
依据各所述中间参数对应的尺寸信息和权重信息，计算出各所述中间参数的输入输出大小和权重大小；
根据各所述中间参数的输入输出大小和权重大小，对排序后的各所述中间参数设置相应的内存地址。


4.根据权利要求1所述的参数编译方法，其特征在于，所述将各所述中间参数及其对应的内存地址按照设定的方式存储至预设存储空间包括：
查询预先建立的二进制指令集，以获取各所述中间参数以及内存地址所对应的二进制指令流；其中，各所述中间参数有其所属的层级；
将各层级对应的二进制指令流依次写入bin文件。


5.根据权利要求4所述的参数编译方法，其特征在于，在所述将各层级对应的二进制指令流依次写入bin文件之后还包括：
当获取到参数调取指令时，从所述bin文件中调用与所述参数调取指令携带的层级标识相匹配的二进制...

【专利技术属性】
技术研发人员：曹其春，董刚，尹文枫，梁玲燕，
申请(专利权)人：浪潮电子信息产业股份有限公司，
类型：发明
国别省市：山东;37