一种基于国产嵌入式系统的神经网络实现方法技术方案

本发明专利技术公开了一种基于国产嵌入式系统的神经网络实现方法，包括以下步骤：步骤S1、获取待压缩网络模型；步骤S2、参数剪枝；步骤S3、权值量化；步骤S4、模型转换；步骤S5、网络部署。本发明专利技术通过结合神经元权值和梯度的方法进行参数剪枝，并对剪枝后的网络进行权值量化，得到可移植到国产嵌入式系统的神经网络模型，神经网络经过压缩后，其体积、计算需求和功耗都大大降低，并且针对国产嵌入式系统支持的模型类型，进行模型的转换，经过转换后的网络模型可以在国产嵌入式系统上流畅的运行，不需要联网；经过模型转换后可直接部署在国产嵌入式系统中，并且在仅降低一点精度的情况下，大大加速神经网络模型在国产嵌入式系统中的推断和运行。

A neural network implementation method based on the domestic embedded system

【技术实现步骤摘要】
一种基于国产嵌入式系统的神经网络实现方法
本专利技术涉及神经网络模型压缩
，特别涉及一种基于国产嵌入式系统的神经网络实现方法。
技术介绍
传统卷积神经网络的网络参数较多，受制于卷积神经网络模型巨大的存储占用和计算成本，资源有限的嵌入式系统难以直接运行这样高需求的卷积神经网络。目前神经网络的应用大部分都是“本地+云端”的解决方案，这样的方案无疑是耗时的，并且设备需要时刻联网，对网络速率、网络带宽也有一定的要求。
技术实现思路
本专利技术要解决的技术问题在于，针对上述现有技术中存在的缺陷，提供一种基于国产嵌入式系统的神经网络实现方法，通过结合神经元权值和梯度的方法进行参数剪枝，并对剪枝后的网络进行权值量化，得到可移植到国产嵌入式系统的神经网络模型，神经网络经过压缩后，其体积、计算需求和功耗都大大降低，并且针对国产嵌入式系统支持的模型类型，进行模型的转换，经过转换后的网络模型可以在国产嵌入式系统上流畅的运行，不需要联网。为了解决上述技术问题，本专利技术的技术方案是：一种基于国产嵌入式系统的神经网络实现方法，包本文档来自技高网...

【技术保护点】
1.一种基于国产嵌入式系统的神经网络实现方法，其特征在于：包括以下步骤：/n步骤S1、获取待压缩网络模型：针对特定的应用场景，快速搭建科学有效的数据集；利用迁移学习，在短周期内得到定制的待压缩网络模型；/n步骤S2、参数剪枝：对网络中权值为零的、影响因子很小的神经元连接或者梯度小于自适应阈值的神经元连接进行评估和裁剪，消除参数的冗余性以及减少卷积神经网络的复杂度；通过多次迭代剪枝和重训练，保证网络性能不受太大影响；/n步骤S3、权值量化：用比特数来表示全精度权值，将浮点型运算转为整型运算，加速卷积神经网络的推理过程；/n步骤S4、模型转换：将国产嵌入式系统不支持的神经网络模型类型，转换成能在国...

【技术特征摘要】
1.一种基于国产嵌入式系统的神经网络实现方法，其特征在于：包括以下步骤：
步骤S1、获取待压缩网络模型：针对特定的应用场景，快速搭建科学有效的数据集；利用迁移学习，在短周期内得到定制的待压缩网络模型；
步骤S2、参数剪枝：对网络中权值为零的、影响因子很小的神经元连接或者梯度小于自适应阈值的神经元连接进行评估和裁剪，消除参数的冗余性以及减少卷积神经网络的复杂度；通过多次迭代剪枝和重训练，保证网络性能不受太大影响；
步骤S3、权值量化：用比特数来表示全精度权值，将浮点型运算转为整型运算，加速卷积神经网络的推理过程；
步骤S4、模型转换：将国产嵌入式系统不支持的神经网络模型类型，转换成能在国产嵌入式系统中加载运行的模型类型；
步骤S5、网络部署：将转换得到的轻量级卷积神经网络模型部署到具有异构处理器的国产嵌入式系统中，完成实时处理任务。


2.根据权利要求1所述的基于国产嵌入式系统的神经网络...

【专利技术属性】
技术研发人员：江昊，王斌，江威，邓嵩源，
申请(专利权)人：中山德著智能科技有限公司，
类型：发明
国别省市：广东;44