【技术实现步骤摘要】
本专利技术涉及神经网络模型的领域，尤其涉及基于特征图相关分析的神经网络通道剪枝方法和系统。
技术介绍
1、神经网络模型具有计算和内存资源消耗大的特点，为了提高神经网络模型在嵌入式设备的运行效率和稳定性，需要对神经网络模型进行压缩和优化。现有对于神经网络模型的剪枝操作已经广泛应用于神经网络模型的压缩优化中，能够有效减少神经网络模型在实际运行过程中庞大的参数量和繁重的计算量。当前针对神经网络模型的剪枝算法的判断准则都是基于范数的变体，针对不同的神经网络模型的剪枝结果，存在较大的偏差，使得神经网络模型经过剪枝后其准确性会发生不同程度的损失，无法在提高神经网络压缩效率的同时保证神经网络模型的准确度。
技术实现思路
1、本专利技术的目的在于提供基于特征图相关分析的神经网络通道剪枝方法和系统，其通过分析待剪枝神经网络模型的模型运行日志，得到神经网络通道属性信息，以此获取所有神经网络通道各自的通道工作数据，为后续构建神经网络通道的特征图提供充分可靠的数据依据；利用不同神经网络通道之间的通道特征图，识别其中的冗余神经网络通道，对神经网络通道在模型中的状态进行准确全面识别，为后续对神经网络模型进行压缩优化提供有效精确的指引；还基于冗余神经网络通道在模型的连接位置信息，进行冗余神经网络通道移除处理，提高移除处理执行效率和准确性；再对剩余神经网络通道进行重连接整合处理，得到完成剪枝神经网络模型，实现对神经网络模型的高效压缩和精确度维持。
2、本专利技术是通过以下技术方案实现：
3
4、获取待剪枝神经网络模型的模型运行日志，对所述模型运行日志进行分析，得到所述待剪枝神经网络模型的神经网络通道属性信息；基于所述神经网络通道属性信息，获取所述待剪枝神经网络模型包含的所有神经网络通道各自的通道工作数据，并对所述通道工作数据进行标识处理；
5、对所述通道工作数据进行分析，得到所有神经网络通道相互之间的通道特征图；再对所述通道特征图进行分析，判断所述神经网络通道是否属于所述待剪枝神经网络模型的冗余神经网络通道，并对所有冗余神经网络通道进行定位处理，得到每个冗余神经网络通道在所述待剪枝神经网络模型的连接位置信息；
6、基于所述连接位置信息，对所述待剪枝神经网络模型进行冗余神经网络通道移除处理；再对完成移除处理的待剪枝神经网络模型进行剩余神经网络通道的重连接整合处理，从而得到完成剪枝神经网络模型。
7、可选地，获取待剪枝神经网络模型的模型运行日志，对所述模型运行日志进行分析，得到所述待剪枝神经网络模型的神经网络通道属性信息；基于所述神经网络通道属性信息，获取所述待剪枝神经网络模型包含的所有神经网络通道各自的通道工作数据，并对所述通道工作数据进行标识处理，包括：
8、获取待剪枝神经网络模型对不同类型数据进行分析过程中的模型运行日志，从所述模型运行日志中提取在所述待剪枝神经网络模型中通道数据传输速度小于或等于预设数据传输速度阈值的所有神经网络通道的通道位置信息，以此作为所述神经网络通道属性信息；
9、基于所述通道位置信息，对所有神经网络通道各自在预设时间段内的通道工作数据进行采集处理，并对采集得到的通道工作数据进行关于其对应的神经网络通道的通道位置信息标识处理。
10、可选地，对所述通道工作数据进行分析，得到所有神经网络通道相互之间的通道特征图；再对所述通道特征图进行分析，判断所述神经网络通道是否属于所述待剪枝神经网络模型的冗余神经网络通道，并对所有冗余神经网络通道进行定位处理，得到每个冗余神经网络通道在所述待剪枝神经网络模型的连接位置信息，包括：
11、对所述通道工作数据进行信息熵量化分析处理，得到相应神经网络通道的信息熵；再基于所有神经网络通道的信息熵，得到所有神经网络通道中任意两个神经网络通道之间的通道特征图；对所述通道特征图进行分析，得到所述通道特征图对应的两个神经网络通道各自与所述待剪枝神经网络模型的同一卷积层的关联度；再基于所述关联度，判断所述通道特征图对应的两个神经网络通道各自是否处于独立工作状态；若否，则将其中一个神经网络通道确定为属于冗余神经网络通道，并对所有冗余神经网络通道进行关于通道位置信息的标识处理，从而得到每个冗余神经网络通道在所述待剪枝神经网络模型的卷积层的连接位置信息。
12、可选地，基于所述连接位置信息，对所述待剪枝神经网络模型进行冗余神经网络通道移除处理；再对完成移除处理的待剪枝神经网络模型进行剩余神经网络通道的重连接整合处理，从而得到完成剪枝神经网络模型，包括：
13、基于所述连接位置信息，将所述待剪枝神经网络模型的所有冗余神经网络通道进行移除处理；基于对于完成移除处理的待剪枝神经网络模型中所有剩余神经网络通道与待剪枝神经网络模型的卷积层的连接点位置信息，对所有剩余神经网络通道与所述卷积层进行重连接整合处理，从而得到完成剪枝神经网络模型。
14、基于特征图相关分析的神经网络通道剪枝系统，包括：
15、神经网络通道识别模块，用于获取待剪枝神经网络模型的模型运行日志，对所述模型运行日志进行分析，得到所述待剪枝神经网络模型的神经网络通道属性信息；
16、通道工作数据获取与标识模块，用于基于所述神经网络通道属性信息，获取所述待剪枝神经网络模型包含的所有神经网络通道各自的通道工作数据，并对所述通道工作数据进行标识处理；
17、通道特征图确定模块，用于对所述通道工作数据进行分析，得到所有神经网络通道相互之间的通道特征图；
18、冗余神经网络通道识别与定位模块，用于对所述通道特征图进行分析，判断所述神经网络通道是否属于所述待剪枝神经网络模型的冗余神经网络通道，并对所有冗余神经网络通道进行定位处理，得到每个冗余神经网络通道在所述待剪枝神经网络模型的连接位置信息；
19、冗余神经网络通道移除模块，用于基于所述连接位置信息，对所述待剪枝神经网络模型进行冗余神经网络通道移除处理；
20、神经网络通道整合模块，用于对完成移除处理的待剪枝神经网络模型进行剩余神经网络通道的重连接整合处理，从而得到完成剪枝神经网络模型。
21、可选地，所述神经网络通道识别模块用于获取待剪枝神经网络模型的模型运行日志，对所述模型运行日志进行分析，得到所述待剪枝神经网络模型的神经网络通道属性信息，包括：
22、获取待剪枝神经网络模型对不同类型数据进行分析过程中的模型运行日志，从所述模型运行日志中提取在所述待剪枝神经网络模型中通道数据传输速度小于或等于预设数据传输速度阈值的所有神经网络通道的通道位置信息，以此作为所述神经网络通道属性信息；
23、所述通道工作数据获取与标识模块用于基于所述神经网络通道属性信息，获取所述待剪枝神经网络模型包含的所有神经网络通道各自的通道工作数据，并对所述通道工作数据进行标识处理，包括：
24、基于所述通道位置信息，对所有神经网络本文档来自技高网...
【技术保护点】
1.基于特征图相关分析的神经网络通道剪枝方法，其特征在于，包括：
2.如权利要求1所述的基于特征图相关分析的神经网络通道剪枝方法，其特征在于：
3.如权利要求1所述的基于特征图相关分析的神经网络通道剪枝方法，其特征在于：
4.如权利要求1所述的基于特征图相关分析的神经网络通道剪枝方法，其特征在于：
5.基于特征图相关分析的神经网络通道剪枝系统，其特征在于，包括：
6.如权利要求5所述的基于特征图相关分析的神经网络通道剪枝系统，其特征在于：
7.如权利要求5所述的基于特征图相关分析的神经网络通道剪枝系统，其特征在于：
8.如权利要求5所述的基于特征图相关分析的神经网络通道剪枝系统，其特征在于：
【技术特征摘要】
1.基于特征图相关分析的神经网络通道剪枝方法，其特征在于，包括：
2.如权利要求1所述的基于特征图相关分析的神经网络通道剪枝方法，其特征在于：
3.如权利要求1所述的基于特征图相关分析的神经网络通道剪枝方法，其特征在于：
4.如权利要求1所述的基于特征图相关分析的神经网络通道剪枝方法，其特征在于：
...【专利技术属性】
技术研发人员：兰雨晴，余丹，于艺春，贺江，
申请(专利权)人：慧之安信息技术股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。