一种基于轻量化网络的大型机械设备识别方法技术

本发明专利技术公开一种基于轻量化网络的大型机械设备识别方法，包括：获取待识别大型机械设备的图像，对图像进行预处理后，输入预先训练的轻量化图像识别模型，得到大型机械设备的类别和图像位置；轻量化图像识别模型基于多种大型机械设备的图像样本训练得到；训练过程中，对于随机初始化权重矩阵的DNN神经网络利用交替方向乘子法ADMM进行迭代训练，得到低张量秩的DNN网络，然后对权重张量序列进行张量分解，使用随机梯度下降方法调整DNN网络的权重值；再对权重值和激活值做二值化处理，得到训练完成的轻量化图像识别模型。本发明专利技术的方法具有更高的图像分类识别准确性和鲁棒性，运算复杂程度低，可解决边缘设备内存资源受限的问题。可解决边缘设备内存资源受限的问题。可解决边缘设备内存资源受限的问题。

【技术实现步骤摘要】
一种基于轻量化网络的大型机械设备识别方法


[0001]本专利技术涉及图像处理
，特别是一种基于轻量化网络的大型机械设备识别方法。

技术介绍

[0002]随着深度神经网络(DNN)技术的不断发展，在图像分类、目标检测等许多计算机视觉任务中的应用都达到了极高的水平。然而，大型DNN模型对计算成本和内存要求的提高，也给像移动设备这样资源受限的情况带来了负担。应用了大型DNN模型的边缘设备，计算成本高，内存空间需求大，致使边缘设备体积较大，不便于移动，造价成本较高。
[0003]最近的研究表明DNN模型甚至可以量化到1位模型，模型的内存需求减少了32倍。由于轻量级的特性，BNN是边缘设备上DNN计算的一个非常有效的解决方案。然而，激进的量化(32位到1位)，导致BNN网络的精度下降，而且，对激活进行量化时，直到2位量化为止精度损失很小，当将激活量化到1位精度时，会出现显著的精度下降。
[0004]因此，目前能够适用于边缘设备的大型机械设备识别方法仍无法兼顾计算效率、成本以及可靠性。

技术实现思路

>[0005]本专利本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于轻量化网络的大型机械设备识别方法，其特征是，包括：获取将待识别大型机械设备的图像，对图像进行预处理；将预处理后的待识别图像输入预先训练的轻量化图像识别模型；根据所述轻量化图像识别模型的输出得到大型机械设备图像的识别结果，所述识别结果包括大型机械设备的类别和图像位置；其中，所述轻量化图像识别模型的训练方法包括：收集图像样本，所述图像样本中包括含多种大型机械设备的图像；对所述图像样本进行标注，基于图像样本及其标注信息得到训练数据集；将训练数据集中的数据输入预构建的DNN神经网络，利用交替方向乘子法ADMM对DNN神经网络进行迭代训练，得到低张量秩的DNN网络；对所述低张量秩的DNN网络的权重张量序列进行张量分解，基于张量分解结果使用随机梯度下降方法调整DNN网络的权重值；对调整后的DNN网络的权重值和激活值做二值化处理，得到训练完成的所述轻量化图像识别模型。2.根据权利要求1所述的方法，其特征是，所述利用交替方向乘子法ADMM对DNN神经网络进行迭代训练的目标函数为：s.t.W∈S其中，l为DNN网络的损失函数，权重张量序列S＝{W|rank(W)≤r
*
}，r＝[r0,
…
,r
d
]为权重张量序列的秩(TT
‑
ranks),r
*
＝[r
0*
,
…
,r
d*
]表示期望的秩。3.根据权利要求2述的方法，其特征是，所述利用交替方向乘子法ADMM对DNN神经网络进行迭代训练的程包括：S11，定义一个S的指示函数：S12，根据所述S的指示函数，ADMM训练的目标函数表示为对以下凸优化问题的求解：s.t.W＝Z其中，Z为辅助变量；S13，确定S12中所述凸优化问题的标度对偶形式...

【专利技术属性】
技术研发人员：姚楠，王真，刘子全，朱雪琼，秦剑华，薛海，高超，吴奇伟，路永玲，
申请(专利权)人：国网江苏省电力有限公司江苏省电力试验研究院有限公司，
类型：发明
国别省市：