基于卷积神经网络模型的图像处理方法和装置制造方法及图纸

技术编号:22364661 阅读:54 留言:0更新日期:2019-10-23 04:52
本申请提供了一种基于卷积神经网络模型的图像处理方法和装置。该方法包括:获取神经网络层对应的第一权重参数集,第一权重参数集中包括N1个第一权重参数,其中,N1为大于或等于1的整数;分别计算N1个第一权重参数与第一数值m的比值,得到N1个第二权重参数,其中|Wmax|≤m≤2|Wmax|,Wmax为第一权重参数集中绝对值最大的权重参数;将N1个第二权重参数分别量化成至少两个2的Q次方的和,得到N1个第三权重参数,其中,Q≤0,且Q为整数;获取待处理图像;根据N1个第三权重参数对待处理图像进行处理,以得到输出图像。本申请能够降低权重量化带来的误差,从而减小精度损失。

Image processing method and device based on convolutional neural network model

【技术实现步骤摘要】
基于卷积神经网络模型的图像处理方法和装置
本申请涉及图像处理领域,更具体地,特别涉及一种基于卷积神经网络模型的图像处理方法和装置。
技术介绍
近年来,神经网络特别是卷积神经网络在图像处理、图像识别类应用上取得了巨大的成功。一个典型的卷积神经网络一般多个卷积层、全连接层等组成,从计算角度讲,乘法是主要的瓶颈。从所需的存储空间来看,模型参数存储和传输也需要消耗大量能量。很多研究者都在研究压缩和加速神经网络的方法,即可以使得模型存储空间减小的同时,计算量(即乘法次数)也能大幅减少。其中量化是一种常用的模型压缩和加速方法,特别是将参数量化成2的幂次表示,从而将乘法转化为移位操作。乘法转化为移位操作大大降低了计算的复杂度,能够实现加速的效果。但是在实际应用中,例如,对于图像超分辨率的卷积神经网络,需要考虑在得到较大压缩和加速增益的同时,避免因量化而造成过大的误差,进而影响性能,如影响峰值信噪比(peaksignalnoiseratio,PSNR)。
技术实现思路
本申请提供一种基于卷积神经网络模型的图像处理方法和装置,能够减小量化造成的误差,降低精度损失。第一方面,提供了一种基于卷积神经网络模型的本文档来自技高网...

【技术保护点】
1.一种基于卷积神经网络模型的图像处理方法,其特征在于,所述卷积神经网络模型的一个神经网络层包括至少一个卷积层和/或至少一个全连接层,所述方法包括:获取所述神经网络层对应的第一权重参数集,所述第一权重参数集包括N1个第一权重参数,其中,N1为正整数;分别计算所述N1个第一权重参数与第一数值m的比值,以得到N1个第二权重参数,其中|Wmax|≤m≤2|Wmax|,Wmax为所述第一权重参数集中绝对值最大的权重参数;将所述N1个第二权重参数分别量化成至少两个2的Q次方的和,以得到N1个第三权重参数,其中,Q≤0,且Q为整数;获取待处理图像;根据所述N1个第三权重参数对所述待处理图像进行处理,以得到...

【技术特征摘要】
1.一种基于卷积神经网络模型的图像处理方法,其特征在于,所述卷积神经网络模型的一个神经网络层包括至少一个卷积层和/或至少一个全连接层,所述方法包括:获取所述神经网络层对应的第一权重参数集,所述第一权重参数集包括N1个第一权重参数,其中,N1为正整数;分别计算所述N1个第一权重参数与第一数值m的比值,以得到N1个第二权重参数,其中|Wmax|≤m≤2|Wmax|,Wmax为所述第一权重参数集中绝对值最大的权重参数;将所述N1个第二权重参数分别量化成至少两个2的Q次方的和,以得到N1个第三权重参数,其中,Q≤0,且Q为整数;获取待处理图像;根据所述N1个第三权重参数对所述待处理图像进行处理,以得到输出图像。2.根据权利要求1所述的方法,其特征在于,所述第一权重参数集还包括N2个第四权重参数,其中,N2为大于或等于1的整数;在所述将所述N1个第二权重参数分别量化成至少两个2的Q次方的和,得到N1个第三权重参数之后,包括:根据所述量化的量化结果,训练所述N2个第四权重参数,以得到N2个第五权重参数;分别计算所述N2个第五权重参数与所述第一数值的比值,得到N2个第六权重参数;将所述N2个第六权重参数分别量化成至少两个2的P次方的和,以得到N2个第七权重参数,其中,P≤0,且P为整数;所述根据所述N1个第三权重参数对所述待处理图像进行处理,以得到输出图像,包括:根据所述N1个第三权重参数和所述N2个第七权重参数,对所述待处理图像进行处理,以得到输出图像。3.根据权利要求2所述的方法,其特征在于,|W1min|≥|W2max|,其中,W1min为所述N1个第一权重参数中绝对值最小的权重参数,W2max为所述N2个第四权重参数中绝对值最大的权重参数。4.根据权利要求1至3中任一项所述的方法,其特征在于,所述第一数值为所述Wmax的绝对值与第二数值c的乘积,所述第二数值c是根据所述N1个第一权重参数和所述N1个第三权重参数之间的误差确定的。5.根据权利要求1至4中任一项所述的方法,其特征在于,在所述将所述N1个第二权重参数分别量化成至少两个2的Q次方的和,以得到N1个第三权重参数之后,所述方法还包括确定权重索引值列表,所述权重索引值列表用于表征所述N1个第三权重参数分别对应的N1个二进制数,以及每个所述第三权重参数的符号位。6.根据权利要求5所述的方法,其特征在于,根据所述N1个第三权重参数对所述待处理图像进行处理,以得到输出图像,包括:根据所述权重索引值列表中的所述N1个二进制数,对所述待处理图像进行移位和加法操作,并将所述待处理图像与所述第一数值m相乘,得到输出图像。7.一种基于卷积神经网络模型的图像处理装置,其特征在于,所述卷...

【专利技术属性】
技术研发人员:胡慧
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1