基于稀疏自编码器的图像处理方法、系统、介质、设备技术方案

本发明专利技术属于图像处理技术领域，公开了一种基于稀疏自编码器的图像处理方法、系统、介质、设备，所有神经网络的偏差预设为给定的向量或矩阵，并不断更新；在偏差中引入了认知反馈权值矩阵，利用反馈偏差提高稀疏自编码器网络的精确度；基于H1范数的正则化方法来控制稀疏自编码器。本发明专利技术中基于反馈偏差和H1正则化的去噪稀疏自编码器。在该模型中，引入了反馈偏置矩阵，可以更准确地控制网络的偏置。反馈偏差随迭代次数而变化。H1正则化可以减少过拟合，也可以防止更重要的特征被过度平滑。实验结果表明，该方法是有效的，优于现有的DnCNN

【技术实现步骤摘要】
基于稀疏自编码器的图像处理方法、系统、介质、设备


[0001]本专利技术属于图像处理
，尤其涉及一种基于稀疏自编码器的图像处理方法、系统、介质、设备。

技术介绍

[0002]目前，在图像处理中，许多图像难免不受噪声影响，部分图像处理方法随之出现。在图像处理中，图像降噪非常重要。现阶段由于降噪过程中会出现图像模糊和伪影，因此图像降噪仍具有挑战性。降噪算法的开发是一项必要任务。在多数模型中，噪声被假设为高斯噪声或椒盐噪声，设计许多算法为了去除可降低噪声的影响。
[0003]至今，出现了许多传统降噪算法，如：各向异性耗散滤波，非局部均值滤波，BM3D等。然而，这些传统的图像降噪算法大多数需要已知噪声的先验知识，如高斯滤波对高斯噪声有效。近年来，为了处理无先验信息的噪声，基于神经网络的图像盲降噪模型被提出。文献，张等人研究了前馈降噪卷积神经网络的结构，其中包含深层结构，学习算法，正则化。另外，利用残差学习和批处理归一化加快训练过程，提高了去噪能力。此模型能够在噪声水平未知的情况下实现高斯去噪。文献，Jain等人开发了一种实现低级视觉的方法。该方法运用卷积网络实现图像处理体系结构和无监督学习，从特定的噪声模型中合成训练样本。实验结果表明，该模型优于现有的小波和马尔可夫随机场方法。Dong等人研究了一种针对单一图像超分辨率(SR)的深度学习方法，该方法直接学习低/高分辨率图像之间的端到端映射。模型中的所有层都是共同优化的。所提出的深度CNN具有轻量级的结构，并且具有更好的修复质量。而且，对网络进行了扩展，使其能同时处理三种颜色通道，显示出较好的整体重构质量。在文献中，作者评论了多层感知器之间的差异和传统的方法(BM3D、KSVD等)。此外，多层感知器易于适应研究较少的噪声类型(仅通过交换训练数据)，并取得不错的结果。Zhang等人提出了一种分离-聚合策略来克服噪声模式巨大的特征空间给学习噪声到干净的映射函数带来的困难。提出的分离-聚合策略是将带噪图像分解为多频带。为每个波段学习了一个深度映射函数，映射结果最终被融入到干净的图像中。Tian等人提出了一种基于注意力的卷积神经网络(ADNet)，主要包括用于图像去噪的稀疏块(SB)、特征增强块(FEB)、注意力块(AB)和重建块(RB)。在现有技术中提出了一种贝叶斯深度矩阵分解网络(BDMF)。设计了一个深度神经网络对低秩分量进行建模，并利用随机梯度变分贝叶斯对模型进行优化，该模型克服了现有图像恢复模型鲁棒性差、对超参数敏感等缺点。在现有技术中开发了一种新的网络，称为批量再归一化去噪网络(BRDNet)。该模型结合了两种网络，增加了网络的宽度，获得了更多的特征。将批量重归一化融合到BRDNet中，解决了内部协变位移和小批量问题。残差学习也采用了整体的方法，便于网络训练。扩展卷积被用来提取更多的信息用于去噪任务。在现有技术中设计了一种基于深度卷积神经网络的图像恢复方法来去除脉冲噪声。该框架分为两部分：分类器网络和回归网络。分类器网络将图像像素分为有噪声和无噪声两部分，回归网络用于图像重建。在回归网络中，利用分类器网络识别出的无噪声像素与原始有噪声图像进行有噪声图像的恢复。将批处理归一化嵌入到网络中，提高去噪性能。在
现有技术中通过引入多去噪自编码先验(MDAEP)，提出了一种单图像超分辨(SISR)方法。MDAEP将来自不同噪声输入的多噪自编码先验集成到迭代恢复过程中。该组合策略有效地缓解了去噪自动编码器的不稳定性，避免了陷入局部解。在现有技术中Zhang等人针对传统自编码器对噪声数据泛化能力差的问题，提出了一种无损约束去噪(LD)方法，可以增强自编码的抗噪声能力和鲁棒性。利用去噪自编码器(DAE)和稀疏自编码器(SAE)的去噪能力，设计了两种抗干扰性较好的自编码器：无损耗约束去噪自编码器(LDAE)和无损耗约束去噪稀疏自编码器(LDSAE)。在现有技术中提出了基于拼接的多特征提取CNN，该方法可以保持去噪后的图像的边缘和细节信息，使去噪后的图像更易于识别。此方法使用不同大小的卷积核从输入图像中提取多个特征，并将这些特征级联后发送到前向网络结构中。在现有技术中提出了一种新的基于深度卷积神经网络的彩色图像脉冲噪声去噪框架。该框架由噪声检测和图像重构两个模块组成，两个模块均由深度卷积神经网络实现。
[0004]通过上述分析，现有技术存在的问题及缺陷为：现有技术中稀疏自编码器对图像进行降噪过程中，部分重要细节特征会损失。
[0005]解决以上问题及缺陷的难度为：如何设置隐藏层的层数以及如何防止图像恢复中重要细节特征的损失。
[0006]解决以上问题及缺陷的意义为：有益于提高图像恢复质量以及建立更符合人的认知机理。

技术实现思路

[0007]针对现有技术存在的问题，本专利技术提供了一种基于稀疏自编码器的图像处理方法、系统、介质、设备。
[0008]本专利技术是这样实现的，一种基于稀疏自编码器的图像处理方法，所述基于稀疏自编码器的图像处理方法，包括：
[0009]步骤一，所有神经网络的偏差预设为给定的向量或矩阵，并不断更新；
[0010]步骤二，在偏差中引入了认知反馈权值矩阵，利用反馈偏差提高稀疏自编码器网络的精确度；
[0011]步骤三，基于H1范数的正则化方法来控制稀疏自编码器。
[0012]进一步，所述带H1范数的稀疏自编码器(SAE)具体过程为：
[0013]基于SAE和H1范数的思想，提出了一个新的自编码器，描述如下：
[0014]h1＝φ(W1·
X+τ(D1·
b1))，...，h
n
＝φ(W
n-1
·
h
n-1
+τ(D
n-1
·
b
n-1
))；
[0015][0016][0017]其中，W
(i)
表示第i层的权重矩阵，D
(i)
表示第i个隐藏层的反馈权重矩阵，b
i
是偏差向量，τ表示激活函数(如Sigmoid函数)；
[0018]完整的花销函数为：
[0019][0020]上式中的第一项是平方误差项，第二项是正则化项；正则化也被称为权值衰减项，它倾向于减少权值，并有助于防止过拟合；参数为权值衰减参数，可以控制两项的相对重要性。
[0021]设n
l
表示层数，将层L标记为L
l
，因此层L1为输入层，层为输出层；表示第l层的单元j与第l+1层的单元i之间连接所关联的权值；和分别是l+1层中与单元i相关的反馈矩阵和偏差；表示单元i在l层的激活，特别是在后续中，设为第l层中单元i输入的总加权和，包括偏差项，如
[0022]最小化J(W,D,b)，为了训练神经网络，初始化和为一个接近于零的小随机值；采用梯度下降法，然而J(W,D,b)为非凸函数，梯度下降易受局部极值的影响。
[0023]进一步，所述为了更新W,D,b，可采用梯度下降计算为：
[002本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于稀疏自编码器的图像处理方法，其特征在于，所述基于稀疏自编码器的图像处理方法包括：所有神经网络的偏差预设为给定的向量或矩阵，并不断更新；在偏差中引入了认知反馈权值矩阵，利用反馈偏差提高稀疏自编码器网络的精确度；基于H1范数的正则化方法来控制稀疏自编码器。2.如权利要求1所述基于稀疏自编码器的图像处理方法，其特征在于，所述带H1范数的稀疏自编码器SAE具体过程为：基于SAE和H1范数的思想，提出新的自编码器：h1＝φ(W1·
X+τ(D1·
b1))，
…
，h
n
＝φ(W
n-1
·
h
n-1
+τ(D
n-1
·
b
n-1
))；))；其中，W
(i)
表示第i层的权重矩阵，D
(i)
表示第i个隐藏层的反馈权重矩阵，b
i
是偏差向量，τ表示激活函数；完整的花销函数为：上式中的第一项是平方误差项，第二项是正则化项；正则化也被称为权值衰减项；参数为权值衰减参数，控制两项的相对重要性；设n
l
表示层数，将层L标记为L
l
，因此层L1为输入层，层为输出层；表示第l层的单元j与第l+1层的单元i之间连接所关联的权值；和分别是l+1层中与单元i相关的反馈矩阵和偏差；表示单元i在l层的激活，特别是在后续中，设为第l层中单元i输入的总加权和，包括偏差项，最小化J(W,D,b)，训练神经网络，初始化和为一个接近于零的小随机值；采用梯度下降法，然而J(W,D,b)为非凸函数，梯度下降易受局部极值的影响。3.如权利要求2所述基于稀疏自编码器的图像处理方法，其特征在于，所述为了更新W,D,b，采用梯度下降计算为：D,b，采用梯度下降计算为：
ρ是学习率，表达式中三个偏导数可用后向传播算法计算：ρ是学习率，表达式中三个偏导数可用后向传播算法计算：ρ是学习率，表达式中三个偏导数可用后向传播算法计算：首先，运行一个前向传递来计算整个网络的所有激活，包括每个隐藏层的输出值；然后对于第l层中的每个节点i计算误差项4.如权利要求3所述基于稀疏自编码器的图像处理方法，其特征在于，所述反向传播算法如下：实现前馈传递来计算第l
i
层的激活，i＝1,2,
…
,n
l
，通过以下方程：z
(l+1)
＝W
(l)
a
(l)
+τ(D
(l)
b
(l)
)，a
(l+1)
＝φ(...

【专利技术属性】
技术研发人员：袁建军，
申请(专利权)人：西南大学，
类型：发明
国别省市：