一种基于深度学习的自监督低照度图像增强及去噪方法技术

技术编号:27220119 阅读:50 留言:0更新日期:2021-02-04 11:39
一种基于深度学习的自监督低照度图像增强及去噪方法,属于数字图像处理领域。本发明专利技术为解决现有基于深度学习的自监督低照度图像增强方法难以抑制噪声及无法直接调节增强图像对比度的问题。本发明专利技术包含一个自监督低照度图像增强网络和用于噪声抑制的正则项,该网络可以和现有的任意对比度调节方法如Gamma变换结合,实现网络自监督的训练,噪声抑制正则项可以用于网络训练时的损失函数以使得网络具有噪声抑制能力。本发明专利技术可在增强低照度图像对比度和亮度的同时,保留颜色和细节信息,并显著抑制噪声。本发明专利技术可以用于低照度图像的增强及去噪。及去噪。及去噪。

【技术实现步骤摘要】
一种基于深度学习的自监督低照度图像增强及去噪方法


[0001]本专利技术属于数字图像处理领域,涉及低照度图像的增强及去噪方法。

技术介绍

[0002]在夜间或较暗的室内等低照度环境下获取的图像低往往存在低对比度,低亮度,高噪声等问题。近些年来,研究人员提出了多种不同的图像增强方法,包括传统方法和基于深度学习的方法。
[0003]传统方法包括直方图均衡化、Gamma变换,基于Retinex理论的方法及基于这些方法的改进方法等,这些方法往往集中在提高图像的对比度和亮度上,无法很好的抑制噪声,甚至会带来噪声放大和颜色失真等问题。
[0004]基于深度学习的方法可分为基于无监督和有监督两类,自监督方法属于无监督的一种。在基于深度学习的有监督方法中,往往需要成对的低照度图像和正常照度图像进行训练,该类方法一般可以很好的抑制增强结果中的噪声。但是由于同一个场景下的低照度图像可以对应多张正常照度图像,我们需要人工精心筛选以获得其中较好的图像,且在很多场景中,如同时存在高亮度和低亮度的场景中,我们无法保证获得的正常照度图像的各个局部区域均具有较好的对比度。且在实际应用中,我们无法保证该类方法对不同环境、不同相机的适应能力。
[0005]基于深度学习的无监督方法中,不需要成对的低照度图像和正常照度图像,仅需要未配对低照度图像和正常照度图像或者仅需要低照度图像就可以完成训练,可以极大的节省人力和物力。但目前的各种无监督方法中往往存在噪声难以抑制的问题,且由于无法直接调节增强图像对比度,增强后的结果往往无法保证各个局部区域均具有较好的对比度和亮度。
[0006]申请号为CN202010097457.4的一种基于深度学习的自监督低照度图像增强方法提出了一种自监督图像增强方法,以解决现有的低照度图像增强方法存在的效果差、泛化能力差以及现有深度学习方法中对低照度-正常照度数据集依赖程度高等问题,取得了良好的效果。但是该方法无法显式的约束增强后图像的对比度,其增强结果完全依赖于训练数据,导致了增强结果具有不确定性;同时当增强后图像效果不佳时,该方法无法改善增强结果;此外该方法并没有给出额外的噪声抑制手段,因此增强后图像仍然存在较为明显的噪声,如附图说明中图6所示,该图为CN202010097457.4增强后所得到图像,可以看到增强后图像仍存在部分噪声信息。
[0007]综上所述,尽管研究人员提出了各类不同的低照度图像增强方法,但是仍然存在很多问题:传统方法很难抑制噪声,甚至会带来噪声放大和颜色失真问题;有监督的训练方法尽管可以很好的抑制噪声,但是存在对应正常照度图像难以获取,且无法保证获取的正常照度图像能具有良好局部对比度,无法保证其对新设备、新环境适应性等问题;无监督方法存在难以抑制噪声,无法保证增强后结果具有良好对比度等问题。

技术实现思路

[0008]本专利技术为解决现有的自监督低照度图像增强方法中存在的无法保证增强后结果具有良好对比度、难以抑制噪声等问题,提出了一种基于深度学习的自监督低照度图像增强及去噪方法。
[0009]一种基于深度学习的自监督低照度图像增强及去噪方法,包括以下步骤:
[0010]将待增强低照度图像S

及其最大值通道图像S

max
和其期望最大值通道图像S

expect_max
合并为M*N*5的矩阵作为自监督低照度图像增强网络的输入,利用自监督低照度图像增强网络进行增强及去噪处理,输出为反射图像R和照度图像I;自监督低照度图像增强网络输出的反射图像R即为增强后图像;
[0011]所述待增强低照度图像S

为M*N*3的矩阵,M为行数,N为列数,3为{r,g,b}三个颜色通道;S

max
通过取三个颜色通道中的最大值得到,为M*N*1的矩阵;S

expect_max
可利用任意图像增强方法对S

max
进行增强后得到,或通过任意图像增强方法对S

做增强处理后取最大值通道图像得到,为M*N*1的矩阵;所获得的最终增强图像R为M*N*3的矩阵;
[0012]所述的图像增强网络为训练好的图像增强网络,训练过程如下:
[0013]A1、采集任意n张低照度图像,n>=1,构建训练数据集;
[0014]A2、对于训练数据集中每一张低照度图像S,提取其对应的最大值通道图像S
max
,利用任意对比度增强方法对S
max
进行处理,得到期望最大值通道图像S
expect_max

[0015]A3、以期望最大值通道图像S
expect_max
作为额外输入和监督,结合Retinex理论、噪声分布符合泊松分布的假设、照度图像I平滑和噪声抑制正则项构建损失函数,训练图像增强网络,损失函数为:
[0016][0017]其中,第一项为重建损失,第二项为期望增强损失,第三项为照度平滑正则项,第四项为噪声抑制正则项;λ1、λ2和λ4分别为期望增强损失、照度平滑正则项和噪声抑制正则项在整体损失函数中的权重参数,λ3为和在照度平滑和噪声抑制正则项中的权重参数;S代表获取的图像,R代表反射图,I代表照度图;代表矩阵中的对应位置元素相乘;R
max
表示反射图R所对应中最大值通道图像,代表反射图R的梯度图,代表求梯度;代表照度图I的梯度图;W表示在噪声抑制正则项中各个像素点的权重,W
I
和W
R
分别表示和在照度平滑正则项中各个像素点的权重;和分别代表对和取绝对值后做归一化操作,f表示归一化算子。进一步地,步骤A2的具体过程包括以下步骤:
[0018]步骤三一、提取低照度图像S的最大值通道图像S
max

[0019][0020]其中,S
max
(i,j)为最大值通道图像S
max
中第i行、第j列元素;max代表取最大值操作;c取r、g、b,对应rgb颜色空间下红绿蓝三个颜色通道,S
c
(i,j)为低照度图像S在rgb颜色空间下某一个通道第i行、第j列元素;
[0021]步骤三二、利用任意对比度增强方法如Gamma变换对最大值通道图像S
max
做对比度
增强操作,得到期望最大值通道图像S
expect_max

[0022]进一步地,A3所述训练图像增强网络的具体过程包括以下步骤:
[0023](A31)使用随机裁剪的低照度图像块进行训练,图像块的大小为48*48;
[0024](A32)每次训练中随机取16个小块;
[0025](A33)使用Adam随机优化算法对网络进行训练,更新率设置为0.001。
[0026]进一步地,所述的W的获取方法包括以下步骤:
[0027](1)利用大本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于深度学习的自监督低照度图像增强及去噪方法,包括以下步骤:将待增强低照度图像S

及其最大值通道图像S

max
和其期望最大值通道图像S

expect_max
合并为M*N*5的矩阵作为自监督低照度图像增强网络的输入,利用自监督低照度图像增强网络进行增强及去噪处理,输出为反射图像R和照度图像I;自监督低照度图像增强网络输出的反射图像R即为增强后图像;所述待增强低照度图像S

为M*N*3的矩阵,M为行数,N为列数,3为{r,g,b}三个颜色通道;S

max
通过取三个颜色通道中的最大值得到,为M*N*1的矩阵;S

expect_max
可利用任意图像增强方法对S

max
进行增强后得到,或通过任意图像增强方法对S

做增强处理后取最大值通道图像得到,为M*N*1的矩阵;所获得的最终增强图像R为M*N*3的矩阵;其特征在于,所述的图像增强网络为训练好的图像增强网络,训练过程如下:A1、采集任意n张低照度图像,n>=1,构建训练数据集;A2、对于训练数据集中每一张低照度图像S,提取其对应的最大值通道图像S
max
,利用任意对比度增强方法对S
max
进行处理,得到期望最大值通道图像S
expect_max
;A3、以期望最大值通道图像S
expect_max
作为额外输入和监督,结合Retinex理论、噪声分布符合泊松分布的假设、照度图像I平滑和噪声抑制正则项构建损失函数,训练图像增强网络,损失函数为:其中,第一项为重建损失,第二项为期望增强损失,第三项为照度平滑正则项,第四项为噪声抑制正则项;λ1、λ2和λ4分别为期望增强损失、照度平滑正则项和噪声抑制正则项在整体损失函数中的权重参数,λ3为和在照度平滑和噪声抑制正则项中的权重参数;S代表获取的图像,R代表反射图,I代表照度图;代表矩阵中的对应位置元素相乘;R
max
表示反射图R所对应中最大值通道图像,代表反射图R的梯度图,代表求梯度;代表照度图I的梯度图;W表示在噪声抑制正则项中各个像素点的权重,W
I
和W
R
分别表示和在照度平滑正则项中各个像素点的权重;和分别代表对和取绝对值后做归一化操作,f表示归一化算子。2.根据权利要求1所述的一种基于深度学习的自监督低照度图像增强及去噪方法,其特征在于,步骤A2的具体过程包括以下步骤:步骤三一、提取低照度图像S的最大值通道图像S
max
:其中,S
max
(i,j)为最大值通道图像S
max
中第i行、第j列元素;max代表取最大值操作;c取r、g、b,对应rgb颜色空间下红绿蓝三个颜色通道,S
c
(i,j)为低照度图像S在rgb颜色空间下某一个通道第i行、第j列元素;步骤三二、利用任意对比度增强方法如Gamma变换对最大值通道图像S
max
做对比度增强操作,得到期望最大值通道图像S
expect_max
。3.根据权...

【专利技术属性】
技术研发人员:张雨遆晓光李青岩闫诗雨张斌杨国辉崔天祥王春晖
申请(专利权)人:哈尔滨工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1