一种针对图像降噪的神经网络结构自动搜索方法技术

本发明专利技术公开了一种针对图像降噪的神经网络结构自动搜索方法，属于图像降噪技术领域

【技术实现步骤摘要】
一种针对图像降噪的神经网络结构自动搜索方法


[0001]本专利技术涉及一种针对图像降噪的神经网络结构自动搜索方法，属于图像降噪

。

技术介绍

[0002]近年来，深度学习的发展十分迅速，基于神经网络的应用已经在人们生活中发挥着十分重要的作用
。
其中，针对计算机视觉领域，基于卷积神经网络的研究在多种图像任务中有着重要的应用，例如图像分类
、
目标检测
、
图像分割
、
图像重建，以及图像多模态
。
因此，基于
CNN
的计算机视觉的研究受到了极大的关注
。
经过科研人员的不断研究和提升，
CNN
网络从最初的简单层叠网络
VGG
开始逐渐发展，陆续出现
ResNet、DenseNet、U
‑
Net、MobileNet、ResNeXt
等更加复杂且高性能的网络结构
。CNN
的应用场景也随之逐渐广泛
。
[0003]但是目前
CNN
在计算机视觉领域取得的研究成果和应用价值主要来源于手工设计的
CNN
网络结构
。
手工设计的网络在结构上往往更加精巧，对应的网络性能也更加优异
。
但手工设计要求研究人员具备丰富的专业领域知识以及设计经验，需要不停地迭代试验来验证和优化网络结构，这极大地限制了
CNN
的推广和发展/>。
同时，手工设计的网络结构泛化性不足，面对不同数据集以及不同应用场景，研究人员需要重新设计和调整网络结构，这使得手工设计的网络结构需要消耗极大的成本
。
因此，针对上述存在的问题，近年来针对网络结构的自动搜索算法
(NAS)
的研究陆续被提出
。
[0004]NAS
算法主要通过一套自动搜索的流程来设计网络结构，通过一种自动化的方式设计网络结构，可以有效降低手工设计网络的成本
。
同时，
NAS
算法不再要求设计者具备大量专业领域知识，极大地降低了设计
CNN
网络的门槛，有助于进一步推动
CNN
的发展
。NAS
算法针对不同数据集以及不同场景可以自动搜索出不同的网络结构，网络具备良好的泛化性
。
同时，
NAS
算法搜索到的网络结构性能已经逐渐超越手工设计的网络结构，具备潜力极大的商业价值以及广阔的应用前景
。NAS
算法也成为了近几年计算机视觉的研究热点
。
[0005]但是由于需要涉及密集的网络训练，
NAS
算法需要消耗大量的搜索时间以及计算资源，这十分不利于
NAS
算法的发展
。
除此之外，
NAS
算法的研究主要集中在图像分类以及目标检测等高级视觉任务，在其他计算机视觉领域的研究尚未有有效的应用，例如图像降噪
、
图像去模糊等低级视觉任务
。NAS
算法的应用场景仍有待拓宽
。
因此，优化
NAS
算法，减少搜索时间以及计算资源等成本，拓展
NAS
算法在其他计算机视觉领域的应用是十分重要的，这有助于继续推动
NAS
算法的发展，扩大应用价值
。

技术实现思路

[0006]为了提升神经网络结构自动搜索方法在图像降噪任务上的效果，本专利技术提供了一种针对图像降噪的神经网络结构自动搜索方法，所述技术方案如下：
[0007]本专利技术的第一个目的在于提供一种针对图像降噪的神经网络结构自动搜索方法，包括：
[0008]步骤1：针对图像降噪任务，确定神经网络结构的主体框架，随机生成
N
个网络结构作为种群
P
，种群中每个个体代表一个具体的
CNN
网络结构；
[0009]所述
CNN
网络结构的主体框架包括
encoder_num
个编码器和
encoder_num
个解码器，每个编码器和解码器包括一个
RA Block
模块，所述
RA Block
模块包含
conv_num
个卷积层和一个注意力机制
AM
模块，所述
AM
模块包含通道注意力机制
CA
和空间注意力机制
SA
；
[0010]所述编码器的个数
encoder_num、RA Block
模块中卷积层的数量
conv_num、
卷积层中的卷积核大小
kernel_size、AM
模块的类型
am_type
，以及多尺度级别数量
multiscale
都随机生成；
[0011]步骤2：使用短轮次训练的回归映射补偿方法来计算种群中每个网络结构的峰值信噪比
PSNR
作为个体的适应度；
[0012]步骤3：利用锦标赛选择法从种群
P
中挑选
t
个最优个体作为父代个体；
[0013]步骤4：根据父代个体中的参数组成来更新原参数集中的各类参数的权重；
[0014]步骤5：父代个体经过变异操作生成
t
个子代个体；
[0015]步骤6：重复所述步骤3至步骤5的种群进化过程，直到到达最大进化代数，选取适应度最高的个体作为搜索到的用于图像降噪的最佳网络结构
。
[0016]可选的，所述
CNN
网络结构的构建过程包括：编码器和解码器的构建；
[0017]所述编码器包括：下采样卷积块
DownCONV
和所述
RA Block
模块，构建过程包括：
[0018]先构建所述下采样卷积块
DownCONV
，所述下采样卷积块
DownCONV
由于需要用于特征图的下采样和通道数的2倍扩充的功能，设置为一个不需要参数搜索的固定网络模块；
[0019]然后构建所述
RA Block
模块，所述
RA Blcok
模块包含
RES
模块和
AM
模块；对于
RES
模块，随机选择参数
conv_num
的值来确定
RES
模块中包含的
CONV
块的数量，然后针对每个
CONV
块，随机选择参数
kernel_size
的值来确定卷积操作的卷积核尺寸；针对
AM
模块，随机选择参数
am_typ本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种针对图像降噪的神经网络结构自动搜索方法，其特征在于，所述方法包括：步骤1：针对图像降噪任务，确定神经网络结构的主体框架，随机生成
N
个网络结构作为种群
P
，种群中每个个体代表一个具体的
CNN
网络结构；所述
CNN
网络结构的主体框架包括
encoder_num
个编码器和
encoder_num
个解码器，每个编码器和解码器包括一个
RA Block
模块，所述
RA Block
模块包含
conv_num
个卷积层和一个注意力机制
AM
模块，所述
AM
模块包含通道注意力机制
CA
和空间注意力机制
SA
；所述编码器的个数
encoder_num、RA Block
模块中卷积层的数量
conv_num、
卷积层中的卷积核大小
kernel_size、AM
模块的类型
am_type
，以及多尺度级别数量
multiscale
都随机生成；步骤2：使用短轮次训练的回归映射补偿方法来计算种群中每个网络结构的峰值信噪比
PSNR
作为个体的适应度；步骤3：利用锦标赛选择法从种群
P
中挑选
t
个最优个体作为父代个体；步骤4：根据父代个体中的参数组成来更新原参数集中的各类参数的权重；步骤5：父代个体经过变异操作生成
t
个子代个体；步骤6：重复所述步骤3至步骤5的种群进化过程，直到到达最大进化代数，选取适应度最高的个体作为搜索到的用于图像降噪的最佳网络结构
。2.
根据权利要求1所述的针对图像降噪的神经网络结构自动搜索方法，其特征在于，所述
CNN
网络结构的构建过程包括：编码器和解码器的构建；所述编码器包括：下采样卷积块
DownCONV
和所述
RA Block
模块，构建过程包括：先构建所述下采样卷积块
DownCONV
，所述下采样卷积块
DownCONV
由于需要用于特征图的下采样和通道数的2倍扩充的功能，设置为一个不需要参数搜索的固定网络模块；然后构建所述
RA Block
模块，所述
RA Blcok
模块包含
RES
模块和
AM
模块；对于
RES
模块，随机选择参数
conv_num
的值来确定
RES
模块中包含的
CONV
块的数量，然后针对每个
CONV
块，随机选择参数
kernel_size
的值来确定卷积操作的卷积核尺寸；针对
AM
模块，随机选择参数
am_type
的值来确定
RES
模块中注意力机制的类型，所述注意力机制的类型包括：注意力机制
CA
和空间注意力机制
SA
；所述解码器包括：上采样卷积块
UpCONV
和所述
RA Block
模块，构建过程包括：先构建所述上采样卷积块
UpCONV
，所述上采样卷积块
UpCONV
用于特征图尺寸的2倍上采样和通道数的2倍减少，因此将所述上采样卷积块
UpCONV
设置为一个固定的网络块；然后再构建所述
RA Block
模块，所述解码器中的<...

【专利技术属性】
技术研发人员：方伟，朱振豪，陆恒杨，朱书伟，孙俊，吴小俊，
申请(专利权)人：江南大学，
类型：发明
国别省市：