一种基于小波分析的超高维数据重建深度学习方法技术

本发明专利技术公开了一种基于小波分析的超高维数据重建深度学习方法，利用高维高阶的离散小波包变换来扩展高维数据到不同的频域通道，结合多个并行的神经网络，实现了高维数据的重构任务；先进行数据预处理，再通过小波包变换为不同频带子域的小波包系数，输入到为其搭建并训练独立网络，网络的输出通过小波包反变换，重建原始图像。本发明专利技术利用高维数据经小波变换后各频域独立的性质，并行地利用GPU内存，加速了神经网络的训练进程，使原受限于硬件计算资源的深度学习人工任务变为可能。本发明专利技术亦推广到分割及生成任务。对于分割任务，U‑net网络输出结果经反卷积上采样为原始图像分辨率分割标签。对于生成任务，各通道的神经网络改为GAN。

【技术实现步骤摘要】
一种基于小波分析的超高维数据重建深度学习方法
本专利技术涉及图像处理、神经网络
，尤其是涉及一种基于小波分析的超高维数据重建深度学习方法。
技术介绍
传统的小波变换是为了解决傅里叶变换丢失时域信息而提出的，在图像处理领域，快速离散小波变换应用一系列的滤波器，将图像信息扩展到不同的独立的频域子带中，并用小波系数所表示。CNN是处理图像领域的神经网络的基础，卷积层是CNN的核心，通过一系列的滤波器提取图像的细节信息，生成一张特征向量图。池化层为CNN引入不变性，同时降采样，扩大下一层卷积核的感受野，网络将很好地学习到不同尺度下图像的特征信息。激活层通常为非线性函数，使网络更好地拟合任意函数，也会缓解过深层网络的过拟合现象。U-net是一种常用的图像语义分割、重建模型，由编码器和解码器构成。GAN架构由生成器和判别器级联构成，被广泛应用在图像生成任务中。核心思想是使两个网络互相竞争，从生成器角度而言，它趋向于降低判别器的判别准确度，即努力生成与真值（GroundTruth）相似的图像，以期以假乱真；从判别器角度而言，它趋向于降低生成器的输出图像相似度，即不断提高审核标准。完全训练后，判别器的输出将收敛于某一个值，达到动态平衡。现有技术中，DTI（DiffusionTensorImaging，弥散张量成像）是通过多方向MRI扫描数据描述大脑结构的方法，通常一个被试个体的扫描数据有若干吉字节（GB）之大，而深度学习常常需要极大的样本量，直接参与训练的数据约100GB-200GB，但目前的深度学习芯片显存容量有限，如英伟达特斯拉V100也仅支持32GB的显存容量，因此通常无法直接将大量DTI数据存入深度学习芯片的显存用于深度学习训练。
技术实现思路
为解决现有技术的不足，克服现有硬件条件难以支撑深度学习网络训练超高维数据的问题，实现利用有限的计算资源训练大体积超高维数据的目的，本专利技术采用如下的技术方案：如图1所示，一种基于小波变换的平行深度网络模型，其具体步骤如下；S1，数据预处理；S11，数据标签：对个人采集的数据标签化；S12，数据增强：使用平移、旋转、缩放等方式扩充数据库；S13，数据清洗：填补缺失值，检查异常对象；S14，数据规范化：使用统一的图片编码方式。S2，数据频域扩展；S21，根据任务与数据不同，选择合适的小波基函数；S22，利用多阶高维小波包变换，提取图像数据各个维度的低频与高频信息，置于不同频域子带，分解层数根据图形处理器内存和数据规模而定；在本专利技术中，采用的是高维N阶的小波包变换，经小波变换的数值，即为拟合原图像空间信息的小波基系数，可以认为是图像信息在各小波基上的投影值。原始图像经一组正交的小波基分解后，实际上通过了一组滤波器，将其分为高频分量和低频分量，在此基础上，小波包变换对每一级的高频和低频子带做进一步的分解，通过最大化逐级分解信号的信息熵，计算出最优分解路径，因此小波包分解又被称为最优子带树结构。以三维图像输入为例，一阶小波包分解得到的子图块（小波包分解系数）最小为原图像尺寸的1/8，根据最大信息熵优化分解路径原则，还会留存未完全分解的子图块，尺寸为原图像尺寸的1/4，分解方式如图2所示。小波包反变换可以无失真重建原高维图像。S3，网络搭建；S31，根据不同任务，为各频域通道分别搭建独立的神经网络，对于分割、重建任务，搭建基于U-net的神经网络，对于生成任务，搭建GAN网络模型，让神经网络在S4中平行训练；S32，U-net搭建：U-net由相同数量的若干编码器和解码器构成，每个编码器包含卷积层和下采样层，其中每个卷积层包括批归一化层、激活层和卷积核，下采样层包括批归一化层、激活层和池化层，池化层用于下采样图像特征，每个解码器包含卷积层和上采样层，其中每个卷积层包含批归一化层、激活层和卷积核，上采样层包括批归一化层、激活层和采样器，采样器通过反卷积算法或插值算法恢复像素，批归一化层用于标准化数据和校准，激活函数用于引入非线性因子，使神经网络拟合数据分布。同级编解码器间使用跳层连接（SkipConnection），拼接多尺度的特征图，保证多尺度的特征图相融合，从而提高重建、分割精度；U-net独特设计了跳层连接，将降采样前的特征拼接到恢复同等像素的特征图中，帮助解码器在恢复像素的过程中尽可能少的丢失细节信息，编码器包含若干卷积核，负责提取此感受野下的细节特征，组成特征向量图，池化层引入不变性并降采样图像；解码器同样包含若干卷积核，得到特征向量图后通过跳层连接拼接了从同级解码器裁剪的部分特征向量图，保证上采样器在恢复像素的时候，尽可能少的丢失细节信息，同时利用了编码器和解码器学习到的图像特征，对应编码器的池化层，解码器用上采样器恢复像素，通常采用反卷积算法或插值算法。在每个卷积器和池化层前，U-net使用批归一化层来标准化数据，并校准可能产生偏移的数据分布；激活函数通常使用修正线性单元（ReLU），目的是为了引入非线性因子，使网络更好地拟合数据分布。U-net网络结构如图3所示。S33，生成式对抗网络GAN搭建：GAN架构由生成器和判别器级联构成，均为卷积神经网络网络（CNN）架构，生成器是一个上采样的卷积网络，类似于U-net的解码器，输入为随机信号分布，输出为与目标图像同尺寸的图像数据，主要由卷积层和上采样层构成，卷积层同样包含批归一化层、激活层和卷积器，上采样层包含上采样器，输出为高维图像；判别器是下采样的卷积网络，包含卷积层和池化层，卷积层包含卷积器、批归一化层和激活层，输入为图像数据，输出为一维概率∈[0,1]。训练GAN网络前需初始化生成器和判别器的网络权值。首先，通过迁移学习或随机化初始生成器的网络参数，再用随机种子生成虚假图像数据，混入真实图像数据训练判别器并更新网络权值。通常使数据库真假数据数量相等，判别器输出为0.5左右时完成初始化。之后用随机噪声为生成器的输入，串接生成器和判别器，利用反向传播误差更新生成器网络权值，生成器和判别器在反复的迭代训练中表现交替上升，继续训练直至稳定。GAN的训练过程如图4所示。S4，网络训练；S41，初始化网络参数；S42，利用标注后的数据（真值）与训练中的网络预测值计算损失函数，再利用随机梯度下降、势能法（Momentum）或自适应梯度（AdaGrad）、自适应动量估计（Adam）等残差反向传播算法更新网络权值，具体地，根据真值和预测值，通过相似损失函数和交叉熵损失函数的加和，对每个网络参数求偏微分，在各网络层间，由预测端向输入端反向传播残差，各网络参数带入前一层的残差值，更新各权值处的偏微分值（梯度）与残差值，通过偏微分值（梯度），采用梯度下降法更新各个网络权值，降低预测误差。完整的一次前向传播和反向传播为一次迭代，通过多次迭代优化模型，训练流程如图5所示；S43，超参数调节：通过调节批大小（BatchSize）、学习率、动量（Momentum）、权值衰减（Weig本文档来自技高网...

【技术保护点】
1.一种基于小波分析的超高维数据重建深度学习方法，其特征在于包括如下步骤：/nS1，图像数据预处理；/nS2，图像数据频域扩展，包括如下步骤：/nS21，选择小波基；/nS22，利用N阶高维小波包变换，提取图像数据不同维度的频率信息，将图像数据分解为N个经小波包变换的数值，即拟合图像空间信息的分解小波基系数，置于不同频域子带；/nS3，搭建神经网络，为各频域通道分别搭建独立的神经网络；/nS4，训练神经网络，对各频域通道对应的神经网络进行平行训练；/nS5，数据重建，将分解后的图像数据，分别输入同级频域通道中训练好的神经网络，对各通道神经网络的输出进行小波包反变换，重建上级频域信息。/n

【技术特征摘要】
1.一种基于小波分析的超高维数据重建深度学习方法，其特征在于包括如下步骤：
S1，图像数据预处理；
S2，图像数据频域扩展，包括如下步骤：
S21，选择小波基；
S22，利用N阶高维小波包变换，提取图像数据不同维度的频率信息，将图像数据分解为N个经小波包变换的数值，即拟合图像空间信息的分解小波基系数，置于不同频域子带；
S3，搭建神经网络，为各频域通道分别搭建独立的神经网络；
S4，训练神经网络，对各频域通道对应的神经网络进行平行训练；
S5，数据重建，将分解后的图像数据，分别输入同级频域通道中训练好的神经网络，对各通道神经网络的输出进行小波包反变换，重建上级频域信息。


2.根据权利要求1所述的一种基于小波分析的超高维数据重建深度学习方法，其特征在于所述S22中，图像数据经一组正交的小波基分解后，通过一组滤波器，分为高频分量和低频分量，在此基础上，小波包变换对每一级的高频和低频子带做进一步的分解，通过最大化逐级分解信号的信息熵，计算出最优分解路径。


3.根据权利要求1所述的一种基于小波分析的超高维数据重建深度学习方法，其特征在于所述S3，搭建U-net神经网络，U-net神经网络包括一组相互对应的编码器和解码器对，同级编码器和解码器之间，使用跳层连接，拼接多尺度的特征图，将编码器下采样前的图像特征，拼接到解码器恢复同等像素的特征图中。


4.根据权利要求3所述的一种基于小波分析的超高维数据重建深度学习方法，其特征在于所述编码器包括编码器卷积层和下采样层，编码器卷积层的卷积核，提取其感受野下的细节特征，组成特征向量图，下采样层引入不变性并下采样图像特征；解码器包括解码器卷积层和上采样层，解码器卷积层的卷积核，得到特征向量图后，通过跳层连接，拼接了从同级解码器裁剪的部分特征向量图，通过上采样层恢复像素。


5.根据权利要求1所述的一种基于小波分析的超高维数据重建深度学习方法，其特征在于所述S3，搭建GAN神经网络，GAN神经网络包括级联的生成器和判别器，生成器是上采样的卷积网络，判别器是下采样的卷积网络，判别器一端分别获取目标图像和生成器输出的与目标图像同尺寸的图像数据，用于训练判别器，另一端将判别器输出的一维概率∈[0,1]用于训练生成器。

【专利技术属性】
技术研发人员：胡劲楠，王俊彦，
申请(专利权)人：之江实验室，
类型：发明
国别省市：浙江;33