生成对抗网络交替训练及医疗图像分类方法、装置、介质制造方法及图纸

本发明专利技术公开了生成对抗网络交替训练及医疗图像分类方法、装置、介质，通过对生成器和判别器的收敛程度进行度量，能够量化生成器和判别器的训练收敛程度；通过制定自适应交替训练策略，能够根据当前生成器和判别器的收敛程度，自适应地确定下一次是训练生成器还是判别器；通过基于自适应生成对抗网络对医疗影像进行疾病分类，能够提高分类准确率和识别效果，辅助医护人员对疾病进行诊断。辅助医护人员对疾病进行诊断。辅助医护人员对疾病进行诊断。

【技术实现步骤摘要】
生成对抗网络交替训练及医疗图像分类方法、装置、介质


[0001]本专利技术涉及人工智能领域，特别是一种生成对抗网络交替训练及医疗图像分类方法、装置、介质。

技术介绍

[0002]图像生成模型是近年来深度学习的一个热门研究领域
[1]。生成模型通过从数据集中学习样本的数据分布，在生成样本时从数据分布中进行随机抽样，生成不同于数据集中原始样本的新样本。由于对样本的数据分布建模时在连续的特征空间中进行，从数据分布进行随机采样时，取到训练集样本对应点的概率很小。因此，生成的样本相对于原始训练集样本，有新的特征，起到了丰富数据集的作用。常见的图像生成模型包含自编码器
[2]和生成对抗网络
[3]。生成对抗网络相较于自编码器模型有独特的优势。自编码器通过图像重建损失函数度量生成样本与真实样本的分布差异，以显式度量的方式衡量生成样本的好坏，通过训练使得解码器生成的样本接近真实样本。生成对抗网络包含生成器和判别器。生成对抗网络通过判别器对生成样本的真假进行判断，让判别器网络区分生成样本和真实样本，以隐式度量的方式衡量生成样本的好坏，通过训练使得生成器生成的样本接近真实样本，生成对抗网络具有生成高清晰度图片的优势。
[0003]生成器和判别器的训练次数影响了生成对抗网络的收敛性。在现有的各种生成对抗网络中，都遵循生成器和判别器交替训练的方式。生成器和判别器交替训练，生成器和判别器的训练次数比例成为一个重要的超参数。在不同的生成对抗网络中，训练次数比有不同的取值。训练次数比决定了生成器和判别器的训练程度，对生成对抗网络的最终收敛有较大影响。但现有生成对抗网络将训练次数比设置为固定的值，具有较强的主观性，并且可能依赖于所使用的数据集。因此，在生成对抗网络中，如何打破传统的生成器和判别器交替训练方式，构建一种基于自适应交替训练策略的生成对抗网络，不再设置训练次数比的超参数，从而提高生成对抗网络的收敛性，是亟待解决的问题。
[0004]生成对抗网络在图像合成
[5
‑
6]、图像超分辨率
[7
‑
8]、图像数据增强
[9]、图像风格迁移
[10]等领域有广泛的应用。在图像合成领域，Huang等人
[11]构建TPGAN模型，根据人的侧脸数据合成前向的人脸图像，为提高人脸识别模型的精度带来了帮助。生成对抗网络在图像合成有着广泛的应用
[12
‑
13]。在图像超分辨率领域，Ledig等人
[14]提出的超分辨率生成对抗网络SRGAN，生成器对低分辨率图像进行上采样，生成高分辨率图像，使用感知损失函数对模型优化。在图像数据增强领域，生成对抗网络通过对训练样本进行学习，生成更多数量的图像来扩充数据集，从而辅助鉴别模型的构建。在图像风格迁移领域，有许多有趣的应用。Zhu等人
[15]提出的CycleGAN，可以实现两种不同风格的图像进行转换。
[0005]尽管生成对抗网络在不同领域取得了研究成果，生成样本的清晰度也比其他生成模型更好，但是不可否认的是生成对抗网络仍然存在训练过程较难收敛、模式崩溃
[16]等问题。生成对抗网络得益于博弈论的思想，其生成器和判别器具有不同的损失函数，以类似博弈的过程分开训练，这使得生成对抗网络的训练过程相比于传统的单个损失函数的神经网
络更难训练
[17]。生成对抗网络的生成器和判别器，其优化目标不一致。因此，在训练生成对抗网络时，为生成器和判别器分别设置不同的损失函数，分开训练，当优化时都向着各自的目标进行权重调整，直到达到纳什均衡点
[18]。这决定了生成对抗网络的生成器和判别器的交替训练方式。由于生成器和判别器同时达到均衡是相对困难的，并且生成器或者判别器其中一个网络过早收敛对另一个网络不利，因此生成对抗网络的训练过程相对困难，较多研究者致力于提高生成对抗网络的收敛性，但生成对抗网络的收敛性较难保证。研究者通常在大量样本下构建生成对抗网络，因为在小样本数据下生成对抗网络的收敛更加困难。
[0006]综上，现有技术存在以下缺陷：（1）传统生成对抗网络收敛慢，生成器和判别器同时达到均衡非常困难；（2）传统生成对抗网络的生成器和判别器的收敛程度难以度量；（3）现有生成对抗网络将训练次数比设置为固定的值，具有较强的主观性，并且可能依赖于所使用的数据集。

技术实现思路

[0007]本专利技术所要解决的技术问题是，针对现有技术不足，提供一种生成对抗网络交替训练及医疗图像分类方法、装置、介质，使得生成器和判别器同时达到均衡。
[0008]为解决上述技术问题，本专利技术所采用的技术方案是：一种自适应生成对抗网络交替训练方法，包括以下步骤：S1、从训练集中随机抽取一组图片集，从正态分布中随机抽样m个噪声向量；m为图片集中图片的数量；根据生成器生成的生成样本和训练样本x，计算得到和；S2、判断以下条件是否均满足，若是，则利用所述图片集训练生成器，否则利用所述图片集训练判别器。当训练生成器时，需要冻结判别器的权重（即保持判别器权重不变），反之，训练判别器时，需要冻结生成器的权重；；；其中，和是预先设置的超参数；S3、重复步骤S1和S2，当自适应生成对抗网络生成的图像视觉效果或预设的评价指标达到设定要求时，保存AdaGAN模型。
[0009]生成对抗网络基于博弈论的思想，寻找生成器G和判别器D的均衡点，各自朝着不同的目标进行优化。在一定程度上，G和D的优化目标是相悖的。G和D为了不同的目标进行优化，从而决定了G和D的交替训练方式。G和D在训练过程中，彼此是依赖的，互相提供了网络权重优化所需的梯度。在判别器的损失函数中，利用到了生成器的权重以及生成器前向传播的结果。如果生成器是收敛程度相对判别器过高，判别器的学习就会变得困难。在WGAN中，使用Wasserstein距离改进GAN的损失函数，仍然交替训练，每训练5次判别器，再训练1次生成器。生成器和判别器的训练次数比作为一个超参数进行人为设置，这具有很强的主观性。因此，本专利技术提出基于自适应交替训练策略的自适应生成对抗网络AdaGAN，根据生成器的收敛性度量指标ConvG和判别器的收敛性度量指标ConvD，设计生成对抗网络的自适应交替训练策略。由于训练时是通过自适应的方式选择训练生成器还是判别器，这样就不会
陷入一个网络比另一个网络收敛程度高很多的情况，提升了训练的稳定性。
[0010]本专利技术的优势在于提升了生成对抗网络训练的稳定性，且不需要人为事先花费大量时间通过试错去设置生成器和判别器的固定训练轮次比，而且固定的训练轮次比不一定合适，在不同的数据集上不一定需要相同训练轮次比。即使在同一个数据集上，随着训练时间的推移，事先设置好的训练轮次比也不一定最适合目前的情况。产生优势的原因在于本方案始终对生成器和判别器的收敛程度进行度量，并根据此时的收敛程度和自适应交替训练策略去选择下一次训练哪一个网络更合理。
[0011]；；是判别器函数，为生成器函数。
[0012]本专利技术首次提出本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种自适应生成对抗网络交替训练方法，其特征在于，包括以下步骤：S1、从训练集中随机抽取一组图片集，从正态分布中随机抽样m个噪声向量；m为图片集中图片的数量；根据生成器生成的生成样本和训练样本x，计算得到收敛性度量指标和；S2、判断以下条件：、是否均满足，若是，则利用所述图片集训练生成器，否则利用所述图片集训练判别器；其中，和是预先设置的超参数；S3、重复步骤S1和S2，当自适应生成对抗网络生成的图像视觉效果或预设的评价指标达到设定要求时，保存AdaGAN模型。2.根据权利要求1所述的自适应生成对抗网络交替训练方法，其特征在于，；；是判别器函数，为生成器函数。3.一种医疗图像分类方法，其特征在于，包括以下步骤：A1、对于每一类疾病图像，初始化对应的自适应生成对抗网络AdaGAN
k
，构建有标签训练集DS和有标签测试集TS；其中，，DS
k
为类别k的有标签训练数据集，样本数量为n
k
，；K个类别构建的有标签测试集为；TS
k
为类别k构成的测试数据集，样本数量为，，其中表示类别k构成的有标签测试数据集TS中的第1个样本；表示类别k构成的有标签测试数据集TS中的第个样本；A2、对于每一类疾病...

【专利技术属性】
技术研发人员：郭克华，陈天宇，任盛，
申请(专利权)人：中南大学，
类型：发明
国别省市：