基于协同深度学习的医学图像分类方法技术

本发明专利技术公开了一种基于协同深度学习的医学图像分类方法，用于解决现有医学图像分类方法分类准确率差的技术问题。技术方案是采用两个深度卷积神经网络之间协同学习方法，通过成对学习模式进行训练，每次模型接受图像对儿作为输入，一对儿图像分别被输送到对应的深度卷积神经网络中。采用微调预训练模型的方法对这些深度卷积网络进行初始化和训练，设计一个协同学习系统，使两个深度网络进行互助学习。该协同系统用来对图像对儿的异同属性进行监督，即是否属于用一个类别，并且实时地将两个深度卷积网络产生的协同误差进行反向传播、修正网络的权值，从而进一步加强网络学习特征表征的能力，能够更加有效地对易混淆样本作出准确地判别。

Medical image classification method based on Collaborative depth learning

The invention discloses a medical image classification method based on Cooperative depth learning, which is used to solve the technical problems of the poor classification accuracy of the existing medical image classification methods. The technical scheme is adopted between the two deep convolutional neural network collaborative learning method, which is trained by paired learning mode, each image pair model accepts as input a pair of images were transported to the deep convolutional neural network. Using the method of fine tune pre training model, the depth convolution networks are initialized and trained, and a cooperative learning system is designed to make the two deep networks cooperate with each other. The collaborative system used to monitor the similarities and differences between the attributes of the image pair, whether it belongs to a category, and real-time collaborative error two convolutional neural networks generated by backpropagation, fixed network weights, so as to further strengthen the learning ability of the network characteristic, can more effectively to make accurate confusable samples judge.

【技术实现步骤摘要】
基于协同深度学习的医学图像分类方法
本专利技术涉及一种医学图像分类方法，特别是涉及一种基于协同深度学习的医学图像分类方法。
技术介绍
医学图像分类方法在医学检索、文献综述和医学研究等方面具有极其重要的作用，一直是计算机辅助诊断和医学研究领域中的热点研究问题。在过去无数研究者的数十年研究中，形成了一套完整的传统模式下的图像分类技术。其核心要素是手工特征提取和分类器的设计两个部分。尽管有一套非常完善的理论体系，传统的图像分类方法很难实现最优特征和最优分类器的无缝联合，这导致其性能受到很大的影响。近年来，深度学习技术的出现给图像分类问题带来了新的突破，端到端模式下特征自学习具有非常强大的图像表征能力。深度学习中的卷积神经网络模型被成功地应用到了医学图像分类问题中，并且相对于传统图像分类技术取得了巨大的突破。但是不同于拥有海量数据的自然场景图像分类问题，医学图像往往需要专业的领域专家进行标注，其代价非常昂贵，因此，医学领域中有标注的数据非常稀少。此外，医学图像分类问题中显著的类内差异性和类间相似性给分类问题带来了极大的困扰，我们需要根据成像的模态而非成像的组织部位进行类别判断，影像中解剖结构和位置的差异很容易使得模型在分类过程中被严重混淆。文献“KumarA,KimJ,LyndonD,etal.AnEnsembleofFine-TunedConvolutionalNeuralNetworksforMedicalImageClassification[J].IEEEJournalofBiomedical&HealthInformatics,2016,PP(99):1-1.”公开了一种基于多个预训练网络集成的医学图像分类方法。该方法利用大规模图像目标分类数据库ImageNet训练多个卷积神经网络，根据小样本的医学影像数据对这些预训练网络进行微调，使得这些网络的参数适应医学图像分类任务。大量的实验已经证明了深度神经网络具有很强的特征迁移能力，这从一定程度上解决了医学影像分类中的小样本学习问题。然后将这些预训练网络的决策概率集成平均得到最后的分类概率，这种集成的思想能够进一步提升模型的分类性能。文献所述方法通过将多个预训练模型输出的预测概率平均得到最后的分类结果，这些预训练网络在训练和预测的时候彼此相互独立，对于那些很难分对的样本来说，简单的集成方法并不能改善最后的分类结果。因此，该文献中的方法并不能很好地解决医学影像分类中类内差异和类间相似的问题。
技术实现思路
为了克服现有医学图像分类方法分类准确率差的不足，本专利技术提供一种基于协同深度学习的医学图像分类方法。该方法采用两个深度卷积神经网络之间协同学习方法，通过成对学习模式进行训练，每次模型接受图像对儿作为输入，一对儿图像分别被输送到对应的深度卷积神经网络中。由于医学图像分类问题中的数据量都比较小，故采用微调预训练模型的方法对这些深度卷积网络进行初始化和训练。为了增强网络特征学习能力，设计一个协同学习系统巧妙地使两个深度网络进行互助学习。该协同系统用来对图像对儿的异同属性进行监督，即是否属于用一个类别，并且实时地将两个深度卷积网络产生的协同误差进行反向传播、修正网络的权值，从而进一步加强网络学习特征表征的能力，能够更加有效地对易混淆样本作出准确地判别。本专利技术解决其技术问题所采用的技术方案是：一种基于协同深度学习的医学图像分类方法，其特点是包括以下步骤：步骤一、采用预训练残差深度卷积神经网络的参数分别初始化两个卷积神经网络的参数θA,θB，以及协同学习系统的参数θVS,初始化学习率η(t)和超参数λ。步骤二、采用图像对儿的训练模式对模型进行训练。每输入一个图像对儿，两个深度预训练神经网络分别在倒数第二个全连接层生成深度特征，记为xAT、xBT,将这两个深度特征进行联结得到一个组合特征，记为(xAT，xBT),模型的三个监督信号分别为yA,yB和yVS。步骤三、分别计算两个预训练卷积网络和协同学习系统产生的损失值lA(θA),lB(θB)和lVS(θVS)。其中，M是训练集样本的个数，K是分类类别个数，K’值取2。步骤四、计算梯度值：这里λ是协同信号的权重因子，最后更新模型参数：θA＝θA-η(t)·ΔA，θB＝θB-η(t)·ΔB。本专利技术的有益效果是：该方法采用两个深度卷积神经网络之间协同学习方法，通过成对学习模式进行训练，每次模型接受图像对儿作为输入，一对儿图像分别被输送到对应的深度卷积神经网络中。由于医学图像分类问题中的数据量都比较小，故采用微调预训练模型的方法对这些深度卷积网络进行初始化和训练。为了增强网络特征学习能力，设计一个协同学习系统巧妙地使两个深度网络进行互助学习。该协同系统用来对图像对儿的异同属性进行监督，即是否属于用一个类别，并且实时地将两个深度卷积网络产生的协同误差进行反向传播、修正网络的权值，从而进一步加强网络学习特征表征的能力，能够更加有效地对易混淆样本作出准确地判别。由于采用了协同学习机制，深度卷积神经网络的特征学习能力得到了加强，克服了医学图像中存在的显著类内差异和类间相似问题而导致的基于深度学习的分类算法效果不佳的难点，预训练网络之间相互学习、共同提高的策略使得模型对易分错的样本具有很好的辨别能力，大大提高了医学图像分类的准确率。下面结合具体实施方式对本专利技术作详细说明。具体实施方式本专利技术基于协同深度学习的医学图像分类方法具体步骤如下：1.图像对儿输入。采用图像对儿的输入方式，随机从训练图像中抽样两个图像，分别输入到两个相应的卷积神经网络中进行训练。每一对儿图像有三个监督信号，分别是两个图像各自的类别标签以及这一对儿图像是否属于同一类别，这三个信号共同监督模型的训练。2.双重深度卷积神经网络训练。双重深度卷积神经网络模块是本算法中基本的组成部分，它包括两个完整的、具有独立功能的卷积神经网络A和B。原则上来说，任意结构的卷积神经网络都可以被基于深度学习模型的深层特征提取应用到该算法模块中。但是，考虑到医学图像数据的有限性和残差网络对图像的强大特征表征能力，便采用微调预训练网络的技术将残差网络作为两个卷积网络的初始模型。该预训练网络包括50个学习层，并且这些学习层的参数都是从ImageNet大规模图像数据集上学习得到的。卷积神经网络A和B的可学习参数分别标记为θA、θB，这里θA和θB不共享参数。为了使预训练的残差网络参数能够适应拟合医学图像分类的数据，对于一个K分类问题来说，需要去除原始残差网络中的所有全连接层，用1024个神经元的全连接层和K个神经元的全连接层来代替。这些新添加层的参数通过均匀分布U(-0.05,0.05)来初始化，并且每一个深度网络的损失函数设置为交叉熵函数这里M是整个训练集的样本容量，用随机梯度下降算法来优化卷积神经网络的参数θ。两个深度卷积神经网络分别从输入的图像对儿中接受输入序列，各自有相应的真实标签来监督两个网络各自分类学习的过程。3.协同学习系统。为了使两个神经网络之间互相学习、共同提高特征表达能力，独特设计了一个协同学习系统。该系统用于监督前面输入的图像对儿是否来自于同一个类别，其监督信号是图像对儿的异同属性。随机从训练数据中选择图像对儿，其属性值表示为这里xA和xB是从卷积神经神经网络A、B中学本文档来自技高网...

【技术保护点】
一种基于协同深度学习的医学图像分类方法，其特征在于包括以下步骤：步骤一、采用预训练残差深度卷积神经网络的参数分别初始化两个卷积神经网络的参数θ

【技术特征摘要】
1.一种基于协同深度学习的医学图像分类方法，其特征在于包括以下步骤：步骤一、采用预训练残差深度卷积神经网络的参数分别初始化两个卷积神经网络的参数θA,θB，以及协同学习系统的参数θVS,初始化学习率η(t)和超参数λ；步骤二、采用图像对儿的训练模式对模型进行训练；每输入一个图像对儿，两个深度预训练神经网络分别在倒数第二个全连接层生成深度特征，记为xAT、xBT,将这两个深度特征进行联结得到一个组合特征，记为(xAT，xBT),模型的三个监督信号分别为yA,yB和yVS；步骤三、分别计算两个预训练卷积网络和协同学习系统产生的损失值lA(θA),lB(θB)和lVS(θVS)；其中，M是训练集样本的个数，K是分类类别个数，K’值取2；步骤四、计算梯度值：

【专利技术属性】
技术研发人员：夏勇，张建鹏，谢雨彤，
申请(专利权)人：西北工业大学，
类型：发明
国别省市：陕西,61