基于结构熵采样的多目标架构搜索骨质疏松图像识别方法技术

本发明专利技术公开了一种基于结构熵采样的多目标架构搜索骨质疏松图像识别方法，包括：1收集含骨密度信息的腰椎X光图像数据并进行预处理，划分为训练集和验证集；2初始化神经网络结构种群；3将种群中所有个体解码成对应的神经网络架构，并使用X光图片训练集对每个神经网络进行训练，将不同类别识别的准确率和神经网络的参数量作为适应度值；4根据个体的适应度值进行交配池选择、基于结构熵采样的交叉变异和环境选择；5重复上述过程进行启发式网络结构搜索，达到预设定条件结束进化，并输出最优的网络结构；6利用训练集重新训练所获得的最优网络结构。本发明专利技术能自动搜索适应腰椎X光图像数据集的卷积神经网络架构，实现对腰椎X光图像的分类。图像的分类。图像的分类。

【技术实现步骤摘要】
基于结构熵采样的多目标架构搜索骨质疏松图像识别方法


[0001]本专利技术属于计算机/机器学习中的自动化机器学习和神经网络架构搜索领域，具体的说是一种基于结构熵采样的多目标架构搜索骨质疏松图像识别方法。

技术介绍

[0002]医疗图像识别领域利用影像测试的形式，诸如X射线、超声波、CT和核磁共振，来辅助医生。目前随着深度学习的发展，卷积神经网络(CNNs)已经成为图像识别领域的主流技术，同时在医学图像的识别任务上时提供了巨大的诊断支持。因此，设计具有较优性能的神经网络结构能够极大提升医疗图像的识别准确率。
[0003]现有的神经架构搜索设计方法包括：基于人工设计的网络架构设计方法和自动化网络架构搜索方法(NAS)；然而基于人工设计的网络架构设计方法往往需要大量的专业知识和实验时间，诸如线性结构模型VGGNet、残差结构模型ResNet、多分支结构模型GoogLeNet这些经典的卷积神经网络结构都是专业人员精心设计的。
[0004]自动化网络架构搜索方法(NAS)主要包含三种搜索策略：基于强化学习、基于梯度优化和基于进化算法。
[0005]基于强化学习的方法主要是利用强化学习作为优化算法，将卷积神经网络结构中的操作算子建模成序列输入到RNN中，作为强化学习不断学习优化的参数，最终搜索出优秀的算子结构以及对应的连接关系。这类方法的效果优于上述经典网络，但是由于搜索空间庞大，非常的耗时。
[0006]基于梯度优化的方法主要将网络结构建模成多维优化问题中的决策变量，然后使用梯度法来优化搜索空间中的参数，从而能够在搜索空间中连续的探索结构，而不是离散的搜索，这种方法更具有可解释性。
[0007]基于进化算法的方法主要将网络结构建模成种群个体，基于多目标进化算法进行启发式的探索，由于进化算法在多目标和全局优化上有着显著的优势，因此该方法往往能有很好的性能。
[0008]上述的网络结构搜索方法相比传统的人工设计网络具有优势，但是均非常的耗时并且容易忽略搜索空间中解的分布性。

技术实现思路

[0009]本专利技术为解决现有技术的不足之处，提供了一种基于结构熵采样的多目标架构搜索骨质疏松图像识别方法，以期望能够搜索出更加有效的神经网络结构用于骨质疏松图像的识别分类，从而提高分类准确性。
[0010]为解决上述技术问题，本专利技术采用的技术方案是：
[0011]本专利技术一种基于结构熵采样的多目标架构搜索骨质疏松图像识别方法的特点是按以下步骤进行：
[0012]步骤0、采集n张含有骨密度标签的腰椎X光图像并进行预处理，得到数据集D
all
，并
划分为训练集D
tra
和验证集D
vall
，且腰椎X光图像共有I种类别；
[0013]步骤1、构建由NC个卷积块和RC个下采样块组成的卷积神经网络结构A；每个卷积块和下采样块的节点个数相同，并由m个节点构成，每个节点表示一种操作，所述操作的类型包括卷积操作、下采样操作、全连接操作以及通道注意力操作，节点之间存在连接用“1”表示，否则用“0”表示；所述卷积块中的所有操作的步长均为1，所述下采样块中所有操作的步长均为2；所述神经网络结构A由NC个卷积块和RC个下采样块依次堆叠而成；所述神经网络结构A的稠密度由所有节点连接关系中“1”的个数表示；
[0014]步骤2、初始化所述神经网络结构的种群P
t
并进行迭代进化，获得最优网络结构A
best
；
[0015]步骤2.0、参数定义，包括：初始种群大小为N，候选子代种群大小为M，总的进化迭代次数为T，当前迭代次数为t，每个结构训练的最大次数为E
max
，交叉概率为a，变异概率为b，种群所有个体稠密度的划分间隔为α；
[0016]步骤2.1、初始化t＝1；随机初始化卷积神经网络结构的第t代种群P
t
，所述第t代种群P
t
由N个卷积网络结构的编码组成，其中任意一个卷积网络结构A所对应的编码记为E，所述编码E是位的二进制编码，其中，m表示所述卷积神经网络结构A中卷积块和下采样块中的节点个数；所述二进制编码包含卷积神经网络结构中层与层之间的连接关系以及节点的操作类型；
[0017]步骤2.2、将所述第t代种群P
t
中的N个编码映射成卷积神经网络结构信息，从而完成解码操作，构建完整的卷积神经网络结构；
[0018]步骤2.3、训练所述完整的卷积神经网络结构，获取个体适应度值：
[0019]将所述训练集D
tra
和验证集D
val
分别进行水平翻转、角度旋转、高斯加噪的增广处理及像素归一化操作后，将处理后的训练集D
’
tra
输入到所述完整的卷积神经网络结构中进行前向传播处理，并在反向传播处理中利用随机梯度下降算法对神经网络结构所对应的第t代种群P
t
中每个解码后的神经结构进行迭代训练，同时使用交叉熵损失函数来更新迭代训练过程中卷积神经网络结构的权重参数，直至达到最大训练次数E
max
为止，从而得到N个训练好的卷积神经网络结构；
[0020]将处理后的验证集D
’
val
分别输入N个训练好的卷积神经网络结构中，得到验证集D
’
val
的N个准确率并将其作为N个个体的适应度值F1，将训练好的卷积神经网络结构的参数量作为适应度值F2；
[0021]步骤2.4、交配池选择：
[0022]在第t代种群P
t
中每次有放回的随机抽取两个父代个体，并使用二进制锦标赛选择法将所述适应度值F1更大的个体保留，从而得到种群规模为N的第t代交配池P
t
’
；
[0023]步骤2.5、基于结构熵采样的个体交叉变异：
[0024]步骤2.5.1、依次从所述第t代交配池P
t
’
中随机抽取两个父代个体p1和p2，以交叉率a和变异率b分别进行编码的交叉操作和变异操作，从而得到两个子代个体o1和o2；
[0025]步骤2.5.2、重复M/2次步骤2.5.1，从而得到种群规模为M的第t代候选子代种群Q
t
’
；
[0026]步骤2.5.3、根据式(1)所示的结构熵公式计算第t代父代种群P
t
的初始结构熵AE
(P
t
)：
[0027][0028]式(1)中，F
′
max
和F
′
min
表示当前种群所有个体中最大的稠密度值和最小的稠密度值，α表示当前种群所有个体稠密度值等分的间隔，Q表示根据所述个体稠密度等分间隔划分的区间数量，N表示种群的规模，表示第t代种群的第j个区间，表示第t代种群中的第j个区间中的个体数量占种群数量的比例；
[0本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于结构熵采样的多目标架构搜索骨质疏松图像识别方法，其特征是按以下步骤进行：步骤0、采集n张含有骨密度标签的腰椎X光图像并进行预处理，得到数据集D
all
，并划分为训练集D
tra
和验证集D
vall
，且腰椎X光图像共有I种类别；步骤1、构建由NC个卷积块和RC个下采样块组成的卷积神经网络结构A；每个卷积块和下采样块的节点个数相同，并由m个节点构成，每个节点表示一种操作，所述操作的类型包括卷积操作、下采样操作、全连接操作以及通道注意力操作，节点之间存在连接用“1”表示，否则用“0”表示；所述卷积块中的所有操作的步长均为1，所述下采样块中所有操作的步长均为2；所述神经网络结构A由NC个卷积块和RC个下采样块依次堆叠而成；所述神经网络结构A的稠密度由所有节点连接关系中“1”的个数表示；步骤2、初始化所述神经网络结构的种群P
t
并进行迭代进化，获得最优网络结构A
best
；步骤2.0、参数定义，包括：初始种群大小为N，候选子代种群大小为M，总的进化迭代次数为T，当前迭代次数为t，每个结构训练的最大次数为E
max
，交叉概率为a，变异概率为b，种群所有个体稠密度的划分间隔为α；步骤2.1、初始化t＝1；随机初始化卷积神经网络结构的第t代种群P
t
，所述第t代种群P
t
由N个卷积网络结构的编码组成，其中任意一个卷积网络结构A所对应的编码记为E，所述编码E是位的二进制编码，其中，m表示所述卷积神经网络结构A中卷积块和下采样块中的节点个数；所述二进制编码包含卷积神经网络结构中层与层之间的连接关系以及节点的操作类型；步骤2.2、将所述第t代种群P
t
中的N个编码映射成卷积神经网络结构信息，从而完成解码操作，构建完整的卷积神经网络结构；步骤2.3、训练所述完整的卷积神经网络结构，获取个体适应度值：将所述训练集D
tra
和验证集D
val
分别进行水平翻转、角度旋转、高斯加噪的增广处理及像素归一化操作后，将处理后的训练集D
’
tra
输入到所述完整的卷积神经网络结构中进行前向传播处理，并在反向传播处理中利用随机梯度下降算法对神经网络结构所对应的第t代种群P
t
中每个解码后的神经结构进行迭代训练，同时使用交叉熵损失函数来更新迭代训练过程中卷积神经网络结构的权重参数，直至达到最大训练次数E
max
为止，从而得到N个训练好的卷积神经网络结构；将处理后的验证集D
’
val
分别输入N个训练好的卷积神经网络结构中，得到验证集D
’
val
的N个准确率并将其作为N个个体的适应度值F1，将训练好的卷积神经网络结构的参数量作为适应度值F2；步骤2.4、交配池选择：在第t代种群P
t
中每次有放回的随机抽取两个父代个体，并使用二进制锦标赛选择法将所述适应度值F1更大的个体保留，从而得到种群规模为N的第t代交配池P
t
’
；步骤2.5、基于结构熵采样的个体交叉变异：步骤2.5.1、依次从所述第t代交配池P
t
’
中随机抽取两个父代个体p1和p2，以交叉率a和变异率b分别进行编码的交叉操作和变异操作，从而得到两个子代个体o1和o2；步骤2.5.2、重复M/2次步骤2.5.1，从而得到种群规模为M的第t代候选子代种群Q
t
’
；
步骤2.5.3、根据式(1...

【专利技术属性】
技术研发人员：邱剑锋，俞晓山，张兴义，王啟军，
申请(专利权)人：安徽大学，
类型：发明
国别省市：