基于误差修正与区域权重引导知识蒸馏的影像检测方法技术

本申请涉及一种基于误差修正与区域权重引导知识蒸馏的影像检测方法，克服了基于知识蒸馏的影像检测中存在的教师网络误差传播及前景背景比例不均衡的问题，通过可变形卷积对教师网络的预测误差进行修正，保证在蒸馏的过程中学生网络能够学习到正确的特征表达，防止负样本的产生与检测精度的下降；此外通过区域权重损失函数增强学生网络对前景区域的重点学习，抑制背景噪声对学生网络的蒸馏带来的负面影响；在传统的知识蒸馏方法的基础上提升了蒸馏的性能，兼顾了网络的精度与推理速度。兼顾了网络的精度与推理速度。兼顾了网络的精度与推理速度。

【技术实现步骤摘要】
基于误差修正与区域权重引导知识蒸馏的影像检测方法


[0001]本申请涉及人工智能与医学图像
，具体地，涉及一种基于误差修正与区域权重引导知识蒸馏的影像检测方法。

技术介绍

[0002]CT影像是目前诊断的重要方式之一，在临床治疗中，医生通过观察腹部影像中的信息为患者制定治疗方案。然而受主观因素影响，该方式存在一定的局限性，且效率低下。随着科学技术的发展，使用大量参数自动拟合数据特点的卷积神经网络逐渐被应用于影像病灶检测的任务中。基于卷积神经网络的病灶检测方法能够很大程度上弥补人工诊断的不足，然而其检测精度的提升以巨大的参数量和复杂的网络结构为代价，这造成了该方法在落地应用时运行缓慢的问题。
[0003]为提高算法的运算效率，满足精度与速度的性能要求，现有的方法常使用知识蒸馏获取轻量化的网络。知识蒸馏通过将大体量教师网络的输出作为标签并引导轻量化的学生网络模仿该输出来达到将教师网络中的先验知识传递至学生网络中的目的。然而传统的知识蒸馏方法在应用于影像中的异常区域检测任务时存在两个问题：一是教师网络存在的误差同样能传递至学生网络中，致使学生网络产生副样本并降低准确率；二是目标检测存在前景与背景比例不均衡的问题，在蒸馏过程中学生网络对背景噪声的模仿可能对其精度的提升带来负面效果。

技术实现思路

[0004]为了克服现有技术中的至少一个不足，本申请提供一种基于误差修正与区域权重引导知识蒸馏的影像检测方法。
[0005]第一方面，提供一种影像检测网络构建方法，包括：
[0006]构建数据集；数据集中包括多张标注过的影像样本；
[0007]构建教师网络和学生网络；
[0008]基于数据集对教师网络进行训练，得到训练后的教师网络；
[0009]将影像样本输入到训练后的教师网络和学生网络中，得到教师特征和学生特征；
[0010]确定训练后的教师网络的预测损失，根据训练后的教师网络的预测损失与设定阈值的大小，得到教师特征的可信特征；
[0011]根据可信特征和学生特征计算蒸馏损失；
[0012]确定学生网络的预测损失，学生网络的预测损失和蒸馏损失构成学生网络的训练损失；
[0013]将学生网络的训练损失进行反向传播，经过多次迭代训练，直到训练损失收敛，得到训练后的学生网络，即为影像检测网络。
[0014]在一个实施例中，基于数据集对教师网络进行训练，得到训练后的教师网络，包括：
[0015]教师网络包括ResNet101网络、特征金字塔网络FPN和卷积层；
[0016]将数据集中的影像样本输入到ResNet101网络和特征金字塔网络FPN，输出教师特征；
[0017]教师特征经过卷积层的卷积处理后，输出异常区域定位结果，采用softmax对异常区域定位结果进行类别分类，得到异常分类结果；异常区域定位结果和异常分类结果构成异常区域的检测结果；
[0018]根据异常区域的检测结果和影像样本的标注框计算教师网络的预测损失；
[0019]将教师网络的预测损失反向传播，经过多次迭代训练，直到预测损失收敛，得到训练后的教师网络。
[0020]在一个实施例中，根据训练后的教师网络的预测损失与设定阈值的大小，得到教师特征的可信特征，包括：
[0021]将影像样本输入到训练后的教师网络中，计算训练后的教师网络的预测损失G；
[0022]若训练后的教师网络的预测损失G>设定阈值T，则采用基于可变形卷积的自修正机制对教师特征进行修正，得到修正后的教师特征，即可信特征；
[0023]若训练后的教师网络的预测损失G≤设定阈值T，则将教师特征作为可信特征。
[0024]在一个实施例中，采用基于可变形卷积的自修正机制对教师特征进行修正，得到修正后的教师特征，包括：
[0025]将影像样本输入到训练后的教师网络中，得到的异常区域定位结果中包括预测框；
[0026]根据预测框和影像样本中的标注框，确定坐标偏移矩阵；
[0027]基于坐标偏移矩阵对教师特征进行双线性插值，得到双线性插值后的教师特征；
[0028]将双线性插值后的教师特征和教师特征相加，再进行卷积，得到修正后的教师特征。
[0029]在一个实施例中，根据预测框和影像样本中的标注框，确定坐标偏移矩阵，包括：
[0030]确定初始坐标偏移矩阵P，所述初始坐标偏移矩阵P中第i个元素用P
i
表示，P
i
＝(P
ix
,P
iy
)，P
ix
为第i个元素在x方向上的偏移量，P
iy
为第i个元素在y方向上的偏移量，i＝1,2,3,4；P
ix
和P
iy
采用以下公式计算：
[0031]P
1x
＝x
‑
x',P
1y
＝y
‑
y'
[0032]P
2x
＝x+w
‑
x'
‑
w',P
2y
＝y
‑
y'
[0033]P
3x
＝x
‑
x',P
3y
＝y+h
‑
y'
‑
h'
[0034]P
4x
＝x+w
‑
x'
‑
w',P
4y
＝y+h
‑
y
‑
h'
[0035]其中，x与y分别表示标注框左上角的横坐标与纵坐标，x'与y'分别表示预测框左上角的横坐标与纵坐标，w'与h'分别表示预测框的宽与高，w与h分别表示标注框的宽与高；
[0036]对初始坐标偏移矩阵P中的每个元素进行归一化，得到最终的坐标偏移矩阵P
′
：
[0037]P
i
′
＝k
×
(P
i
‑
min(P))
‑
a
[0038][0039]其中，P
i
′
为坐标偏移矩阵P
′
中第i个元素，k为偏移中间值，min(P)为初始坐标偏移矩阵P中元素的最小值，max(P)为初始坐标偏移矩阵P中元素的最大值，a为偏移量的最大
范围。
[0040]在一个实施例中，根据可信特征和学生特征计算蒸馏损失，包括：
[0041]将可信特征和学生特征进行拼接后输入pathGAN网络，输出评价矩阵；
[0042]根据评价矩阵和权重矩阵，计算蒸馏损失，采用如下公式：
[0043]L
d
＝MSE(P
s
×
weights,ones)
[0044]其中，L
d
为蒸馏损失，P
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种影像检测网络构建方法，其特征在于，包括：构建数据集；所述数据集中包括多张标注过的影像样本；构建教师网络和学生网络；基于所述数据集对所述教师网络进行训练，得到训练后的教师网络；将所述影像样本输入到所述训练后的教师网络和学生网络中，得到教师特征和学生特征；确定所述训练后的教师网络的预测损失，根据所述训练后的教师网络的预测损失与设定阈值的大小，得到所述教师特征的可信特征；根据所述可信特征和所述学生特征计算蒸馏损失；确定所述学生网络的预测损失，所述学生网络的预测损失和所述蒸馏损失构成所述学生网络的训练损失；将所述学生网络的训练损失进行反向传播，经过多次迭代训练，直到所述训练损失收敛，得到训练后的学生网络，即为所述影像检测网络。2.如权利要求1所述的方法，其特征在于，其中，基于所述数据集对所述教师网络进行训练，得到训练后的教师网络，包括：所述教师网络包括ResNet101网络、特征金字塔网络FPN和卷积层；将所述数据集中的影像样本输入到所述ResNet101网络和特征金字塔网络FPN，输出教师特征；所述教师特征经过所述卷积层的卷积处理后，输出异常区域定位结果，采用softmax对所述异常区域定位结果进行类别分类，得到异常分类结果；所述异常区域定位结果和所述异常分类结果构成异常区域的检测结果；根据所述异常区域的检测结果和所述影像样本的标注框计算所述教师网络的预测损失；将所述教师网络的预测损失反向传播，经过多次迭代训练，直到所述预测损失收敛，得到训练后的教师网络。3.如权利要求1所述的方法，其特征在于，其中，根据所述训练后的教师网络的预测损失与设定阈值的大小，得到所述教师特征的可信特征，包括：将所述影像样本输入到所述训练后的教师网络中，计算所述训练后的教师网络的预测损失G；若所述训练后的教师网络的预测损失G>设定阈值T，则采用基于可变形卷积的自修正机制对所述教师特征进行修正，得到修正后的教师特征，即所述可信特征；若所述训练后的教师网络的预测损失G≤设定阈值T，则将所述教师特征作为所述可信特征。4.如权利要求3所述的方法，其特征在于，其中，采用基于可变形卷积的自修正机制对所述教师特征进行修正，得到修正后的教师特征，包括：将所述影像样本输入到所述训练后的教师网络中，得到的异常区域定位结果中包括预测框；根据所述预测框和所述影像样本中的标注框，确定坐标偏移矩阵；基于所述坐标偏移矩阵对所述教师特征进行双线性插值，得到双线性插值后的教师特
征；将所述双线性插值后的教师特征和所述教师特征相加，再进行卷积，得到修正后的教师特征。5.权利要求4所述的方法，其特征在于，其中，根据所述预测框和所述影像样本中的标注框，确定坐标偏移矩阵，包括：确定初始坐标偏移矩阵P，所述初始坐标偏移矩阵P中第i个元素用P
i
表示，P
i
＝(P
ix
,P
iy
)，P
ix
为第i个元素在x方向上的偏移量，P
iy
为第i个元素在y方向上的偏移量，i＝1,2,3,4；P
ix
和P
iy
采用以下公式计算：P
1x
＝x
‑
x',P
1y
＝y
‑
y'P
2x
＝...

【专利技术属性】
技术研发人员：谢飞，曾心昊，卢伟，熊郁希，曹紫然，
申请(专利权)人：上海艺冉医疗科技股份有限公司，
类型：发明
国别省市：