【技术实现步骤摘要】
本专利技术属于基于知识蒸馏的图像语义分割，尤其涉及一种医学图像的偏差-方差分解分割方法。
技术介绍
1、尽管深度学习在医学图像分割方面表现出了良好的性能，但由于计算成本较高，将大多数深度神经网络部署在便携式嵌入式设备上将面临巨大挑战。由于知识蒸馏所具备的模型压缩潜力，知识蒸馏在医学图像分割领域引起了越来越多研究者的关注。最大化教师和学生网络之间的互信息是知识蒸馏的核心，其目的是通过让学生估计教师的分布来实现知识迁移。然而，教师和学生的分布并不总是一致的，教师提供的知识有时可能不可靠，例如带有伪标签。教师引起的噪音会带来数据的不确定性，如果不加区分地转移给学生，可能会干扰学生的学习。知识蒸馏需要学生积极参与探索教师所提供的信息。此外，学生需要具备识别教师网络中任何知识干扰的能力。
2、直接最大化教师和学生之间的互信息可能具有挑战性。为了解决这个问题，变分信息蒸馏(vid)引入了一种变分分布，旨在最大化变分下界。vid通常假设采用异方差均值和同方差噪声来进行变分分布。然而，实验表明，考虑异方差噪声会导致训练结果不稳定。已有研究利用异方差均值和异方差噪声来建立变分分布，在该方法中，教师和学生网络都使用相同的解码器，并且学生解码器的权重由教师网络初始化。最终结果表明该策略在超分辨率任务中表现良好。有人提出了一种在无监督语义分割域适应中对数据不确定性进行建模的策略。为了改进伪标签学习，建议结合一个可以帮助预测方差的辅助分类器。利用预测的数据不确定性，辅助分类器模型(acm)可以获得令人满意的结果。然而，异方差噪声的估计常常不稳
技术实现思路
1、为解决上述技术问题，本专利技术提供了一种医学图像的偏差-方差分解分割方法，能够避免数据的不确定性导致的不可靠评估。
2、为实现上述目的，本专利技术提供了一种医学图像的偏差-方差分解分割方法，包括：
3、获取医学图像；
4、将所述医学图像输入至图像分割模型，获取分割后的医学图像，其中，所述图像分割模型采用教师网络和学生网络，所述教师网络和学生网络的蒸馏过程中的偏差和方差采用偏差-方差理论进行解耦。
5、可选的，获取所述图像分割模型的过程包括：
6、利用教师网络获取对应的第一预测图像；
7、获取学生网络的预测期望图像；
8、基于所述第一预测图像和所述预测期望图像，获得偏差-方差分解蒸馏损失；
9、利用平衡因子优化训练所述偏差-方差分解蒸馏损失，直至所述偏差-方差分解蒸馏损失收敛，获得所述图像分割模型。
10、可选的，利用教师网络获取对应的第一预测图像前包括：对所述教师网络进行预训练处理。
11、可选的，对所述教师网络进行预训练处理包括：
12、利用随机掩码对初始医学图像进行变形处理，获取变形后的医学图像；
13、变形后的所述医学图像利用编码器，进行特征学习，利用解码器对特征学习后的所述医学图像进行图像恢复，获取恢复后的所述医学图像；
14、基于所述初始医学图像和恢复后的所述医学图像，计算重建损失；
15、基于所述重建损失，在获得所述初始医学图像和恢复后的所述医学图像后进行教师网络训练，直至所述初始医学图像和恢复后的所述医学图像一致，完成对所述教师网络的预训练。
16、可选的，获取所述学生网络的预测期望图像包括：利用学生网络获取第二预测图像，结合期望估计模块预测学生的期望，获取所述学生网络的预测期望图像。
17、可选的，结合期望估计模块预测学生的期望，获取所述学生网络的预测期望图像包括：
18、利用随机掩码对所述第二预测图像进行掩码处理，获取掩码特征；
19、利用3×3卷积和激活函数对所述掩码特征进行重建，获取重建后的特征；
20、基于重建后的所述特征，获取所述学生网络的预测期望图像。
21、可选的，获得所述偏差-方差分解蒸馏损失包括：
22、根据所述第一预测图像和所述第二预测图像，获得偏差；
23、基于所述第二预测图像和所述预测期望图像，获得方差；
24、基于所述偏差和方差，获得所述偏差-方差分解蒸馏损失。
25、可选的，利用平衡因子优化训练所述偏差-方差分解蒸馏损失，直至所述偏差-方差分解蒸馏损失收敛包括：
26、利用平衡因子优化训练所述偏差-方差分解蒸馏损失，获取优化后的所述偏差-方差分解蒸馏损失；
27、引入预设系数，使优化训练时的所述偏差-方差分解蒸馏损失收敛，获取最优的所述偏差-方差分解蒸馏损失完成训练所述图像分割模型的训练。
28、可选的，所述最优的所述偏差-方差分解蒸馏损失为：
29、
30、其中，lkd为偏差-方差分解蒸馏损失值，α为预设系数，为偏差，exp(-varkd)为平衡因子，varkd为方差，e为期望值。
31、与现有技术相比，本专利技术具有如下优点和技术效果：
32、(1)本专利技术致力于通过偏差-方差分解理论计算方差对教师预测的数据不确定性进行建模来进行有效的知识迁移。
33、(2)本专利技术在发现数据不确定性的不可靠建模归因于知识蒸馏过程中的偏差-方差耦合的基础上，致力于解耦知识蒸馏中的偏差和方差，从而获得了更优的学生网络分割模型。
34、(3)在最小化偏差和方差时遭遇两难窘境，本专利技术提出纳入一个平衡因子控制由偏差和方差组成的总体损失，同时充分利用教师的信息并减少向学生传递错误的信息。
本文档来自技高网...【技术保护点】
1.一种医学图像的偏差-方差分解分割方法，其特征在于，包括：
2.根据权利要求1所述的一种医学图像的偏差-方差分解分割方法，其特征在于，获取所述图像分割模型的过程包括：
3.根据权利要求2所述的一种医学图像的偏差-方差分解分割方法，其特征在于，利用教师网络获取对应的第一预测图像前包括：对所述教师网络进行预训练处理。
4.根据权利要求3所述的一种医学图像的偏差-方差分解分割方法，其特征在于，对所述教师网络进行预训练处理包括：
5.根据权利要求2所述的一种医学图像的偏差-方差分解分割方法，其特征在于，获取所述学生网络的预测期望图像包括：利用学生网络获取第二预测图像，结合期望估计模块预测学生的期望，获取所述学生网络的预测期望图像。
6.根据权利要求5所述的一种医学图像的偏差-方差分解分割方法，其特征在于，结合期望估计模块预测学生的期望，获取所述学生网络的预测期望图像包括：
7.根据权利要求6所述的一种医学图像的偏差-方差分解分割方法，其特征在于，获得所述偏差-方差分解蒸馏损失包括：
8.根据权利要求2所
9.根据权利要求8所述的一种医学图像的偏差-方差分解分割方法，其特征在于，所述最优的所述偏差-方差分解蒸馏损失为：
...【技术特征摘要】
1.一种医学图像的偏差-方差分解分割方法，其特征在于，包括：
2.根据权利要求1所述的一种医学图像的偏差-方差分解分割方法，其特征在于，获取所述图像分割模型的过程包括：
3.根据权利要求2所述的一种医学图像的偏差-方差分解分割方法，其特征在于，利用教师网络获取对应的第一预测图像前包括：对所述教师网络进行预训练处理。
4.根据权利要求3所述的一种医学图像的偏差-方差分解分割方法，其特征在于，对所述教师网络进行预训练处理包括：
5.根据权利要求2所述的一种医学图像的偏差-方差分解分割方法，其特征在于，获取所述学生网络的预测期望图像包括：利用学生网络获取第二预测图像，结合期望估计模块...
【专利技术属性】
技术研发人员：于祥春，段忠建，梁苗苗，张鼎文，郑剑，邱流进，许晴，
申请(专利权)人：江西理工大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。