System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 非迭代轻量化网络蒸馏的配准方法、系统及轻量化方法技术方案_技高网

非迭代轻量化网络蒸馏的配准方法、系统及轻量化方法技术方案

技术编号:41157231 阅读:4 留言:0更新日期:2024-04-30 18:21
本发明专利技术提供了一种非迭代轻量化网络蒸馏的配准方法、系统及轻量化方法,包括设计非迭代轻量化配准网络,利用蒸馏框架中的渐进自蒸馏从迭代式配准网络获得笨重的非迭代配准网络,利用基于特征的蒸馏让笨重的非迭代配准网络蒸馏训练非迭代轻量化配准网络。非迭代轻量化配准网络能够在CPU上进行快速而准确的配准。本发明专利技术率先设计非迭代轻量化配准网络,用于在CPU上进行快速配准。率先设计从迭代式网络到非迭代轻量化网络的蒸馏框架,提升了蒸馏效果,为轻量化网络带来了性能提升。医学图像配准是外科手术的计算机辅助规划中必不可少的环节。在CPU上快速配准的模型能够大幅提高计算机辅助规划的应用场景和速度,提高外科手术规划流程的效率。

【技术实现步骤摘要】

本专利技术涉及外科手术的计算机辅助规划、医学图像处理、计算机视觉和知识蒸馏的,具体地,涉及非迭代轻量化网络蒸馏的配准方法、系统及轻量化方法,尤其涉及面向医学影像的基于非迭代轻量化网络蒸馏的快速配准方法。


技术介绍

1、在现代医学实践中,外科手术的计算机辅助规划、术中导航、图像引导的机器人干预、多帧组织运动跟踪等关键领域都离不开快速且准确的3d医学图像配准算法。目前,基于深度学习的医学图像配准依赖于gpu进行运算。在单独的cpu平台上,这些模型的运算效率大打折扣。这在外科手术的计算机辅助规划中是一个显著的局限性,限制了进行辅助规划的平台和场景。鉴于医疗机构采购高性能gpu设备所需的巨额开销,开发一种在cpu上也能快速且准确运行的配准模型变得尤为重要,有助于外科手术的计算机辅助规划的广泛和灵活应用。

2、有一些工作已经尝试对配准模型进行轻量化。专利《基于三维轻量化卷积神经网络的医学图像配准方法及装置》,申请公布号cn116580067a,尝试解决这一问题。该方法用跨通道低维卷积核的轻量化特征融合模块实现图像配准。然而,该方法只是在推理时间和参数量没有显著增加的条件下提高了网络的配准性能,也不具有继续轻量化的空间。论文《light-weight deformable registration using adversarial learning with distilling knowledge》,ieee transactions on medical imaging,vol.41,no.6,pp.1443-1453,2022.提出了一种新的轻量级可变形配准网络。该网络通过对抗学习和知识蒸馏的结合,有效地将高性能但计算成本高的教师网络中的信息转移到计算成本更低的学生网络中。然而,该轻量级网络依旧是迭代式网络,且网络的计算效率较低,深度配准模型无法在cpu上进行快速准确的推理。

3、因此,需要提出一种新的技术方案以改善上述技术问题。


技术实现思路

1、针对现有技术中的缺陷,本专利技术的目的是提供一种非迭代轻量化网络蒸馏的配准方法、系统及轻量化方法。

2、根据本专利技术提供的一种非迭代轻量化网络蒸馏的配准方法,所述方法包括如下步骤:

3、步骤s1:准备非迭代轻量化配准网络和迭代式配准网络;

4、步骤s2:通过渐进自蒸馏训练方法从迭代式配准网络获得非迭代配准网络,完成非迭代配准网络训练;

5、步骤s3:基于特征的蒸馏训练方法和非迭代配准网络,完成非迭代轻量化配准网络训练;在cpu上进行独立配准。

6、优选地,所述步骤s1包括如下步骤:

7、步骤s1.1:非迭代轻量化配准网络以u型网络为基础,包含编码器、解码器和跳跃连接;

8、步骤s1.2:编码器和解码器中每层分辨率的特征图仅使用一层卷积层进行下采样或上采样,卷积层设置输出通道维度;

9、步骤s1.3:网络直接生成0.5倍原始图像分辨率的变形场,并通过三线性插值获得原始分辨率的变形场。

10、优选地,所述步骤s2包括如下步骤:

11、步骤s2.1:以迭代式网络为基础,给第一个模块添加渐进自蒸馏损失和渐进无监督损失,两项损失的权重随着训练过程线性增加;

12、步骤s2.2:自蒸馏损失作用在第一个模块配准得到的变形场上,该损失的参考项为迭代式网络最终配准得到的复合变形场;

13、步骤s2.3:额外添加的无监督损失作用在第一个模块配准得到的形变图像上,参考项为固定图像;

14、步骤s2.4:参考的变形场不能由当前正在接受梯度回传的模型生成;

15、步骤s2.5:使用基本的无监督损失、正则项训练迭代式网络整体及其中的模块,对自蒸馏进行辅助。

16、优选地,所述步骤s2.1中:迭代式网络中使用n个结构相同的可变形配准模块,模块单独执行可变形配准任务,在迭代式网络中,每个模块都在上一个模块配准得到的形变图像的基础上配准得到变形场和新的形变图像,在一个迭代式网络中,产生一系列的变形场φ1,φ2…φn,将这一系列的变形场复合得到最终变形场φ;结束自蒸馏训练后,第一个模块单独执行配准任务,并被用于蒸馏步骤s1获得的非迭代轻量化配准网络;

17、所述步骤s2.2中:渐进自蒸馏损失的计算公式:

18、ldi2till-s=p1‖φ-φ1‖2+p1‖△φ-△φ1‖2

19、p1∈[0.0,k1]为权重,随着训练轮次线性增加,在训练的第一个轮次时p1=0.0,当训练到达最后一个轮次时p1=k1,其中k1为设置的常数,φ代表迭代式网络最终配准得到的复合变形场,φ1代表迭代式网络第一个模块配准得到的变形场,△表示导数运算,‖·‖2表示均方根误差;

20、所述步骤s2.3中:渐进无监督损失只作用于第一个模块配准得到的形变图像的计算公式为:

21、lcorr--1=p2(1-corrcoef[i1,i2])

22、其中相关系数为:

23、

24、其中协方差为:

25、

26、i1和i2分别表示两张图像,ω表示图像空间,|ω|表示图像中体素的数量,p2∈[0.0,k2]为权重,随着训练轮次线性增加,在训练的第一个轮次时p2=0.0,当训练到达最后一个轮次时p2=k2,其中k2为设置的常数;

27、所述步骤s2.4中:生成用于参考的复合变形场的模型应当来自上一个训练轮次,或者是模型参数的指数滑动平均;

28、所述步骤s2.5中:迭代式网络整体使用的无监督损失作用于网络最终配准得到的形变图像,损失的参考项为固定图像,无监督损失的计算公式为:

29、lcorr-n=1-corrcoef[i1,i2]

30、正则项作用于所有变形场,对于一例变形场,其计算公式为:

31、

32、其中ω表示图像空间,|ω|表示图像中体素的数量,ei是的自然基向量,用于描述偏导数的计算方向,f(·)表示图像一个坐标处的灰度值。

33、优选地,所述步骤s3包括如下步骤:

34、步骤s3.1:从步骤s1获得的非迭代轻量化配准网络和步骤s2获得的非迭代配准网络,两者的解码器部分中选择相同分辨率的特征图;

35、步骤s3.2:用回归头提高非迭代轻量化配准网络特征图的通道维度,与非迭代配准网络对应特征图的通道维度对齐,回归头中还包含随机掩码和复原用的卷积层;

36、步骤s3.3:用维度对齐后的非迭代轻量化配准网络的特征图和非迭代配准网络的特征图进行基于特征的蒸馏;

37、步骤s3.4:使用基本的无监督损失、正则项和变形场蒸馏训练非迭代轻量化配准网络,对基于特征的蒸馏起到辅助作用。

38、本专利技术还提供一种非迭代轻量化网络蒸馏的配准系统,所述系统包括如下模块:

39、模块m1:准备非迭代轻本文档来自技高网...

【技术保护点】

1.一种非迭代轻量化网络蒸馏的配准方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤S1包括如下步骤:

3.根据权利要求1所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤S2包括如下步骤:

4.根据权利要求3所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤S2.1中:迭代式网络中使用N个结构相同的可变形配准模块,模块单独执行可变形配准任务,在迭代式网络中,每个模块都在上一个模块配准得到的形变图像的基础上配准得到变形场和新的形变图像,在一个迭代式网络中,产生一系列的变形场φ1,φ2…φN,将这一系列的变形场复合得到最终变形场φ;结束自蒸馏训练后,第一个模块单独执行配准任务,并被用于蒸馏步骤S1获得的非迭代轻量化配准网络;

5.根据权利要求1所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤S3包括如下步骤:

6.一种非迭代轻量化网络蒸馏的配准系统,其特征在于,所述系统包括如下模块:

7.根据权利要求6所述的非迭代轻量化网络蒸馏的配准系统,其特征在于,所述模块M1包括如下模块:

8.根据权利要求6所述的非迭代轻量化网络蒸馏的配准系统,其特征在于,所述模块M2包括如下模块:

9.根据权利要求8所述的非迭代轻量化网络蒸馏的配准系统,其特征在于,所述模块M2.1中:迭代式网络中使用N个结构相同的可变形配准模块,模块单独执行可变形配准任务,在迭代式网络中,每个模块都在上一个模块配准得到的形变图像的基础上配准得到变形场和新的形变图像,在一个迭代式网络中,产生一系列的变形场φ1,φ2…φN,将这一系列的变形场复合得到最终变形场φ;结束自蒸馏训练后,第一个模块单独执行配准任务,并被用于蒸馏模块M1获得的非迭代轻量化配准网络;

10.一种多模态医学影像融合的轻量化方法,其特征在于,所述方法应用如权利要求1-5任一项所述的非迭代轻量化网络蒸馏的配准方法,所述方法应用于图像引导手术的智能规划。

...

【技术特征摘要】

1.一种非迭代轻量化网络蒸馏的配准方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤s1包括如下步骤:

3.根据权利要求1所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤s2包括如下步骤:

4.根据权利要求3所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤s2.1中:迭代式网络中使用n个结构相同的可变形配准模块,模块单独执行可变形配准任务,在迭代式网络中,每个模块都在上一个模块配准得到的形变图像的基础上配准得到变形场和新的形变图像,在一个迭代式网络中,产生一系列的变形场φ1,φ2…φn,将这一系列的变形场复合得到最终变形场φ;结束自蒸馏训练后,第一个模块单独执行配准任务,并被用于蒸馏步骤s1获得的非迭代轻量化配准网络;

5.根据权利要求1所述的非迭代轻量化网络蒸馏的配准方法,其特征在于,所述步骤s3包括如下步骤:

6.一种非迭代轻量化网络蒸馏...

【专利技术属性】
技术研发人员:卓永泰顾力栩
申请(专利权)人:上海交通大学内蒙古研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1