用于医学图像分割的ATFormer架构及对应方法技术

技术编号:37347832 阅读:34 留言:0更新日期:2023-04-22 21:43
本发明专利技术提供一种用于医学图像分割的ATFormer架构,包括补丁划分层、编码器、瓶颈层、解码器和线性投影层;补丁划分层,将输入的医学图像划分为非重叠的补丁图像;编码器,将非重叠的补丁图像生成不同分辨率下的特征图,特征图的分辨率降低和特征维度增加;瓶颈层,对特征图进行深度特征学习;解码器,将来自编码器的不同分辨率下的特征图在渐进式引导融合(PGF)模块的共同作用下,进行逐步上采样,上采样后的特征图的分辨率升高、特征维度降低,将特征图的分辨率恢复至原始分辨率;线性投影层,将解码器输出的特征图输出为逐像素级分割的预测结果。本发明专利技术提供了一种新的ATFormer架构,可用于医学图像分割,且分割结果精确。且分割结果精确。且分割结果精确。

【技术实现步骤摘要】
用于医学图像分割的ATFormer架构及对应方法


[0001]本专利技术涉及医学图像分析领域,更具体地,涉及一种用于医学图像分割的ATFormer架构及医学图像分割方法。

技术介绍

[0002]精确的医学图像分割结果对于医学图像分析(如临床辅助诊断、术前评估等)起着至关重要的作用。基于CNN的方法对于医学图像分割任务一直发挥着基石的作用,因为它对于图像具有平移不变性等归纳偏置。随着Transformer在自然语言处理(NLP)中取得成功,研究人员也将其广泛应用到医学图像处理领域中。然而,对于医学图像分割任务,基于Transformer的方法依然处于初步阶段。

技术实现思路

[0003]本专利技术针对现有技术中存在的技术问题,提供一种用于医学图像分割的ATFormer架构及医学图像分割方法。
[0004]根据本专利技术的第一方面,提供了一种用于医学图像分割的ATFormer架构,包括补丁划分层、编码器、瓶颈层、解码器和线性投影层;
[0005]补丁划分层,将输入的医学图像划分为非重叠的补丁图像;
[0006本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种用于医学图像分割的ATFormer架构,其特征在于,所述ATFormer架构包括补丁划分层、编码器、瓶颈层、解码器和线性投影层;补丁划分层,将输入的医学图像划分为非重叠的补丁图像;编码器,将非重叠的补丁图像生成不同分辨率下的特征图,特征图的分辨率降低和特征维度增加;瓶颈层,对特征图进行深度特征学习;解码器,将来自编码器的不同分辨率下的特征图在PGF模块的共同作用下,进行逐步上采样,上采样后的特征图的分辨率升高、特征维度降低,将特征图的分辨率恢复至原始分辨率;线性投影层,将解码器输出的特征图输出为逐像素级分割的预测结果。2.根据权利要求1所述的ATFormer架构,其特征在于,所述编码器包括补丁嵌入层以及串联的三组Advanced Transformer Block和补丁融合层;所述补丁嵌入层将每一个补丁图像的维度投影到指定维度;所述串联的三组Advanced Transformer Block和补丁融合层,基于指定维度的补丁图像,生成层次特征表示的特征图像;其中,所述Advanced Transformer Block通过低计算复杂度学习远程依赖性和局部上下文,所述补丁融合层负责生成下采样特征图,所述下采样特征图的分辨率降低、维度增加。3.根据权利要求2所述的ATFormer架构,其特征在于,每一组Advanced Transformer Block包括两个,每一个Advanced Transformer Block包括多头自注意力模块、两个后层归一化、含有GELU激活函数的AMix

FFN模块以及两个残差连接,其中一个Advanced Transformer Block中的多头自注意力模块为基于窗口机制的多头注意力W

MSA模块,另一个Advanced Transformer Block中的多头自注意力模块为基于移位窗口机制的多头注意力SW

MSA模块;第一个Advanced Transformer Block中的W

MSA模块、第一后层归一化、第一AMix

FFN模块和第二后层归一化依次连接,并且在W

MSA之前和第一后层归一化之后通过第一残差连接进行连接,第一AMix

FFN模块之前和第二后层归一化之后通过第二残差连接进行连接,第二个Advanced Transformer Block中的SW

MSA模块、第三后层归一化、第二AMix

FFN模块和第四后层归一化依次连接,并且在SW

MSA之前和第三后层归一化之后通过第三残差连接进行连接,第二AMix

FFN模块之前和第四后层归一化之后通过第四残差连接进行连接,所述第二后层归一化的输出与所述SW

MSA模块的输入连接。4.根据权利要求3所述的ATFormer架构,其特征在于,两个连续的Advanced Transformer Block表示为:Block表示为:Block表示为:Block表示为:
其中和z
l
分别表示第一个Advanced Transformer Block中的多头自注意力模块和第一AMix

FFN模块的输出;和z
l+1
分别表示第二个Advanced Transformer Block中的多头自注意力模块和第二AMix

FFN模块的输出;W

MSA和SW

【专利技术属性】
技术研发人员:谢勤岚陈勇陈红陆雪松
申请(专利权)人:中南民族大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1