System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于自监督学习的慢性伤口图像分割方法技术_技高网
当前位置: 首页 > 专利查询>东华大学专利>正文

基于自监督学习的慢性伤口图像分割方法技术

技术编号:40781191 阅读:5 留言:0更新日期:2024-03-25 20:25
本发明专利技术涉及一种基于自监督学习的慢性伤口图像分割方法,通过引入自监督的对比学习方法,对慢性伤口进行针对性优化,在伤口图像标注数据稀少时有效提升分割效果;使用聚类算法对慢性伤口图像进行自动分类,解决慢性伤口种类繁多,训练样本不平衡问题;针对慢性伤口边缘优化了不确定性算法,同时结合阈值自适应方法,提高模型分割精度。模型的各项指标经过自监督学习的框架训练和学习后,精确度、召回率、MIoU这些指标都有提升,其中召回率提升幅度最大,在初始训练阶段达到了17%的提升,虽然随着训练不断迭代,这个领先幅度会有所下降,但是相对普通的UNet分割模型始终保持了一定领先优势。

【技术实现步骤摘要】

本专利技术涉及一种图像处理技术,特别涉及一种基于自监督学习的慢性伤口图像分割方法


技术介绍

1、慢性伤口是一种无法通过正常治疗过程达到短时间内痊愈的伤口,在创面治疗过程中,临床医生需要对创面进行持续的测量和评估,以监测创面愈合过程和治疗效果,使用有监督深度学习方法对伤口创面进行辅助诊断与评估需要大量的标注数据,而慢性伤口相关数据集目前难以达到这种条件。

2、目前来说,伤口分割的研究可以分为传统的机器学习和新兴的深度学习技术两大类,机器学习依赖于手动调整的参数,需要庞大的特征工作,对于特殊病例不能做到有效的免疫。而后续的深度学习的发展正在逐步解决这些问题。深度卷积神经网络(dcnn)在医学图像分割任务中获得了良好的性能,但是这种基于有监督学习的模型需要大量的有标注数据才能训练出一个效果比较好的模型,在慢性伤口领域,要获得带有大规模像素级标注的数据集耗时、耗力且昂贵,需要专业的临床经验。为了减轻人们注释的负担,已经提出了许多监督学习之外的方法来提高医学成像的标签效率,包括半监督学习,自监督学习,迁移学习。

3、在这其中,自监督学习相比其他方法展现出了明显优势,在预训练阶段完全不需要任何标注数据,仅通过预设的接口任务来学习数据样本的有用的表示,能够较好解决标注数据稀少的问题。自监督方法通过学习在不同失真下不变的表示,达到与有监督相同或者更好效果,已经有不少文章证明了其在很多知名公开数据集上(比如imagenet)的有效性。这种思想被称为对比学习并受到越来越多的关注。就目前而言,大量的研究还是局限于自然图像的分类,对于特定图像的分割,尤其是慢性伤口图像的相关研究还比较稀少,缺乏对于实际问题的应用与研究。


技术实现思路

1、针对伤口分割的研究问题,提出了一种基于自监督学习的慢性伤口图像分割方法。

2、本专利技术的技术方案为:一种基于自监督学习的慢性伤口图像分割方法,具体包括如下步骤:

3、1)首先采用全量无标注慢性伤口图像数据送入用来进行自监督的预训练模型对分割模型中的编码器进行预训练,获得训练后编码器;

4、2)预训练结束后取出编码器,和共享参数的解码器拼接出分割模型,将全量无标注慢性伤口图像数据送入分割模型进行第一次训练,训练得到的模型作为初始模型,同时选择使用最低置信度方法对分割模型输出的矩阵进行不确定性度量;

5、3)全量无标注慢性伤口图像数据送入池中进行聚类,全量无标注数据聚类为多个簇,依次对每个簇内无标注慢性伤口图像数据送入初始模型中进行预测,根据步骤2)的不确定性度量挑选出簇中不确定性样本数据加入到待标注队列,直到待标注队列的数据达到数量,送往人工标注,完成图像数据标注,获得全量标注慢性伤口图像数据;

6、4)将步骤3)获得的全量标注慢性伤口图像数据送入初始模型进行训练,获得训练后分割模型,用于慢性伤口图像分割。

7、进一步,所述步骤1)自监督的预训练模型为对称的孪生网络模型,包括失真模块、分割模型中的编码器模块和投影模块,

8、所述失真模块:对每张输入的原始图片进行随机处理,在色彩抖动、灰度图、旋转翻转、裁剪中随机选取进行处理,以获得两个失真的视图,输入到所述编码器模块;

9、所述编码器模块:在编码器模块中,使用基于原始unet框架修改得来的分割模型中的编码器,两张失真图片在通过共享参数的两个编码器训练后,训练数据输出至投影模块;

10、所述投影模块,将训练数据投影到一个一维空间内,投影模块中投影网络包含两层,每层都包含全连接、relu激活和批量归一化模块。

11、进一步,所述对称的孪生网络模型训练方法:投影网络根据接收的训练数据生成两个一维向量来预测两者之间的特征相关阵,通过barlow twins的损失函数去进行梯度更新,目标使预测出的矩阵的对角元素不断趋近于1,满足同一伤口图片在不同的图像失真下输出不变,同时使输出矩阵的非对角元素不断趋近于0,将嵌入的不同向量之间去相关,最终使得不同视角下的特征的相关矩阵接近恒等矩阵;在这个阶段使用到的损失函数的定义见公式(1)和(2):

12、

13、

14、其中λ是一个正常数,权衡损失的第一项和第二项的重要性,其中c是在两个相同网络的输出za、zb之间沿着批次维度计算的互相关矩阵;b表示输入样本的批次索引,i、j表示网络输出的向量维度;最终c的取值范围会在-1到1之间,-1表示完全不相关,1表示完全相关。

15、进一步,所述步骤2)选择使用最低置信度方法对分割模型输出的矩阵进行不确定性度量,具体的公式如(6):

16、

17、n表示一张图中的像素数量,i、j表示像素点在特征图中的位置索引,pij表示在该位置的像素点所被预测为伤口区域的概率,当概率为0.5的时候表示伤口和背景的概率各占一半;所以计算一张图中所有像素的概率与0.5差值的绝对值,并进行相加求和除以像素数,得到不确定性平均值,从中选取最小值来确定最不确定的样本。

18、进一步,所述步骤4)对初始模型进行训练,损失函数部分,使用了二分交叉熵和dice系数相结合的损失函数通过为这两种损失函数分配不同的权重来保证训练过程的稳定下降,同时避免训练过程被大量背景像素做主导,从而偏向某个评估指标,具体公式见(3)、(4)、(5):

19、

20、

21、

22、在上面公式中,x表示实际的像素值,y表示预测的像素值;x表示分割出的真实伤口的像素数量,y表示预测出的伤口像素数量,因为这样算出来的交并比是随着效果的变好而变大,为了符合损失函数的优化方向,做了一个减法处理,并将值保持在0到1之间;α和β表示的是两种损失函数的权重参数,通过调整参数平衡二元交叉熵和dice系数损失之间的优缺点。

23、一种慢性伤口管理系统,利用所述基于自监督学习的慢性伤口图像分割方法,融合进小程序设计权限管理、病患信息、伤口管理和伤口诊断四大模块,构建慢性伤口管理系统,使用django作为后端框架,以微信小程序作为前端界面,通过mvc分层架构对模块框架进行内部划分。

24、本专利技术的有益效果在于:本专利技术基于自监督学习的慢性伤口图像分割方法,在伤口图像标注数据稀少时有效提升分割效果;针对慢性伤口边缘优化了不确定性算法,同时结合阈值自适应方法,提高模型分割精度。模型的各项指标经过我们的自监督学习的框架训练和学习后,精确度、召回率、miou这些指标都有提升,其中召回率提升幅度最大,在初始训练阶段达到了17%的提升,虽然随着训练不断迭代,这个领先幅度会有所下降,但是相对普通的unet分割模型始终保持了一定领先优势。

本文档来自技高网...

【技术保护点】

1.一种基于自监督学习的慢性伤口图像分割方法,其特征在于,具体包括如下步骤:

2.根据权利要求1所述基于自监督学习的慢性伤口图像分割方法,其特征在于,所述步骤1)自监督的预训练模型为对称的孪生网络模型,包括失真模块、分割模型中的编码器模块和投影模块,

3.根据权利要求2所述基于自监督学习的慢性伤口图像分割方法,其特征在于,所述对称的孪生网络模型训练方法:投影网络根据接收的训练数据生成两个一维向量来预测两者之间的特征相关阵,通过Barlow Twins的损失函数去进行梯度更新,目标使预测出的矩阵的对角元素不断趋近于1,满足同一伤口图片在不同的图像失真下输出不变,同时使输出矩阵的非对角元素不断趋近于0,将嵌入的不同向量之间去相关,最终使得不同视角下的特征的相关矩阵接近恒等矩阵;在这个阶段使用到的损失函数的定义见公式(1)和(2):

4.根据权利要求1所述基于自监督学习的慢性伤口图像分割方法,其特征在于,所述步骤2)选择使用最低置信度方法对分割模型输出的矩阵进行不确定性度量,具体的公式如(6):

5.根据权利要求1所述基于自监督学习的慢性伤口图像分割方法,其特征在于,所述步骤4)对初始模型进行训练,损失函数部分,使用了二分交叉熵和Dice系数相结合的损失函数通过为这两种损失函数分配不同的权重来保证训练过程的稳定下降,同时避免训练过程被大量背景像素做主导,从而偏向某个评估指标,具体公式见(3)、(4)、(5):

6.一种慢性伤口管理系统,其特征在于,利用权利要求1至5中任意一项所述基于自监督学习的慢性伤口图像分割方法,融合进小程序设计权限管理、病患信息、伤口管理和伤口诊断四大模块,构建慢性伤口管理系统,使用django作为后端框架,以微信小程序作为前端界面,通过MVC分层架构对模块框架进行内部划分。

...

【技术特征摘要】

1.一种基于自监督学习的慢性伤口图像分割方法,其特征在于,具体包括如下步骤:

2.根据权利要求1所述基于自监督学习的慢性伤口图像分割方法,其特征在于,所述步骤1)自监督的预训练模型为对称的孪生网络模型,包括失真模块、分割模型中的编码器模块和投影模块,

3.根据权利要求2所述基于自监督学习的慢性伤口图像分割方法,其特征在于,所述对称的孪生网络模型训练方法:投影网络根据接收的训练数据生成两个一维向量来预测两者之间的特征相关阵,通过barlow twins的损失函数去进行梯度更新,目标使预测出的矩阵的对角元素不断趋近于1,满足同一伤口图片在不同的图像失真下输出不变,同时使输出矩阵的非对角元素不断趋近于0,将嵌入的不同向量之间去相关,最终使得不同视角下的特征的相关矩阵接近恒等矩阵;在这个阶段使用到的损失函数的定义见公式(1)和(2):

4.根据权利要...

【专利技术属性】
技术研发人员:杨晟钱辰李继云刘迎
申请(专利权)人:东华大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1