System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于可控扩散模型的心脏X光图像生成和编辑方法技术_技高网
当前位置: 首页 > 专利查询>浙江大学专利>正文

一种基于可控扩散模型的心脏X光图像生成和编辑方法技术

技术编号:40292178 阅读:3 留言:0更新日期:2024-02-07 20:42
本发明专利技术公开了一种基于可控扩散模型的心脏X光图像生成和编辑方法,具体包括如下步骤:将原始心脏X光图像输入到视觉文本大规模预训练模型中,利用其疾病类别作为标签,得到每张原始心脏X光图像的生成文本描述;利用生成文本描述和疾病类别构建自定义文本描述,将原始心脏X光图像和自定义文本描述一起输入到微调可控扩散模型中,得到新生成的心脏X光图像,完成心脏X光图像生成过程;将需要编辑的心脏X光图像输入到目标检测网络中,生成心脏X光图像的注意力图;利用注意力图作为掩码,自定义文本描述作为控制条件,利用微调可控扩散模型进行心脏疾病区域的修正,输出所述扩充数据集中已编辑的心脏X光图像,完成心脏X光图像编辑过程。

【技术实现步骤摘要】

本专利技术涉及计算机视觉领域,特别地涉及一种基于可控扩散模型的心脏x光图像生成和编辑方法。


技术介绍

1、心脏疾病是指涉及心脏结构和功能的各种疾病,包括冠心病、心肌梗死、心力衰竭、心律失常等。心脏疾病是全球范围内的主要健康问题,对人们的健康和生活质量造成严重影响。医学图像处理是应用计算机视觉和图像处理技术于医学图像领域的研究。它可以用于医学影像的分析、诊断和治疗规划。

2、生成和编辑心脏x光图片是医学图像处理的一个重要应用领域。生成和编辑心脏x光图片的技术结合了深度学习的生成模型和医学图像处理的需求。它可以通过训练深度学习模型来学习心脏x光图像的特征分布,然后使用该模型生成逼真的图像。同时,通过编辑输入条件,可以控制生成图像的特征和属性,实现对心脏x光图片的灵活控制和修改。这项技术有助于医学研究、医学教育和医学图像处理算法的验证和优化。但是,如何高效获得利用生成模型如何生成可控的心脏x光图片成为挑战。


技术实现思路

1、本专利技术的目的在于解决现有技术中存在的问题,并提供一种基于可控扩散模型的心脏x光图像生成和编辑方法。

2、本专利技术所采用的具体技术方案如下:

3、s1.获取一个经过训练的视觉文本大规模预训练模型,将原始心脏x光图像输入到所述视觉文本大规模预训练模型中,利用原始心脏x光图像的疾病类别作为标签,得到每张原始心脏x光图像的生成文本描述;每个所述生成文本描述均为一个能够描述原始心脏x光图像的句子;

4、s2.获取一个经过微调的用于心脏x光图像生成的微调可控扩散模型,利用所述生成文本描述和所述疾病类别构建原始心脏x光图像的自定义文本描述,将原始心脏x光图像和所述自定义文本描述一起输入到所述微调可控扩散模型中,得到新生成的心脏x光图像;每个所述自定义文本描述均为一个能够描述心脏是否健康、以及不健康心脏疾病类别的句子;

5、s3.将所述新生成的心脏x光图像与所述原始心脏x光图像合并,构成心脏x光图像的扩充数据集,完成心脏x光图像生成过程;

6、s4.获取一个经过训练的心脏x光图像的目标检测网络,将所述扩充数据集中需要编辑的心脏x光图像输入到所述目标检测网络中,生成所述需要编辑的心脏x光图像的注意力图;

7、s5.利用所述注意力图作为掩码,利用所述自定义文本描述作为控制条件,将所述微调可控扩散模型在所述扩充数据集上进行心脏疾病区域的修正,输出所述扩充数据集中已编辑的心脏x光图像,完成心脏x光图像编辑过程。

8、作为优选,所述视觉文本大规模预训练模型采用blip模型。

9、作为优选,所述原始心脏x光图像来源于fastmri数据集。

10、作为优选,所述微调可控扩散模型的微调过程为:利用所述生成文本描述作为控制条件,并更新可控扩散模型参数,将可控扩散模型在所述原始心脏x光图像上进行微调,得到所述微调可控扩散模型。

11、作为优选,所述可控扩散模型采用stable diffusion模型。

12、作为优选,所述目标检测网络的训练过程为:输入图像,将心脏x光图像的目标检测网络在所述扩充数据集上进行训练,并更新所述目标检测网络参数,输出图像的注意力图。

13、作为优选,所述目标检测网络采用densenet。

14、本专利技术相对于现有技术而言,具有以下有益效果:

15、本专利技术实施例基于深度学习技术发展了一种基于可控扩散模型的心脏x光图像生成和编辑方法。本专利技术以可控扩散模型为核心,配备视觉文本大规模预训练模型、基于深度学习的心脏x光图像的目标检测网络,实现利用少量心脏x光图像生成大量高质量心脏x光图像,并且通过注意力图,对心脏x光图像的病变区域进行编辑,具有现实意义和广阔的应用前景。

本文档来自技高网...

【技术保护点】

1.一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,所述视觉文本大规模预训练模型采用BLIP模型。

3.根据权利要求1所述的一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,所述原始心脏X光图像来源于FastMRI数据集。

4.根据权利要求1所述的一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,所述微调可控扩散模型的微调过程为:利用所述生成文本描述作为控制条件,并更新可控扩散模型参数,将可控扩散模型在所述原始心脏X光图像上进行微调,得到所述微调可控扩散模型。

5.根据权利要求4所述的一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,所述可控扩散模型采用Stable Diffusion模型。

6.根据权利要求1所述的一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,所述目标检测网络的训练过程为:输入图像,将心脏X光图像的目标检测网络在所述扩充数据集上进行训练,并更新所述目标检测网络参数,输出图像的注意力图。

7.根据权利要求6所述的一种基于可控扩散模型的心脏X光图像生成和编辑方法,其特征在于,所述目标检测网络采用DenseNet。

...

【技术特征摘要】

1.一种基于可控扩散模型的心脏x光图像生成和编辑方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于可控扩散模型的心脏x光图像生成和编辑方法,其特征在于,所述视觉文本大规模预训练模型采用blip模型。

3.根据权利要求1所述的一种基于可控扩散模型的心脏x光图像生成和编辑方法,其特征在于,所述原始心脏x光图像来源于fastmri数据集。

4.根据权利要求1所述的一种基于可控扩散模型的心脏x光图像生成和编辑方法,其特征在于,所述微调可控扩散模型的微调过程为:利用所述生成文本描述作为控制条件,并更新可控扩散模型参数,将可控扩散模型在所述原始...

【专利技术属性】
技术研发人员:李玺傅本尊
申请(专利权)人:浙江大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1