System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于自监督学习与扩散生成模型的图像异常检测方法技术_技高网
当前位置: 首页 > 专利查询>东南大学专利>正文

一种基于自监督学习与扩散生成模型的图像异常检测方法技术

技术编号:41364170 阅读:4 留言:0更新日期:2024-05-20 10:12
本发明专利技术公开了一种基于自监督学习与扩散生成模型的图像异常检测方法,包括以下步骤:S1:获取正常图像样本并做预处理作为训练样本;S2:将训练样本送入扩散生成模型,定义噪声预测损失函数,不断通过反向传播更新噪声预测网络参数直至训练完成;步骤S3:获取正常样本并做预处理,同时利用异常数据集进行伪异常的合成作为分割网络的训练样本;步骤S4:将步骤S3中的训练样本送入扩散生成模型进行推理获得重构样本;步骤S5:将步骤S4中原始训练样本和重构样本进行拼接并送入分割网络,定义损失函数,不断通过反向传播更新网络参数直至训练完成;步骤S6:获取测试样本,进行预处理后送入扩散生成模型获得重构样本,并将该重构样本与经过预处理后的测试样本进行拼接;对分割结果进行后处理以获得图像级和像素级的异常检测结果。本发明专利技术使用扩散模型用于图像重构,提高了图像重构的质量;采用随机步数加噪的方法,使模型能够同时兼顾重构的整体特征和细节特征。同时本发明专利技术在传统图像重构类方法的基础上额外加入了分割网络,通过伪异常生成为分割网络构建了自监督学习任务,实现更准确的异常检测与定位效果。

【技术实现步骤摘要】

本专利技术涉及图像异常检测,特别是一种基于自监督学习与扩散生成模型的图像异常检测方法


技术介绍

1、异常检测技术是机器学习领域中的一个重要研究方向,其核心目的在于在检测出与正常样本不同的各类异常样本。图像异常检测作为其中一个分支,广泛应用于各类实际领域,如工业、医疗、交通等。随着深度学习技术的发展和计算推理能力的增强,越来越多的基于深度学习的图像异常检测方法涌现出来,表现出比传统方法更好的检测效果。

2、基于深度学习的图像异常检测主要可以分为基于特征嵌入和基于图像重构两大类方法。其中基于特征嵌入的方法使用预训练深度网络模型对图像提取特征,然后根据特征进行进一步的异常检测。这类方法虽整体效果良好,但依赖使用大量无关数据预训练的特征提取网络,使得其在某些特征场景下缺乏有效的特征提取和建模能力。基于图像重构的方法的核心思想是利用深度生成模型学习大量正常样本的分布,以获得对正常样本的重构能力,而在面对异常样本时模型不能很好的重构,因此对比原始图像与重构图像的不同就可以检测异常。

3、目前已有大量使用生成模型进行图像异常检测的研究,如自编码器,变分自编码器,生成对抗网络等。然而,自编码器和变分自编码器通常会有重建质量低的问题,生成对抗网络得益于其对抗训练的思想,有着较高的图像重建质量,但其训练过程往往难以控制。同时图像重构类方法都容易学得恒等重建,使得模型对异常样本也有一定的重构能力,影响最终的检测效果。


技术实现思路

1、针对现有基于图像重构图像异常检测方法的不足,本专利技术提供了一种基于自监督学习和扩散生成模型的图像异常检测方法,本方法引入自监督学习,利用正常样本合成伪异常样本,以减轻恒等重建问题对模型的影响;使用扩散生成模型作为图像重构网络,并利用多头自注意力改进噪声预测网络,进一步提高模型的重构能力。

2、本专利技术为解决上述技术问题采用以下技术方案:

3、根据本专利技术提出的一种基于自监督学习和扩散生成模型的图像异常检测方法,包括以下步骤:

4、步骤s1:获取正常图像样本并做预处理作为训练样本;

5、步骤s2:将训练样本送入扩散生成模型,定义噪声预测损失函数,不断通过反向传播更新噪声预测网络参数直至训练完成;训练完成是指扩散生成模型(图像重构部分)训练完成。这部分的功能是对输入图像进行重构,只利用无异常样本使得此部分只对无异常样本有重构能力,当输入为异常样本时就不能很好的重构,利用此特性分割网络就能识别出异常。

6、步骤s3:获取正常样本并做预处理,同时利用异常数据集进行伪异常的合成作为分割网络的训练样本;

7、步骤s4:将步骤s3中的训练样本送入扩散生成模型进行推理获得重构样本;

8、步骤s5:将步骤s4中送入扩散生成模型之前原始训练样本和重构样本进行拼接并送入分割网络,定义损失函数,不断通过反向传播更新网络参数直至训练完成;

9、步骤s6:获取测试样本,进行预处理后送入扩散生成模型获得重构样本,并将该重构样本与经过预处理后的测试样本进行拼接;对分割结果进行后处理以获得图像级和像素级的异常检测结果。

10、进一步的,在所述步骤s1中,预处理操作为将正常图像样本缩放至尺寸h×w,h和w分别为缩放后图像的高度和宽度;

11、进一步的,步骤s2的具体过程为:

12、步骤s21、对于训练样本x0,随机选取采样步数t∈[1,t],其中t为扩散模型的超参数总采样步数;

13、步骤s22、生成随机噪声

14、步骤s23、根据t和前向扩散加噪过程公式获得前向扩散结果,其中αi=1-βi;其中,βi,i∈[0,t]为设定好的根据采样步数变化的超参数;xt是指第t步加噪的图像;

15、步骤s24、将扩散结果和采样步数t送入噪声预测网络并根据损失函数l=||∈-∈θ(xt,t)||2反向传播更新噪声预测网络参数θ;其中,噪声预测网络为u-net结构的网络,对采样步数t进行嵌入以作为网络输入;∈θ指参数为θ的噪声预测网络;∈θ(xt,t)表示此网络输入为(xt,t)时的输出;

16、步骤s25、重复步骤s21-s24直至收敛;

17、进一步的,步骤s3的具体过程为:

18、步骤s31:生成二维perlin噪声并设定阈值进行二值化处理,并根据处理后的掩码和异常数据集上采样的异常纹理图像来构建伪异常样本;此处采用固定阈值的方法进行二值化,阈值设为0.5。

19、步骤s32:基于cutpaste方法生成伪异常样本;

20、步骤s33:分别以不同概率进行步骤s31和步骤s32的操作以获得增强图像xaug,当不进行增强时xaug=x0,并且根据伪异常生成方法获得分割网络的目标输出此目标输出是和训练样本x0具有相同高和宽的单通道二值图。伪异常就是指s31,s32,指的是根据选取的方法(s31或s32,因为之前说了两个是有概率进行的)来确定目标输出。如果是s31,那么目标输出就是二值化之后的掩码,如果是s32,那么就是随机选取的矩形块对应的掩码。

21、进一步的,步骤s4的具体过程为:

22、步骤s41:随机选取加噪步数t,根据公式对原始图像进行加噪;

23、步骤s42:对xt进行t次采样过程,采样过程使用公式不断迭代进行直到得到对xaug的预测值其中,xt-1就是根据xt算出的结果,整个过程需要一直算直到算到x0(t=0),这个x0就是预测值(重构图像)。

24、进一步的,步骤s5的具体过程为:

25、步骤s51:将xaug和进行通道concat操作后送入分割网络获得输出ypre;

26、步骤s52:定义损失函数为lseg=lfocal(ytarget,ypre)+ll1(ytarget,ypre),其中ytarget为步骤s3中获得的目标输出。其中引入了focal损失以使得分割网络在样本分布不均匀的情况下能够对难以区分的样本有更好的优化效果。

27、步骤s53:不断重复步骤s51和步骤s52进行反向传播更新分割网络参数。

28、进一步的,步骤s6的具体过程为:

29、步骤s61:获取测试样本并做预处理,将尺寸变为h×w;

30、步骤s62:将图像送入扩散生成模型,以随机加噪步数进行加噪并进行图像重构;

31、步骤s63:将预处理后的测试图像和重构图像进行拼接后送入分割网络;

32、步骤s64:经过分割网络获得结果,并对此结果通过高斯滤波器进行平滑处理,得到最后的异常评分图,即为像素级异常检测结果;之后根据异常评分图的最大值与设定阈值进行比较,大于阈值则输出为有异常,以获得图像级异常检测结果。

33、本专利技术的一种基于自监督学习和扩散生成模型的图像异常检测方法具有以下优点:

34、1、本专利技术通过在基于图像重构的图像异常检测方法中引入扩散生成模型来本文档来自技高网...

【技术保护点】

1.一种基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于,在所述步骤S1中,预处理操作为将正常图像样本缩放至尺寸H×W,H和W分别为缩放后图像的高度和宽度。

3.根据权利要求2所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于步骤S2的具体过程为:

4.根据权利要求3所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于步骤S3的具体过程为:

5.根据权利要求4所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于,步骤S4的具体过程为:

6.根据权利要求5所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于步骤S5的具体过程为:

7.根据权利要求6所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于步骤S6的具体过程为:

【技术特征摘要】

1.一种基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于,在所述步骤s1中,预处理操作为将正常图像样本缩放至尺寸h×w,h和w分别为缩放后图像的高度和宽度。

3.根据权利要求2所述的基于自监督学习与扩散生成模型的图像异常检测方法,其特征在于步骤s2的具体过程为:

4.根据权利要求3所述的基...

【专利技术属性】
技术研发人员:杨绿溪马翔徐俐季晟宇张天择江志康徐琴珍俞菲
申请(专利权)人:东南大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1