System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法技术_技高网
当前位置: 首页 > 专利查询>扬州大学专利>正文

基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法技术

技术编号:40407419 阅读:6 留言:0更新日期:2024-02-20 22:28
本发明专利技术属于陶瓷膜表面缺陷定位领域,具体公开一种基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法该方法在自注意力机制中引入了余弦偏置学习,包括数据采集:基于工业相机的陶瓷膜板表面图像数据采集及划分;特征提取预处理,基于余弦偏置自注意力机制骨干网络的图像特征图构建;粗定位,对缺陷区域粗略定位;精定位,基于网络模型训练的缺陷区域筛选调整及准确定位。与现有技术相比,本发明专利技术在自注意力机制中引入了余弦偏置学习,从而提高了缺陷定位的效率;采用多窗口移位法增加空间通道数量,实现单窗口与其他窗口的多通道通信,提高了不同窗口之间特征信息交互的效率。

【技术实现步骤摘要】

本专利技术涉及陶瓷膜表面缺陷定位领域,具体涉及一种基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法


技术介绍

0、技术背景

1、陶瓷膜板是由氧化钛、氧化硅等无机材料经过高温烧制而成的一种固体膜,因其具有通水量大、化学稳定性好、耐酸碱性能和机械强度高等优点被广泛用于工业用水处理、市政污水净化等领域。在陶瓷膜板制造及运输的过程中可能会出现划痕、凹坑等缺陷,所以需要对陶瓷膜板进行检测并剔除不合格的残次品。最初的陶瓷膜表面缺陷检测的方法往往采用人工检测,费时费力效率低;目前自动化陶瓷膜表面缺陷定位常用方法分为两类:

2、第一类是传统图像定位算法。代表性算法如:2022年,济南大学周静在《基于最小生成树和图像矩的陶瓷过滤器表面缺陷检测》中采用了正方形滑动窗口遍历图像的方法分析图像特征,并利用最小生成树描述空间特征实现对陶瓷过滤器表面缺陷的定位,最后依靠最小外接矩形对缺陷区域进行标定分类。以上算法存在的问题是:在对图像特征进行分析的过程中,需要通过滑动窗口对图像遍历提取,使得每个窗口之间可能出现重叠导致计算冗余,影响后续缺陷定位效果偏差较大且花费时间较长。

3、第二类是基于深度学习的定位方法。一般来说,基于深度学习的定位方法分为四个步骤:数据采集、特征提取预处理、粗定位、精定位。代表性算法如:2021年,alexeydosovitskiy在《an image is worth 16x16 words:transformers for imagerecognition at scale》一文中针对其中步骤二进行了改进,即引入了基于多头自注意力机制的transformer结构对图像进行目标检测:在编码模块中,将图像分割成多个图块,再利用多头自注意力机制提取每个图块的特征信息;在解码模块中,将每个图块的特征信息接入分类网络实现目标定位和分类。该方法引入了多头自注意力机制,提高了图像特征信息的提取效果,使得后续目标定位更加准确,但由于未实现图块间特征信息交互,需要大量参数进行学习优化,其检测效率偏低。

4、鉴于陶瓷膜板表面缺陷定位文献偏少,我们对陶瓷膜板检测的类似相关专利进行了检索。2022年,广东工业大学高向东等人提出了一种瓷砖表面缺陷检测及定位方法(公开号:cn111627008a)。该方法针对其中步骤二进行了改进,即通过基于卷积网络的resnet50结构对瓷砖表面进行特征提取,然后采用多重多元高斯聚类法构建瓷砖缺陷特征的聚类族并确立损失函数,最后利用knn算法(k-nearest neighbor,k最邻近算法)实现瓷砖表面的缺陷定位。该方法在特征提取过程中引入卷积层间短路连接模块,提高了特征提取效果,使得缺陷定位更加精准,但由于其在训练过程中存在大量卷积计算冗余,使得定位时间偏长。

5、相比传统图像定位算法,基于深度学习的定位方法在定位精度上有了较为明显的提升,但是仍存在计算量过大、检测效率偏低的问题,主要体现在定位方法中的特征提取预处理步骤耗费时间过大。针对上述问题,优化陶瓷膜板表面缺陷定位的特征提取预处理步骤,是本专利技术提高缺陷定位效率的主要思路。特征提取预处理操作一般分为三个子步骤:对特征图添加注意力机制得到关注后的特征图、对关注后的特征图进行交互及非线性激活得到全局的特征矩阵、对全局的特征矩阵进行归一化得到所需缺陷特征图。2021年,ze liu在《swin transformer:hierarchical vision transformer using shifted windows》一文中对子步骤一进行了优化,方法如下:将相对位置偏置嵌入到自注意力机制,引入了位置编码矩阵,通过该矩阵定位所需特征位置,提升了窗口对图像特征提取的精准度。但其在图像局部区域提取特征时,会反复关注几个像素对而出现冗余计算的问题,降低了特征提取的速度。


技术实现思路

1、为了克服现有技术和方法的不足,本专利技术基于深度学习,设计了一种基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法,本专利技术的陶瓷膜板表面缺陷位置快速定位方法:在自注意力机制中引入了余弦偏置学习,使得自注意力机制中的关注值可以自适性的进行周期性偏差调整,避免了部分图块在提取特征时,会因重复关注几个像素对而出现冗余计算的问题,从而提高了缺陷定位的效率。采用多窗口移位法增加空间通道数量,实现单窗口与其他窗口的多通道通信,提高了不同窗口之间特征信息交互的效率。

2、本专利技术采用了如下技术方案:一种基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法,该方法在自注意力机制中引入了余弦偏置学习,具体步骤如下:

3、步骤1、数据采集及划分:使用工业相机采集陶瓷膜板表面图像数据并将数据集划分为训练集、验证集和测试集;

4、步骤2、提取特征并处理,进而构建陶瓷膜板表面图像特征图;

5、步骤3、粗定位:基于锚框置性度对关注域候选网络生成的缺陷区域进行选取并实现粗略定位;;

6、步骤4、精定位:基于网络模型训练的缺陷区域筛选调整及准确定位。

7、与现有技术相比,本专利技术有益效果是:

8、(1)在自注意力机制中引入了余弦偏置学习,使得自注意力机制中的关注值可以自适性的进行周期性偏差调整,避免了部分图块在提取特征时,会重复关注几个像素对而出现冗余计算的问题。经理论校核,本方法比之前的方法减少了(hw)2c次计算量。一般来说,c值通常取3,h和w取值均大于100,相比较hw乘积,4c+3、3c+1为小量,故此时的ρ值约为67%。由此可见,陶瓷膜板表面缺陷的定位速率得到较大提高。

9、(2)在进行多分辨率的特征提取过程中,采用多窗口移位的方式增加了空间通道数,使得单个窗口上的特征信息可以通过更多的通道与其他窗口上的特征信息进行通信,提高了不同窗口之间特征信息交互的效率,陶瓷膜板表面缺陷的定位速率得到提高。

10、(3)设计了一种对数间隔的连续位置偏差方法,在相对坐标基础上添加一个小型元网络,从而对任意相对坐标生成偏置参数,使得陶瓷膜板表面图像特征信息的相对位置可以在不同窗口之间平滑地传递,避免特征信息在传递过程的丢失。基于上述优化方案,陶瓷膜板表面缺陷定位精度得到保证。

本文档来自技高网...

【技术保护点】

1.一种基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法,其特征在于,该方法在自注意力机制中引入了余弦偏置学习,具体步骤如下:

2.根据权利要求1所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2中的具体步骤如下:

3.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2.2中余弦偏置特征提取器包括:依次连接的融入余弦偏置学习的自注意力机制子模块CB-SFA、第一归一化层LN、GELU非线性层、全连接层MLP和第二归一化层LN。

4.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,融入余弦偏置学习的自注意力机制的计算函数公式为:

5.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2.3中的具体步骤如下:

6.根据权利要求5所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,采用对数间隔连续位置偏置方法,该方法在相对坐标上额外使用一个偏置网络,对任意相对坐标生成偏置参数,进行任意可变窗口尺寸的迁移,表达式如下:

7.根据权利要求6所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,移位窗口的计算公式表示为;

8.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2.1中按照长度为2、宽度为2的标准进行图像分割,得到特征维数为2×2×3=12的陶瓷膜板表面图像分割图块。

9.根据权利要求1所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤3中,在关注域候选网络中,利用映射的方式从陶瓷膜板表面图像的特征图中获取目标缺陷候选区域并生成候选区域锚框,同时计算每个目标缺陷候选区域的锚框置性度,依据锚框置性度再通过池化生成陶瓷膜板表面缺陷候选区域特征图,实现缺陷粗略定位。

10.根据权利要求1所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤4中,将生成的陶瓷膜板表面缺陷候选区域特征图进行回归的处理,得到陶瓷膜板表面缺陷精准定位图像;且在回归分支中,采用瓦瑟施泰因距离损失函数。

...

【技术特征摘要】

1.一种基于余弦偏置自注意力的陶瓷膜板表面缺陷快速定位方法,其特征在于,该方法在自注意力机制中引入了余弦偏置学习,具体步骤如下:

2.根据权利要求1所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2中的具体步骤如下:

3.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2.2中余弦偏置特征提取器包括:依次连接的融入余弦偏置学习的自注意力机制子模块cb-sfa、第一归一化层ln、gelu非线性层、全连接层mlp和第二归一化层ln。

4.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,融入余弦偏置学习的自注意力机制的计算函数公式为:

5.根据权利要求2所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,步骤2.3中的具体步骤如下:

6.根据权利要求5所述的陶瓷膜板表面缺陷位置快速定位方法,其特征在于,采用对数间隔连续位置偏置方法,该方法在相对坐标上额外使用一个偏置网络,对任意相对坐标生成...

【专利技术属性】
技术研发人员:孙进董亮曹超张煜马宁陈野陆凡
申请(专利权)人:扬州大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1