基于深度学习的钢结构板材故障检测方法及系统技术方案

本发明专利技术属于板材故障检测技术领域，公开了一种基于深度学习的钢结构板材故障检测方法及系统，使用三层多头注意力模块和随机梯度下降优化器作为所有具有注意力架构的模型的训练优化器；通过捕获各种属性的相对重要性，用于解释模型的结论的属性间注意力；使用知名的数据集进行广泛的测试，以及对两个层次的解释的分析。本发明专利技术在两个层面上使用了注意力层来演示这种架构，实现了解释的粒度。属性间关注值为本发明专利技术提供了模型中各种属性的相对重要性的概念，这些属性为最终用户解释了个人决策。可以在这些属性重要性的平均案例分析的帮助下，对模型进行调整，以满足特定的要求。本发明专利技术提出的架构提供了有意义的决策解释，并且优于所有基准模型。于所有基准模型。于所有基准模型。

【技术实现步骤摘要】
基于深度学习的钢结构板材故障检测方法及系统


[0001]本专利技术属于板材故障检测
，尤其涉及一种基于深度学习的钢结构板材故障检测方法及系统。

技术介绍

[0002]目前，随着工业4.0的发展，工业产能不断提升。然而，在这种增加的结果中，出现了一个严重的问题，就是如何保证产品质量和保持生产稳定。因此，工业故障的自动检测是一项非常关键的任务，对经济、生产、安全都具有重大意义。
[0003]人工智能是一种新型的智力资本，在工业4.0中发挥作用。它是一种与人类智力(人类认知活动)对立的机器自动化信息处理技术。故障检测、过程优化、过程管理和预测性维护成为制造业和工厂自动化的科研兴趣领域。故障检测是保证产品质量和保持生产稳定性的最重要技术之一，其目的是识别各种工业产品的外观。早期的故障检测可以降低制造成本，降低停机时间，增加安全性，延长设备使用寿命。
[0004]在人工智能用于故障诊断的自动化应用中，一种监督数据驱动的方法已被提出用于工业系统中的分布式故障隔离。此外，全新的CNN模型提出基于LeNet
‑
5的故障诊断方法。该模型能够从转换后的二维图像中提取特征，并去除手工特征的影响。然而，目前的神经架构已知缺乏理解和解释网络响应的可访问性。因此，最近的技术对可解释AI(XAI)，或者更准确地说，可解释机器学习(XML)表现出了很大的兴趣。在安全、生命和安全攸关的工业应用中，模型更强的可解释性是神经网络非常希望拥有的功能。在需要可靠性和安全性的高风险领域，如关键的工业应用中，模型可解释性是建立信任和鼓励采用AI系统的先决条件。一个可解释的模型不仅可以提高其可信性，还可以降低模型优化的成本。
[0005]关于AI系统可信性的问题，推动了可解释AI的发展。在现有技术中提出了一种基于合成少数类过采样技术(SMOTE)和中心概念的精度集成分类器。然而，其只提供了精度度量的模拟，缺乏准确率、F1和召回率。即使工作人员提供了对模型的解释，但这些相关的解释都来自统计分析，而不是神经网络。
[0006]通过上述分析，现有技术存在的问题及缺陷为：
[0007]1)检测准确性不足：钢板检测过程中，准确性是至关重要的。然而，现有的检测技术在某些情况下可能存在误报或漏报的问题，导致未能准确识别缺陷或错误地将正常钢板标记为有问题。这可能会导致质量问题和生产线上的延误。
[0008]2)检测速度较慢：钢板生产通常需要高效率的生产线，而检测速度的缓慢可能成为制约生产效率的瓶颈。现有的检测技术可能需要较长的时间来完成检测过程，从而导致生产线的停滞和生产能力的限制。
[0009]3)人工检测依赖性高：目前，仍然有相当一部分钢板检测工作需要依赖人工操作和视觉判断。这种依赖性可能导致人为误判、疲劳和不一致性，从而影响到检测结果的准确性和稳定性。
[0010]4)依赖专业技能：某些钢板检测技术要求操作人员具备专业技能和经验。这使得
培训和招聘成为一个挑战，因为需要投入大量时间和资源来培养熟练的操作人员。此外，专业技能的依赖性还可能导致技术的传承和更新速度相对较慢。
[0011]5)检测成本较高：某些先进的钢板检测技术可能需要高昂的设备和维护成本，这增加了企业的投资负担。此外，由于检测过程的复杂性和检测准确性的要求，可能需要投入更多的人力资源和时间，进一步增加了检测成本。
[0012]6)现有技术中对模型的解释，都来自统计分析，而不是神经网络。

技术实现思路

[0013]针对现有技术存在的问题，本专利技术提供了一种基于深度学习的钢结构板材故障检测方法及系统。
[0014]本专利技术是这样实现的，一种基于深度学习的钢结构板材故障检测方法包括：
[0015]步骤一，使用三层多头注意力模块和随机梯度下降优化器作为所有具有注意力架构的模型的训练优化器；
[0016]步骤二，通过捕获各种属性的相对重要性，用于解释模型的结论的属性间注意力；
[0017]步骤三，使用知名的数据集进行广泛的测试，以及对两个层次的解释的分析。
[0018]进一步，基于深度学习的钢结构板材故障检测方法还包括：
[0019]数据预处理：收集钢结构板材的图像数据，并对数据进行预处理，如去噪、图像增强等，以提高后续分析的准确性；
[0020]特征提取和表示学习：利用深度学习模型，对钢结构板材图像进行特征提取和表示学习。提取图像中的关键特征，以区分正常和故障状态；
[0021]故障检测和分类：利用训练好的深度学习模型，对钢结构板材进行故障检测；
[0022]结果解释和可视化：为了提高可解释性，方案还包括对检测结果的解释和可视化；通过可视化技术，将检测结果以图像或其他形式展示，帮助用户理解和分析故障情况；
[0023]系统实施和应用：将上述步骤和组成部分集成到一个完整的系统中，以实现自动化的钢结构板材故障检测；系统可根据实际需求进行定制，并可应用于钢结构制造、建筑工程、桥梁工程、汽车制造领域。
[0024]进一步，所述步骤一中，a
i
作为与原始数据集中i
th
记录对应的属性向量表示，其中i的取值范围为所有记录；使用合成少数过采样技术和特征提取，用a
′
i
构造矩阵A＝{a
′1，a
′2，...，a
′
n
}；
[0025]利用多层感知器丰富表示：P＝{p1，p2，...，p
n
}；
[0026]一个h层多头注意模块和注意层应用于P＝{p1，p2，...，p
n
}来捕获这个架构中这些属性n之间的关系。
[0027]进一步，在多头注意模块中使用比例点积注意力，由
[0028][0029]其中Q、K和V是查询矩阵、键矩阵和值矩阵，d
k
表示Q、K向量的维数，通过将注意力层的输出馈送到线性层和softmax层获得最终预测。
[0030]进一步，所述步骤三中，将数据集分成4：1的比例用于训练和测试，并使用5倍交叉
验证方法来阻止模型过拟合。
[0031]进一步，所述步骤三对两个层次的解释的分析中，包括逐案分析和平均案例分析，所述逐案分析中，使用一个示例个体数据记录展示不同属性之间相对重要性的解释，所述平均案例分析中，计算每个属性在每次检测中作为最重要的属性出现的次数和频率。
[0032]进一步，所述步骤一中的具有注意力架构的模型包括特征矩阵生成、多层感知器和特征自注意力网络，以及另一个单注意力层、致密层和softmax层。
[0033]本专利技术的另一目的在于提供一种基于深度学习的钢结构板材故障检测系统，所述基于深度学习的钢结构板材故障检测系统包括：
[0034]神经网络模型构建模块，用于构建可解释的属性间注意网络；
[0035]模型优化模块，用于使用三层多头注意力模块和随机梯度下降优化器作为所有具有注意力架构的模型本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于深度学习的钢结构板材故障检测方法，其特征在于，所述基于深度学习的钢结构板材故障检测方法包括：步骤一，使用三层多头注意力模块和随机梯度下降优化器作为所有具有注意力架构的模型的训练优化器；步骤二，通过捕获各种属性的相对重要性，用于解释模型的结论的属性间注意力；步骤三，使用知名的数据集进行广泛的测试，以及对两个层次的解释的分析。2.如权利要求1所述的基于深度学习的钢结构板材故障检测方法，其特征在于，基于深度学习的钢结构板材故障检测方法还包括：数据预处理：收集钢结构板材的图像数据，并对数据进行预处理，如去噪、图像增强等，以提高后续分析的准确性；特征提取和表示学习：利用深度学习模型，对钢结构板材图像进行特征提取和表示学习；提取图像中的关键特征，以区分正常和故障状态；故障检测和分类：利用训练好的深度学习模型，对钢结构板材进行故障检测；结果解释和可视化：对检测结果的解释和可视化；通过可视化技术，将检测结果以图像或其他形式展示，帮助用户理解和分析故障情况；系统实施和应用：将上述步骤和组成部分集成到一个完整的系统中，以实现自动化的钢结构板材故障检测；系统可根据实际需求进行定制，并可应用于钢结构制造、建筑工程、桥梁工程、汽车制造领域。3.如权利要求1所述的基于深度学习的钢结构板材故障检测方法，其特征在于，所述步骤一中，a
i
作为与原始数据集中i
th
记录对应的属性向量表示，其中i的取值范围为所有记录；使用合成少数过采样技术和特征提取，用a
′
i
构造矩阵A＝{a
′1，a
′2，...，a
′
n
}；利用多层感知器丰富表示：P＝{p1，p2，...，p
n
}；一个h层多头注意模块和注意层应用于P＝{p1，p2，...，p
n
}捕获这个架构中这些属性n之间的关系。4.如权利要求3所述的基于深度学习的钢结构板材故障检测方法，其...

【专利技术属性】
技术研发人员：陈明轩，
申请(专利权)人：上海工程技术大学，
类型：发明
国别省市：