基于神经元影响程度的产品分类模型的测试方法技术

本发明专利技术公开了一种基于神经元影响程度的产品分类模型的测试方法，通过计算神经元重要性，增强后段神经元，削弱前段神经元，以生成更多使产品分类模型错误分类的多样化与产品相关的测试样本图像，提前发现产品分类模型中运行过程中可能存在的异常情况。此外，利用生成的测试样本图像对产品分类模型进行重新训练，可以修复其中的漏洞，使对产品分类模型在在残次品检验判定的过程中更加安全可靠。次品检验判定的过程中更加安全可靠。

【技术实现步骤摘要】
基于神经元影响程度的产品分类模型的测试方法


[0001]本专利技术属于智能车间的产品分类领域，具体涉及一种基于神经元影响程度的产品分类模型的测试方法。

技术介绍

[0002]近年来，数据量爆发式增长、计算能力显著性提升、深度学习算法突破性应用，极大地推动了人工智能发展。然而，深度神经网络(Deep Neural Networks，DNNs)潜在的安全问题也给智能驱动的数字世界带来了极大的安全隐患。DNNs在面对不确定输入时，往往会出现意料之外的错误行为，在诸如自动驾驶系统、机器翻译和医疗等安全关键应用，可能会造成灾难性的后果，阻碍深度模型的实际部署。因此，深度神经网络的可靠性问题引起了学术界和工业界的广泛关注。
[0003]在工业场景的智能车间中，深度神经网络被构建成产品分类模型，用于对智能车间的生产产品进行残次品的识别和判定。为了避免在分类过程中出现异常判断，需要在对产品分类模型部署之前，对其进行安全性评估和测试。如何全面且高效地对深度产品分类模型进行测试，实现极端情况的评估和监督，进一步提高产品分类模型应用的可靠性，成为安全可靠人工本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于神经元影响程度的产品分类模型的测试方法，其特征在于，包括以下步骤：步骤1，获取待测试的产品分类模型和正常产品图像；步骤2，将正常产品图像输入至产品分类模型，以计算关注网络层的所有神经元的影响程度；步骤3，依据影响程度将关注网络层的所有神经元划分为前段神经元、中段神经元、以及后端神经元；步骤4，根据选定的前段神经元和后段神经元构建适应度函数，并依据适应度函数生成扰动，依据扰动生成中间样本图像；步骤5，将中间样本图像作为正常产品图像后，迭代循环步骤2
‑
步骤4，直到达到迭代终止条件为止，将迭代终止时得到的中间样本图像作为测试样本图像；步骤6，利用测试样本图像对产品分类模型进行测试，根据产品分类模型的输出结果判断产品分类模型的缺陷情况。2.根据权利要求1所述的基于神经元影响程度的产品分类模型的测试方法，其特征在于，产品分类模型包括卷积层、Flatten层、池化层、全连接层以及激活层，选择处于卷积层和全连接层中间的Flatten层或池化层作为关注网络层。3.根据权利要求1或2所述的基于神经元影响程度的产品分类模型的测试方法，其特征在于，步骤2中，采用以下公式计算关注网络层的所有神经元的影响程度σ
n
：其中，n为神经元的索引，表示第n个神经元对输入图像x的计算输出，y
c
表示产品分类模型对于输入图像x关于预测类标c的置信度，表示求偏导，影响程度σ
n
越大，表示神经元对分类标签的贡献越大。4.根据权利要求1所述的基于神经元影响程度的产品分类模型的测试方法，其特征在于，步骤3中，将关注网络层的所有神经元的影响程度降序排列后，选择前a％的神经元为前段神经元，中间b％...

【专利技术属性】
技术研发人员：刘祥，张英，
申请(专利权)人：余姚市亿盛金属制品有限公司，
类型：发明
国别省市：