一种基于可视分析的通用解释器制造技术

本发明专利技术公开了一种基于可视分析的通用解释器，属于可解释性机器学习技术领域。本发明专利技术所提出的一种基于可视分析的通用解释器一种通用的解释器，可以为任何神经网络模型提供解释，不需要获得模型内部信息或者对模型结构进行任何修改，适用范围广；此外，本发明专利技术所提出的解释器考虑了图像输入的属性，设计了一种包含目标类别损失、平滑损失和显著性损失的代价函数，提供了一种直观的可视化解释器，使非目标类高亮区域最少，以此来突出图像最具有区别性的部分。的部分。的部分。

【技术实现步骤摘要】
一种基于可视分析的通用解释器


[0001]本专利技术涉及可解释性机器学习
，尤其涉及一种基于可视分析的通用解释器。

技术介绍

[0002]神经网络模型通常在各种计算机视觉任务中具有出色的性能。同时，神经网络模型的端到端“黑匣子”的性质通常使人们难以了解模型的决策结果，这限制了模型的未来应用。比性能更重要的是要更好地理解模型背后的原因，并知道模型表现不佳的原因，尤其是对于智能医疗和自动驾驶等至关重要领域。为了提高神经网络模型的可解释性，已经涌现出模型自带可解释的方法，如B.Charbuty and A.Abdulazeez,Classification Based on Decision Tree Algorithm for Machine Learning,Journal of Applied Science and Technology Trends 2(01)(2021),20
–
28；
[0003]J.Yang,Y.Zhao and H.Xi,Weighted Rule Based Adaptive Alg本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于可视分析的通用解释器，其特征在于，包括以下步骤：S1、空间注意力：利用特征提取模型对输入图像进行处理，提取得到相应特征图，对所得的特征图的空间位置进行分组，有效地对图像不同位置选取进行扰动，获得空间注意力处理后的特征图；S2、通道注意力：对S1中所得的空间注意力处理后的特征图进一步进行通道注意力处理，得到最终的特征图；在所得的最终特征图内进行随机扰动，生成mask，用M表示；S3、自然扰动：将输入图像中去除像素替换为随机颜色和模糊的组合，采用高斯模糊的方法来模糊图像，实现图像的自然扰动；S4、掩码优化：设计一种包含目标类别损失、平滑损失和显著性损失的代价函数，生成特定类别的、光滑的、有区别性的优化掩码；S5、最终掩码生成：定义掩码权重为目标类别置信度的变化，将掩码权重经过softmax函数，然后与经过S4优化后的mask相乘，再对其进行ReLU函数，得到最终的显著图。2.根据权利要求1所述的一种基于可视分析的通用解释器，其特征在于，所述S1具体包括以下内容：S1.1、利用特征提取模型提取出特征图F，维度为[C,H,W]；其中，C、H、W分别表示通道数、特征图F的高度和特征图F的宽度；S1.2、将H分为H/s组，将W分为W/s组，进而得到空间位置分组处理后的特征图F
’
；特征图F
’
的高度和宽度均为s，维度为[C,H/s*W/s,s,s]。3.根据权利要求1所述的一种基于可视分析的通用解释器，其特征在于，所述S3中提到的自然扰动过程可描述为：A＝αG(u，v)+βConst，Φ(X；M)＝X
...

【专利技术属性】
技术研发人员：崔学慧，
申请(专利权)人：天津大学，
类型：发明
国别省市：