一种基于消融分析的CNN解释图对象相关性分析方法技术

本发明专利技术涉及一种基于消融分析的CNN解释图对象相关性分析方法。本发明专利技术针对CNN图像分类模型的解释图对象相关性分析缺陷，采用超像素分割和对象相关性消融分析，实现解释图中各对象相关度分析与计算；本发明专利技术可以为虚假相关性的甄别提供依据，剔除对象的虚假相关，增强CNN图像分类模型解释性，并可以做到与模型无关。并可以做到与模型无关。并可以做到与模型无关。

【技术实现步骤摘要】
一种基于消融分析的CNN解释图对象相关性分析方法


[0001]本专利技术涉及一种基于消融分析的CNN解释图对象相关性分析方法。

技术介绍

[0002]卷积神经网络(Convolutional Neural Networks,CNN)是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。卷积神经网络具有表征学习能力，能够按其阶层结构对输入信息进行平移不变分类，因此也被称为“平移不变人工神经网络”。CNN作为一种十分常用的深度学习模型，在图像分类、目标检测、语义分割等任务上均取得了非常好的效果，是该领域应用最广泛的基础模型。本专利技术主要聚焦于CNN图像分类模型的相关问题。
[0003]得到信任、广泛应用的技术，一定是具有可解释性的，而CNN模型通常被认为是一种黑盒，缺乏可解释性。在很多应用场景中，模型的解释性不足使其难以得到合规应用，尤其是在一些高危领域，如：医学、无人驾驶等领域。另一方面，模型的可解释性即有利于研究人员，也有利于使用者。对于研究人员来说，模型的可解释性使其了解模型学习的内容是否是训练者所预期的内容。对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于消融分析的CNN解释图对象相关性分析方法，其特征在于，包括如下步骤：步骤一、图像超像素分割：首先对待分析图像x进行超像素提取，得到超像素集合A＝{A1,A2,
…
,A
n
}，A
i
为第i个超像素块，1≤i≤n，n是自然数，记录各超像素块在x中对应的位置，其中任一超像素块A
i
所包含的像素，在x中对应的坐标表示为P
i
：步骤二、获得解释图：搜索分类贡献最大的超像素块，组成解释图首先用任意方法生成与图像x同尺寸的白噪声图x0；在A中随机抽取任意个超像素块，构成随机超像素集合M，M＝{
…
,A
j
,
…
}，j是自然数，根据步骤一获得的各超像素块A
j
的坐标P
j
，将M中的所有超像素块按照坐标位置叠加到x0上，得到噪声混合图N，即：N＝x0+M；重复生成各不相同的L个随机超像素集合，构成集合{M1,
…
,M
L
}，得到L张上述噪声混合图，构成集合{N1,
…
,N
L
}，按照公式(1)计算加权和平均，其中，s
x,f
(A
i
)是图片x的超像素块A
i
在预训练CNN模型函数f分类过程中的重要度值，当时，B＝1，否则B＝0；为数学期望；对A中的各超像素块对应的分类贡献s
x,f
(A1),
…
,s
x,f
(A
n
)，由大到小排序，取出排序中前k个分类贡献值对应的超像素块，2≤k≤n，构成超像素集合为将中的超像素块按照步骤一中获取的各超像素对应位置，进行拼接得到解释图步骤三、对象消融分析：对中任意两个不同的待分析相关度的超像素块，记为：A
i
和A
j
，进行消融操作；定义其中A
’
表示中除A
i
和A
j
的所有超像素块构成的集合，创建两个空的消融分类值序列F
i
＝[]，F
j
＝[]，分别用于记录A
i
和A
j
的消融分析值；子步骤1、进行初始化消融操作：从中消去超像素块A
i
，将其带入模型函数f，得到A
i
的第一个消融分类值，记为：此处“\”表示剔除操作，同时将其添加到A
i
对应的消融分类值序列F
i
中，即：采用相同方法，对超像素块A
j
进行初始化消融操作，从中消去超像素块A
j
，将其带入模型函数f，得到A<...

【专利技术属性】
技术研发人员：郭江坡，张盖群，王晓东，徐欣杰，
申请(专利权)人：厦门大学，
类型：发明
国别省市：