基于合作博弈论的卷积神经网络神经元可解释性评估方法技术

本发明专利技术提供了一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，通过量化单个神经元的可解释性度和单层神经元的可解释性度量实现对卷积神经网络神经元可解释性评估

【技术实现步骤摘要】
基于合作博弈论的卷积神经网络神经元可解释性评估方法


[0001]本专利技术属于卷积神经网络
，特别是涉及一种基于合作博弈论的卷积神经网络神经元可解释性评估方法
。

技术介绍

[0002]卷积神经网络广泛应用于计算机视觉领域，如图片分类，物体探测，语义分割等
。
和传统神经网络模型相比，它利用卷积核对输入图像进行局部特征提取，减少了参数数量从而避免过拟合，拥有更强的泛化能力；对于图像数据，它能够提取并整合数据的空间信息，做出具有更高可信度的决策
。
[0003]现阶段，卷积神经网络可解释性的相关研究旨在揭示卷积神经网络模型的工作机理，从而达到区分模型优劣和指导模型优化目的
。
由于神经网络无法分解成单独的功能组件，对复杂庞大的模型进行的整体直观解释极为困难
。
针对上述难题，神经元特征可视化技术立足单个神经元或单个神经元层级，利用梯度和神经元的激活状态等信息生成特征可视化图像，建立了输入图像
、
输出结果和局部神经元之间的联系，为模型的决策依据的提供了直本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，其特征在于，包括以下步骤：
S1、
确定输入图像和卷积神经网络模型；输入图像包括尺寸
、
三通道像素值构成的三维矩阵，所述卷积神经网络模型包括模型的层数
、
各层参数；
S2、
根据输入图像在模型中传播执行的计算，获取模型中不同层
、
不同神经元处的
GBP
图像；
S3、
根据输入图像输入模型后得到的预测结果，计算对应的
Shapley
值数据，并根据
Shapley
值获得
SHAP
图像；
S4、
将特征可视化图像和
SHAP
图像进行归一化处理；
S5、
确定不同神经元的量化可解释性；
S6、
根据神经元的量化可解释性确定神经元所在层的可解释性
。2.
根据权利要求1所述的一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，其特征在于，所述
S1
中输入图像是三通道
RGB
图像，卷积神经网络模型包括可以利用反向传播算法求解梯度的模型
。3.
根据权利要求1所述的一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，所述
S2
具体包括以下步骤：
S21、
对于一张
RGB
三通道输入图像，神经网络模型前向计算得到第
l
层第
i
个神经元生成的一张特征图，记为
f
；
S22、
将神经元
N
所在层除
f
以外的得到的所有特征图置为零，将神经元
N
所在层通过导向反向传播得到的梯度矩阵作为该神经元的
GBP
图像
。4.
根据权利要求3所述的一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，其特征在于，所述
S22
中，卷积神经网络的
Relu
层反向传播时，要忽略负梯度
。5.
根据权利要求1所述的一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，其特征在于，神经网络模型处理的输入图像
P
的尺寸为
m
×
n
，令
M
＝
m
×
n
，所述
S3
具体包括以下步骤：
S31、
对输入图像
P
像素从零开始从左到右
、
从上到下依次编号；初始化由
M
个二进制元素
(0
和
1)
组成的一维数据
z'
来表示输入变量的不同组合，其中0表示对应位置像素不存在，1表示对应位置像素存在；总共得到
M
个数据
z
’
；
S32、
保留
S31
得到的数据
z
’
中为1的位置对应的像素值，将为0的位置对应的像素值修改为周围8个像素的平均值，得到映射
h
x
(z')
；然后将
h
x
(z')
输入卷积神经网络模型得到预测...

【专利技术属性】
技术研发人员：周芳芳，沈海誉，刘志鹏，杨雷，张睿晨，谭依静，张健，郭克华，赵颖，
申请(专利权)人：中南大学，
类型：发明
国别省市：