一种知识感知的图像分类可解释性方法技术

本发明专利技术属于自然语言处理技术领域，具体涉及一种知识感知的图像分类可解释性方法。为了解决解释模型的决策过程中存在忽略概念完整性、缺乏概念融合等问题，本发明专利技术的方法包括(1)概念映射建模：给定已经训练好的图像分类模型，计算该模型神经元特征与概念之间的相关性，利用得分最高的概念表示神经元特征；(2)核心概念建模：借助知识图谱定义图像类别的核心概念：(3)概念融合建模：计算不同概念之间的相似性，融合语义等价的概念；(4)可解释性评价指标：基于神经元概念和概念融合后的类别核心概念，分别提出正确预测和错误预测的可解释性评价标准，用来评估模型的可解释性。

【技术实现步骤摘要】

本专利技术属于自然语言处理，具体涉及一种知识感知的图像分类可解释性方法。

技术介绍

1、深度神经网络(dnn)架构被设计得越来越复杂，模型规模不断扩大，在人工智能各个领域取得了前所未有的进步。尽管dnn具有诸多优势，但它们并不完全透明，通常被视为“黑箱”算法，这可能会损害用户对这些系统的信任，从而降低其可用性。因此，模型可解释性研究具有非常重要的意义。

2、模型可解释性方法主要可以分为两类：功能分析和决策分析。功能分析方法试图通过研究决策与图像之间的关系来探究模型的整体行为。但是，该类方法通常缺乏对模型内部模块的深入理解，可能无法提供对决策过程的全面理解。决策分析方法通过分析内部模块机制来解释模型的决策过程。但是该类方法的解释过程不易于人们理解。

3、近年来，有许多研究工作尝试建立模型与概念之间的关系来解释模型的决策过程，由于缺乏知识指导，仍然存在以下挑战：(1)忽略了概念的完整性。这些方法选择了一组与图像类别密切相关的概念作为模型预测的关键概念，但它们并不保证这些概念足以解释模型预测结果。例如针对“卧室”类别，模型识别概念“椅子”本文档来自技高网...

【技术保护点】

1.一种知识感知的图像分类可解释性方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种知识感知的图像分类可解释性方法，其特征在于，所述步骤1中概念LC(xi)是通过计算神经元ft与图像xi中概念之间的相关性得到的概念集合，计算公式如下：

3.根据权利要求2所述的一种知识感知的图像分类可解释性方法，其特征在于，所述相关性计算函数采用交并比函数。

4.根据权利要求1所述的一种知识感知的图像分类可解释性方法，其特征在于，所述步骤2中核心概念建模，具体步骤为：

5.根据权利要求1所述的一种知识感知的图像分类可解释性方法，其特征在于，所述步...

【技术特征摘要】

1.一种知识感知的图像分类可解释性方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种知识感知的图像分类可解释性方法，其特征在于，所述步骤1中概念lc(xi)是通过计算神经元ft与图像xi中概念之间的相关性得到的概念集合，计算公式如下：

3.根据权利要求2所述的一种知识感知的图像分类可解释性方法，其特征在于，所述相关性计算函数采用交并比函数。...

【专利技术属性】
技术研发人员：关勇，李茹，郭少茹，张虎，谭红叶，
申请(专利权)人：山西大学，
类型：发明
国别省市：