基于知识图谱的XAI模型评价方法、装置、设备及介质制造方法及图纸

本发明专利技术公开了一种基于知识图谱的XAI模型评价方法、装置、设备及存储介质。该方法包括：获取待评价XAI模型对应的解释结果对；获取知识图谱中与所述解释结果对匹配的节点序列对；根据所述节点序列对和所述知识图谱确定每个节点序列对应的子图集合；根据每个节点序列对应的子图集合确定解释结果对对应的评分对，通过本发明专利技术的技术方案，能够提高评估选择方法的准确性和效率，保证评价数据的有效性。保证评价数据的有效性。保证评价数据的有效性。

【技术实现步骤摘要】
基于知识图谱的XAI模型评价方法、装置、设备及介质


[0001]本专利技术实施例涉及人工智能
，尤其涉及一种基于知识图谱的XAI模型评价方法、装置、设备及介质。

技术介绍

[0002]随着人工智能的规模应用，可信AI技术受到更多的重视，可解释性人工智能(XAI)是可信AI技术的一个重要分支。与传统的机器学习模型类似，XAI算法及模型同样需要在一组模型中进行优化选择。然而，传统的机器学习模型的选择方法并不适用于XAI模型，因为XAI模型的评价指标不仅包含模型的准确性评价，还包含对解释结果的表达形式、可理解性等方面的评价，也存在着多种解释手段对同一结果进行解释能力的评价，评价内容往往涉及评价者的认知能力，所以难以形成统一标准或通用方法。大多数专注于评估用户效果的研究中，大多数研究都集中在主观测量上，即需要人基于一些给定指标对XAI模型的解释做出手动评分，也有一些研究既测量了解释的主观易用性，也测量了参与者根据解释正确做出推断的能力，使得人们可以区分解释的行为效应和自我感知效应，一定程度上强调了进行客观测量的价值。
[0003]因此，现本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于知识图谱的XAI模型评价方法，其特征在于，包括：获取待评价XAI模型对应的解释结果对；获取知识图谱中与所述解释结果对匹配的节点序列对；根据所述节点序列对和所述知识图谱确定每个节点序列对应的子图集合；根据每个节点序列对应的子图集合确定解释结果对对应的评分对。2.根据权利要求1所述的方法，其特征在于，根据每个节点序列对应的子图集合确定解释结果对对应的评分对，包括：根据每个节点序列对应的子图集合确定每个节点序列对应的解释连贯性评分、解释复杂性评分以及解释可信度评分；根据每个节点序列对应的解释连贯性评分、解释复杂性评分以及解释可信度评分确定每个节点序列对应的目标评分；根据每个节点序列对应的目标评分确定解释结果对对应的评分对。3.根据权利要求2所述的方法，其特征在于，根据每个节点序列对应的子图集合确定每个节点序列对应的解释连贯性评分，包括：获取节点序列对应的子图集合中的子图数量；根据子图集合中的子图数量确定节点序列对应的解释连贯性评分。4.根据权利要求2所述的方法，其特征在于，根据每个节点序列对应的子图集合确定每个节点序列对应的解释复杂性评分，包括：根据节点序列对应的子图集合中的每个子图的节点数量和边数量确定子图的复杂度；将节点序列对应的子图集合中的所有子图的复杂度之和确定为节点序列对应的解释复杂性评分。5.根据权利要求2所述的方法，其特征在于，根据每个节点序列对应的子图集合确定每个节点序列对应的解释可信度评分，包括：获取节点序列对应的子图集合中的目标子图，其中，所述目标子图为包括结果因子的子图；将目标子图所有边的权重之和确定为节点序列对应的解释可信度评分。6.根据权利要求2所述的方法，其特征...

【专利技术属性】
技术研发人员：杨一帆，汪科，谭顺予，范豪钧，夏正勋，
申请(专利权)人：南京星环智能科技有限公司，
类型：发明
国别省市：