【技术实现步骤摘要】
本专利技术涉及知识图谱，特别涉及一种面向知识图谱实体对齐技术的人工智能可解释方法及装置。
技术介绍
1、当前，面向人工智能安全框架的可解释性技术仍处在初期阶段，多种方法持续探索。以深度学习为核心的人工智能系统，运作就像一个黑箱，人们只能看到数据的输入和输出，而不清楚其内部的工作原理和判断依据。人工智能可解释性技术主要工作可以分为以下四类，即可视化分析、数据特征可解释分析、局部可解释分析、模型构建后(post-hoc)可解释分析。可视化分析通过建立适当的可视化机制尝试评估和解释模型的中间状态；数据特征可解释分析通过分析输入数据对最终收敛的人工智能模型的影响，探索训练数据、训练特征的作用；局部可解释性分析使用简单可解释模型对黑盒模型进行局部近似来研究黑盒模型的可解释性；事后可解释分析主要是对已构筑的模型进行“解释性分析”，通过分析其输入、输出、中间状态的关系，研究模型的决策逻辑。探索人工智能决策原理，增强人工智能系统的可解释性成为面向可信人工智能安全体系的热点工作之一。
2、伴随着人工智能极速发展，知识图谱及相关技术和应用得到突破。知识图谱作为计算机连接真实世界的重要媒介，受到国内外学者和工业界广泛关注。知识图谱以结构化的形式描述客观世界中概念、实体及其关系，将互联网的信息表达成更接近人类认知世界的形式，提供了一种更好地组织、管理和理解互联网海量信息的能力。一般上，知识图谱以“实体－关系－实体”三元组作为事实的基本表达方式，存储在图数据库中构成庞大的实体关系。知识图谱已经成为互联网知识驱动的智能应用的基础设施，与大数据和
3、知识图谱融合技术是决定知识图谱数据质量的关键问题之一，具有十分重要的理论意义和实践意义。知识图谱融合技术的主要目标是从两个不同的知识图谱中识别出等价的实体对，发现互补的新知识，进而提高知识图谱的数据质量和覆盖范围。因此，知识图谱融合技术对于下游人工智能任务十分关键。当前，知识图谱融合技术主要使用基于深度学习的表示学习方法。这种方法使用深度学习模型，学习给定知识图谱的向量空间表达(embeddings)，在此向量空间表达基础上计算知识图谱中实体之间的相似度。大量实验表明基于表示学习的知识图谱融合技术已取得较高准确率，知识图谱融合技术与深度学习技术紧密结合、高速发展。尽管如此，由于深度学习可解释性的困难挑战和知识图谱复杂图结构，可信可解释知识图谱融合技术仍处于空白阶段。虽然一些相关技术尝试使用错误案例、可视化注意力机制、标签传播等方法展示知识图谱融合的决策过程，但是这些方法主要适用于cnn、transformer等通用模型，对gnn的讨论并不足，且对于模型决策过程的分析较少，对最终决策结果仍缺少足够的解释性。
4、此外，人工智能可信可解释理论分析主要讨论梯度对模型的影响、数据特征对训练结果的影响、黑盒模型的近似效果等问题，对知识图谱实体对齐这一具体任务的适应性不足，并不能有效处理图结构及图谱特征。
技术实现思路
1、本专利技术提供一种面向知识图谱实体对齐技术的人工智能可解释方法及装置，以解决相关可信可解释理论分析主要讨论梯度对模型的影响、数据特征对训练结果的影响、黑盒模型的近似效果等问题，对知识图谱实体对齐这一具体任务的适应性不足，不能有效处理图结构及图谱特征等问题。
2、本专利技术第一方面实施例提供一种面向知识图谱实体对齐技术的人工智能可解释方法，包括以下步骤：获取预设知识图谱融合模型的基本图谱特征，以基于所述基本图谱特征构建组合图谱特征；将所述预设知识图谱融合模型和所述组合图谱特征输入至局部可解释模型中以进行可解释性分析，得到所述预设知识图谱融合模型的待验证解释结果；利用预先构建的基于随机采样的解释结果自动评估机制，对所述待验证解释结果进行评估，得到所述预设知识图谱融合模型对所述组合图谱特征的决策过程。
3、可选地，所述获取预设知识图谱融合模型的基本图谱特征，以构建组合图谱特征，包括：
4、确定所述预设知识图谱融合模型的基本图谱特征，其中，所述基本图谱特征包括多个单独图谱特征；
5、采用基于决策树的规则生成方法，使用基尼系数评估所述多个单独图谱特征中每个单独图谱特征的有效程度，以基于所述有效程度构建决策规则；
6、根据所述决策规则对所述多个单独图谱特征进行组合，生成所述组合图谱特征。
7、可选地，所述将所述预设知识图谱融合模型和所述组合图谱特征输入至局部可解释模型中以进行可解释性分析，得到所述预设知识图谱融合模型的待验证解释结果，包括：
8、采用局部可解释模型近似模拟所述预设知识图谱融合模型的多个组件；
9、使用所述组合图谱特征解释所述多个组件对所述预设知识图谱融合模型的最终结果的影响，得到所述待验证解释结果。
10、可选地，所述利用预先构建的基于随机采样的解释结果自动评估机制，对所述待验证解释结果进行评估，得到所述预设知识图谱融合模型对所述组合图谱特征的决策过程，包括：
11、根据所述基于随机采样的解释结果自动评估机制和所述组合图谱特征，在所述预设知识图谱融合模型的每一层中进行随机采样，获得新的组合图谱特征；
12、融合所述新的组合图谱特征与所述组合图谱特征，生成每一层的代表性特征；
13、利用所述预设知识图谱融合模型对所述每一层的代表性特征进行打分，根据打分结果获得每一层的特征分数，并对所述每一层的特征分数进行降序排列；
14、使用预设评估指标处理降序排列后的特征分数，得到所述预设知识图谱融合模型的每一层准确率；
15、根据所述每一层准确率验证所述待验证解释结果，以根据验证结果输出所述预设知识图谱融合模型对所述组合图谱特征的决策过程。
16、本专利技术第二方面实施例提供一种面向知识图谱实体对齐技术的人工智能可解释装置，包括：获取特征模块，用于获取预设知识图谱融合模型的基本图谱特征，以基于所述基本图谱特征构建组合图谱特征；可解释分析模块，用于将所述预设知识图谱融合模型和所述组合图谱特征输入至局部可解释模型中以进行可解释性分析，得到所述预设知识图谱融合模型的待验证解释结果；评估模块，用于利用预先构建的基于随机采样的解释结果自动评估机制，对所述待验证解释结果进行评估，得到所述预设知识图谱融合模型对所述组合图谱特征的决策过程。
17、可选地，所述获取特征模块，包括：
18、确定单元，用于确定所述预设知识图谱融合模型的基本图谱特征，其中，所述基本图谱特征包括多个单独图谱特征；
19、构建单元，用于采用基于决策树的规则生成方法，使用基尼系数评估所述多个单独图谱特征中每个单独图谱特征的有效程度，以基于所述有效程度构建决策规则；
20、组本文档来自技高网...
【技术保护点】
1.一种面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，所述获取预设知识图谱融合模型的基本图谱特征，以构建组合图谱特征，包括：
3.根据权利要求1所述的面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，所述将所述预设知识图谱融合模型和所述组合图谱特征输入至局部可解释模型中以进行可解释性分析，得到所述预设知识图谱融合模型的待验证解释结果，包括：
4.根据权利要求1所述的面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，所述利用预先构建的基于随机采样的解释结果自动评估机制，对所述待验证解释结果进行评估，得到所述预设知识图谱融合模型对所述组合图谱特征的决策过程，包括：
5.一种面向知识图谱实体对齐技术的人工智能可解释装置，其特征在于，包括：
6.根据权利要求5所述的面向知识图谱实体对齐技术的人工智能可解释装置，其特征在于，所述获取特征模块，包括：
7.根据权利要求5所述的面向知识图谱实体对齐技
8.根据权利要求5所述的面向知识图谱实体对齐技术的人工智能可解释装置，其特征在于，所述评估模块，包括：
9.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-4任一项所述的面向知识图谱实体对齐技术的人工智能可解释方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-4任一项所述的面向知识图谱实体对齐技术的人工智能可解释方法。
...【技术特征摘要】
1.一种面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，所述获取预设知识图谱融合模型的基本图谱特征，以构建组合图谱特征，包括：
3.根据权利要求1所述的面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，所述将所述预设知识图谱融合模型和所述组合图谱特征输入至局部可解释模型中以进行可解释性分析，得到所述预设知识图谱融合模型的待验证解释结果，包括：
4.根据权利要求1所述的面向知识图谱实体对齐技术的人工智能可解释方法，其特征在于，所述利用预先构建的基于随机采样的解释结果自动评估机制，对所述待验证解释结果进行评估，得到所述预设知识图谱融合模型对所述组合图谱特征的决策过程，包括：
5.一种面向知识图谱实体对齐技术的人工智能可解释...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。