一种XAI模型评价方法、装置、设备和存储介质制造方法及图纸

本发明专利技术公开了一种XAI模型评价方法、装置、设备和存储介质。该方法包括：将工作模型输出的决策结果输入可解释性模型，得到解释结果；获取所述解释结果对应的评估结果，所述评估结果包括：指标集合中的每个指标对应的评估结果；根据所述解释结果对应的评估结果确定目标满意度评价结果。本发明专利技术实施例通过将工作模型输出的决策结果输入可解释性模型，得到解释结果，获取解释结果对应的评估结果，根据解释结果对应的评估结果确定目标满意度评价结果，实现了对XAI解释结果进行评估，并根据评估结果预测用户的满意度，解决了XAI模型的选择性困扰及针对性优化问题，降低XAI应用的试错成本。降低XAI应用的试错成本。降低XAI应用的试错成本。

【技术实现步骤摘要】
一种XAI模型评价方法、装置、设备和存储介质


[0001]本专利技术涉及人工智能
，尤其涉及一种XAI模型评价方法、装置、设备和存储介质。

技术介绍

[0002]机器学习领域的评价方法既是评价模型性能好坏的手段也是模型优化的基础。近些年随着可解释性人工智能技术的发展，涌现出了越来越多的XAI(Explainable AI的简称，即可解释AI)的方法，但目前为止对XAI模型的评价方法尚缺乏深入的研究，在一定程度上限制了XAI技术的进一步发展。
[0003]现有的XAI模型评价方法主要是度量模型的性能、鲁棒性等，比如准确度指标、AUC(Area under the Curve of ROC，ROC曲线下方的面积，是判断二分类预测模型优劣的标准，其中，ROC是Receiver Operating Characteristic Curve的缩写)指标等仅能衡量模型的精度，但对于XAI模型而言，除了关心XAI模型的效率指标、性能指标以外，还关心XAI模型解释结果的有效性、可行性、可交互能力等等。但当前的XAI评价方法较为单一且与解释的最终应用效果没有关联。比如one
‑
way ANOVA方法，其本质是根据预测结果与用户实际应用情况比较。该方法从实际结果情况分析，未从模型及模型运行过程进行分析，并不符合人类正常的因果逻辑及逻辑推理分析。
[0004]综上，当前的XAI评价方法缺乏系统性，难以对XAI模型做出全面可靠的评估，因此模型开发过程中缺少明确的优化指引，同时在应用过程中也给用户带来了选择性的困扰。

技术实现思路

[0005]本专利技术提供了一种XAI模型评价方法、装置、设备和存储介质，以实现对XAI解释结果进行评估，并根据评估结果预测用户的满意度，解决了XAI模型的选择性困扰及针对性优化问题，降低XAI应用的试错成本。
[0006]根据本专利技术的一方面，提供了一种XAI模型评价方法，该方法包括：
[0007]将工作模型输出的决策结果输入可解释性模型，得到解释结果；
[0008]获取所述解释结果对应的评估结果，所述评估结果包括：指标集合中的每个指标对应的评估结果；
[0009]根据所述解释结果对应的评估结果确定目标满意度评价结果。
[0010]根据本专利技术的另一方面，提供了一种XAI模型评价装置，该装置包括：
[0011]输入模块，用于将工作模型输出的决策结果输入可解释性模型，得到解释结果；
[0012]获取模块，用于获取所述解释结果对应的评估结果，所述评估结果包括：指标集合中的每个指标对应的评估结果；
[0013]确定模块，用于根据所述解释结果对应的评估结果确定目标满意度评价结果。
[0014]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0015]至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储
器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的XAI模型评价方法。
[0016]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的XAI模型评价方法。
[0017]本专利技术实施例的技术方案，通过将工作模型输出的决策结果输入可解释性模型，得到解释结果，获取解释结果对应的评估结果，根据解释结果对应的评估结果确定目标满意度评价结果，实现了对XAI解释结果进行评估，并根据评估结果预测用户的满意度，解决了XAI模型的选择性困扰及针对性优化问题，降低XAI应用的试错成本。
[0018]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0019]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0020]图1是根据本专利技术实施例一提供的一种XAI模型评价方法的流程图；
[0021]图2是根据本专利技术实施例一提供的一种目标满意度模型的结构示意图；
[0022]图3是根据本专利技术实施例一提供的一种XAI模型评价系统的结构示意图；
[0023]图4是根据本专利技术实施例二提供的一种XAI模型评价装置的结构示意图；
[0024]图5是实现本专利技术实施例的XAI模型评价方法的电子设备的结构示意图。
具体实施方式
[0025]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0026]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“目标”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0027]实施例一
[0028]图1是根据本专利技术实施例一提供的一种XAI模型评价方法的流程图，本实施例可适用于XAI模型评价情况，该方法可以由XAI模型评价装置来执行，该XAI模型评价装置可以采
用硬件和/或软件的形式实现，该XAI模型评价装置可集成在任何提供XAI模型评价功能的电子设备中。如图1所示，该方法包括：
[0029]S101、将工作模型输出的决策结果输入可解释性模型，得到解释结果。
[0030]在本实施例中，工作模型可以是在实际应用场景中任意能够满足可以输出决策结果需求的模型，本实施例对工作模型的具体类型不进行限制。具体的，工作模型可以用Work Model进行表示。示例性的，在智能客服场景中，工作模型可以存在于智能客服机器人系统，用于对用户提出的问题进行决策并输出决策结果。例如可以是，用户向智能客服询问：“哪个产品更耐用？”，智能客服进行决策后可以输出决策结果：“##产品更耐用。”[0031]在本实施例中，可解释性模型可以是在实际应用场景中任意能够满足可以输出解释结果需求的模型，本实施例对可解释性模型的具体类型不进行限制。具体的，可解释性模型可以用X本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种XAI模型评价方法，其特征在于，包括：将工作模型输出的决策结果输入可解释性模型，得到解释结果；获取所述解释结果对应的评估结果，所述评估结果包括：指标集合中的每个指标对应的评估结果；根据所述解释结果对应的评估结果确定目标满意度评价结果。2.根据权利要求1所述的方法，其特征在于，根据所述解释结果对应的评估结果确定目标满意度评价结果，包括：根据所述解释结果对应的评估结果确定有用性量化结果、易用性量化结果以及双属性量化结果；获取用户满意度评价结果；将所述有用性量化结果、易用性量化结果、双属性量化结果以及用户满意度评价结果输入目标满意度模型，得到目标满意度评价结果。3.根据权利要求1所述的方法，其特征在于，所述指标集合包括：效率指标集、质量指标集、交互性指标集、性能指标集以及效能指标集中的至少一种，交互性指标集包括：解释内容的可回溯性评价指标、解释的可比较性评价指标、异常发现能力评价指标以及反事实解释能力评价指标，性能指标集包括：解释准确性维度的评价指标和解释稳定性维度的评价指标。4.根据权利要求3所述的方法，其特征在于，获取所述解释结果对应的评估结果，包括：根据所述解释结果确定效率指标集中每个指标对应的评估结果、解释准确性维度的评价指标对应的评估结果以及解释的可比较性评价指标对应的评估结果；对所述解释结果进行解析，得到所述解释结果的解析结果；根据所述解释结果的解析结果确定质量指标集中每个指标对应的评估结果；获取可解释性模型的训练样本集；根据所述可解释性模型的训练样本集和所述解释结果确定解释内容的可回溯性评价指标对应的评估结果、反事实解释能力评价指标对应的评估结果、异常发现能力评价指标对应的评估结果以及解释稳定性维度的评价指标对应的评估结果。5.根据权利要求3所述的方法，其特征在于，所述质量指标集包括：解释形式直观程度评价指标、解释内容质量程度评价指标以及解释内容完备性评价指标；根据所述解释结果对应的评估结果确定有用性量化结果、易...

【专利技术属性】
技术研发人员：夏正勋，谭顺予，刘士菖，谭锋镭，
申请(专利权)人：星环信息科技上海股份有限公司，
类型：发明
国别省市：