模型解释方法以及电子设备技术

本申请实施例提供了一种模型解释方法以及电子设备。该方法包括：获取与待解释模型的类型对应的可解释性模型，并将经过待解释模型识别的n个实例数据输入可解释性模型，分别得到n个实例数据中每个实例数据的解释结果，n≥1，该实例数据的解释结果用于表征实例数据中的至少一个特征在待解释模型对实例数据进行识别时的权重，使得待解释模型输出的识别结果或者决策结果能够被理解，具有更高的可靠性。具有更高的可靠性。具有更高的可靠性。

【技术实现步骤摘要】
模型解释方法以及电子设备


[0001]本申请实施例涉及人工智能
，并且更具体地，涉及模型解释方法以及电子设备。

技术介绍

[0002]在人工智能(Artificial Intelligence，AI)
中，一些实现逻辑难以理解的复杂模型，常被视为黑盒子，导致这些复杂模型在识别或者决策的过程中具有难以评估的风险。因而如何对复杂模型的识别结果或者决策结果进行解释是当前亟待解决的问题。

技术实现思路

[0003]本申请实施例提供了一种模型解释方法以及电子设备，能够对复杂模型的识别结果或者决策结果进行解释。
[0004]第一方面，提供了一种模型解释方法，包括：获取与待解释模型的类型对应的可解释性模型；将经过该待解释模型识别的n个实例数据输入该可解释性模型，分别得到该n个实例数据中每个实例数据的解释结果，n≥1，该实例数据的解释结果用于表征该实例数据中的至少一个特征在该待解释模型对该实例数据进行识别时的权重。
[0005]第二方面，提供一种电子设备，包括：获取单元，用于获取与待解释模型的类型对应的可解释性模型；本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型解释方法，其特征在于，包括：获取与待解释模型的类型对应的可解释性模型；将经过所述待解释模型识别的n个实例数据输入所述可解释性模型，分别得到所述n个实例数据中每个实例数据的解释结果，n≥1，所述实例数据的解释结果用于表征所述实例数据中的至少一个特征在所述待解释模型对所述实例数据进行识别时的权重。2.根据权利要求1所述的方法，其特征在于，所述获取与待解释模型的类型对应的可解释性模型，包括：基于所述待解释模型的类型，确定对应的模型解释程序；通过运行所述模型解释程序，训练得到所述可解释性模型。3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：获取所述待解释模型的类型。4.根据权利要求3所述的方法，其特征在于，所述获取所述待解释模型的类型包括：识别所述待解释模型的文件格式；基于所述待解释模型的文件格式，确定所述待解释模型的类型。5.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：获取模型解释类型，所述解释类型包括局部解释类型和/或全局解释类型。6.根据权利要求5所述的方法，其特征在于，在所述模型解释类型包括所述全局解释类型时，所述方法还包括：基于n个实例数据中每个实例数据的解释结果，确定所述待解释模型的解释结果，n＞1，所述待解释模型的解释结果用于表征每个实例数据中的每个特征在所述待解释模型进行识别时的权重的平均值。7.根据权利要求6所述的方法，其特征在于，所述方法还包括：基于预设的采样信息，从p个实例数据中进行采样，得到所述n个实例数据，p＞n。8.根据权利要求6或7所述的方法，其特征在于，所述基于所述n个实例数据中每...

【专利技术属性】
技术研发人员：杨斌，徐健，李正文，刘哲文，
申请(专利权)人：重庆度小满优扬科技有限公司，
类型：发明
国别省市：