一种人工智能可解释性算法选择方法及相关设备技术

本申请提供一种人工智能可解释性算法选择方法及相关设备，依据预设筛选规则以及目标项目信息，初步筛选出多种候选可解释性算法后，可以依据多种候选可解释性算法，分别对目标项目信息进行处理，得到每个候选可解释性算法的预设数量的重要特征；并通过预设的特征构造方式，获得所述目标项目信息的解释真值，从而依据解释真值以及多种候选可解释性算法各自对应的重要特征，获得每个候选可解释性算法的解释命中率，这样至少依据多种候选可解释性算法各自的解释命中率，可以快速且准确地确定针对目标项目的目标可解释性算法。针对目标项目的目标可解释性算法。针对目标项目的目标可解释性算法。

【技术实现步骤摘要】
一种人工智能可解释性算法选择方法及相关设备


[0001]本申请涉及人工智能
，更具体地说是涉及一种人工智能可解释性算法选择方法及相关设备。

技术介绍

[0002]随着机器学习和人工智能技术在各个领域中的迅速发展和应用，向用户解释算法输出的结果变得至关重要。人工智能的可解释性是指用户能够理解人工智能算法在其决策过程中所做出的选择，包括做出决策的原因，方法以及决策的内容，有助于扩展人工智能模型的应用、提升其性能以及增加用户的新任务等。
[0003]然而，可解释性人工智能拥有众多的解释性目标，由于可解释性的范围太过于广泛，不同的应用场景下所需要解释的内容不一样，甚至针对不同的用户受众所要解释的内容也不同。这就需要开发人员结合实际应用需求，花费大量时间对比不同类型的人工智能算法，选择所需的人工智能算法，费时费力，且无法保证所选择的人工智能算法合适。

技术实现思路

[0004]有鉴于此，为了解决上述问题，本申请提供了以下技术方案：
[0005]本申请提出了一种人工智能可解释性算法选择方法，所述方法包括：
[0006]依据预设筛选规则以及目标项目信息，从可解释性算法库中筛选出多种候选可解释性算法；
[0007]依据所述多种候选可解释性算法，分别对所述目标项目信息进行处理，得到每个所述候选可解释性算法的预设数量的重要特征；
[0008]通过预设的特征构造方式，获得所述目标项目信息的解释真值；
[0009]依据所述解释真值以及所述多种候选可解释性算法各自对应的所述重要特征，获得每个所述候选可解释性算法的解释命中率；
[0010]至少依据所述多种候选可解释性算法各自的所述解释命中率，确定所述多种候选可解释性算法中的目标可解释性算法。
[0011]可选的，所述依据预设筛选规则以及目标项目信息，从可解释性算法库中筛选出多种候选可解释性算法，包括：
[0012]依据目标项目信息，确定目标项目所需的人工智能算法是否为的已训练好的人工智能算法；
[0013]若不是已训练好的人工智能算法，从可解释性算法库中，选择针对白盒模型的内在可解释性算法为候选可解释性算法；
[0014]若是已训练好的人工智能算法，且确定所述已训练好的人工智能算法能够通过简单模型替换，从可解释性算法库中，选择针对白盒模型的内在可解释性算法为候选可解释性算法；
[0015]若是已训练好的人工智能算法，且确定所述已训练好的人工智能算法不能通过简
单模型替换，从可解释性算法库中，选择针对黑盒模型的事后可解释性算法为候选可解释性算法。
[0016]可选的，在所述确定目标项目所需的人工智能算法不是已训练好的人工智能算法，或者是已训练好的人工智能算法，且所述已训练好的人工智能算法不能通过简单模型替换的情况下，还包括：
[0017]依据所述目标项目信息，确定目标项目所需的人工智能算法的预测精度高于所述白盒模型的预测精度，选择针对黑盒模型的事后可解释性算法为候选可解释性算法；
[0018]依据所述目标项目信息，确定目标项目所需的人工智能算法的可解释性高于所述白盒模型的可解释性，确定是否需要解释所述目标项目的单个样本；
[0019]若需要解释所述目标项目的单个样本，选择针对黑盒模型的局部可解释性算法为候选可解释性算法；
[0020]若不需要解释所述目标项目的单个样本，选择针对黑盒模型的全局可解释性算法为候选可解释性算法。
[0021]可选的，所述依据预设筛选规则以及目标项目信息，从可解释性算法库中筛选出多种候选可解释性算法，还包括：
[0022]在所述选择针对黑盒模型的事后可解释性算法的情况下，执行步骤所述确定是否需要解释所述目标项目的单个样本。
[0023]可选的，所述预设的特征构造方式包括线性构造方式、非线性构造方式以及特征交互构造方式之中的任一种；所述通过预设的特征构造方式，获得所述目标项目信息的解释真值，包括：
[0024]依据所述目标项目信息，获得多个目标项目特征；
[0025]基于协方差的阈值滤波方式，对所述多个目标项目特征进行筛选，得到特征数据集；其中，所述特征数据集包含的各目标项目特征相互独立；
[0026]确定针对目标项目信息的特征构造方式；
[0027]通过所确定的所述特征构造方式，对所述特征数据集进行预测值构造，获得所述目标项目信息的解释真值。
[0028]可选的，所述方法还包括：
[0029]获得每个所述候选可解释性算法对所述目标特征信息进行处理的执行时长；
[0030]所述至少依据所述多种候选可解释性算法各自的所述解释命中率，确定所述多种候选可解释性算法中的目标可解释性算法，包括：
[0031]依据所述多种候选可解释性算法各自的所述解释命中率和所述执行时长，确定所述多种候选可解释性算法中的目标可解释性算法。
[0032]可选的，所述方法还包括：
[0033]获得针对目标项目信息的可解释性框架指标；所述可解释性框架指标包括可解释性框架的部署难度、效率和/或活跃度；
[0034]依据所述可解释性框架指标，从可解释性框架库中，筛选出用于执行所述目标可解释性算法的目标可解释性框架。
[0035]本申请还提出了一种人工智能可解释性算法选择装置，所述装置包括：
[0036]候选可解释性算法筛选模块，用于依据预设筛选规则以及目标项目信息，从可解
释性算法库中筛选出多种候选可解释性算法；
[0037]重要特征得到模块，用于依据所述多种候选可解释性算法，分别对所述目标项目信息进行处理，得到每个所述候选可解释性算法的预设数量的重要特征；
[0038]特征构造模块，用于通过预设的特征构造方式，获得所述目标项目信息的解释真值；
[0039]解释命中率获得模块，用于依据所述解释真值以及所述多种候选可解释性算法各自对应的所述重要特征，获得每个所述候选可解释性算法的解释命中率；
[0040]目标可解释性算法确定模块，用于至少依据所述多种候选可解释性算法各自的所述解释命中率，确定所述多种候选可解释性算法中的目标可解释性算法。
[0041]本申请还提出了一种计算机设备，所述计算机设备包括：
[0042]通信接口；
[0043]存储器，用于存储实现如上述的人工智能可解释性算法选择方法的程序；
[0044]处理器，用于加载并执行所述存储器存储的程序，实现如上述的人工智能可解释性算法选择方法。
[0045]本申请还提出了一种计算机可读存储介质，其上存储有多个计算机指令，所述计算机指令被处理器加载执行，实现如上述的人工智能可解释性算法选择方法。
[0046]由此可见，本申请提供一种人工智能可解释性算法选择方法及相关设备，依据预设筛选规则以及目标项目信息，初步筛选出多种候选可解释性算法后，可以依据多种候选可解释性算法，分别对目标项目信息进行处理，得到每个候选可解释性算本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能可解释性算法选择方法，其特征在于，所述方法包括：依据预设筛选规则以及目标项目信息，从可解释性算法库中筛选出多种候选可解释性算法；依据所述多种候选可解释性算法，分别对所述目标项目信息进行处理，得到每个所述候选可解释性算法的预设数量的重要特征；通过预设的特征构造方式，获得所述目标项目信息的解释真值；依据所述解释真值以及所述多种候选可解释性算法各自对应的所述重要特征，获得每个所述候选可解释性算法的解释命中率；至少依据所述多种候选可解释性算法各自的所述解释命中率，确定所述多种候选可解释性算法中的目标可解释性算法。2.根据权利要求1所述的方法，其特征在于，所述依据预设筛选规则以及目标项目信息，从可解释性算法库中筛选出多种候选可解释性算法，包括：依据目标项目信息，确定目标项目所需的人工智能算法是否为的已训练好的人工智能算法；若不是已训练好的人工智能算法，从可解释性算法库中，选择针对白盒模型的内在可解释性算法为候选可解释性算法；若是已训练好的人工智能算法，且确定所述已训练好的人工智能算法能够通过简单模型替换，从可解释性算法库中，选择针对白盒模型的内在可解释性算法为候选可解释性算法；若是已训练好的人工智能算法，且确定所述已训练好的人工智能算法不能通过简单模型替换，从可解释性算法库中，选择针对黑盒模型的事后可解释性算法为候选可解释性算法。3.根据权利要求2所述的方法，其特征在于，在所述确定目标项目所需的人工智能算法不是已训练好的人工智能算法，或者是已训练好的人工智能算法，且所述已训练好的人工智能算法不能通过简单模型替换的情况下，还包括：依据所述目标项目信息，确定目标项目所需的人工智能算法的预测精度高于所述白盒模型的预测精度，选择针对黑盒模型的事后可解释性算法为候选可解释性算法；依据所述目标项目信息，确定目标项目所需的人工智能算法的可解释性高于所述白盒模型的可解释性，确定是否需要解释所述目标项目的单个样本；若需要解释所述目标项目的单个样本，选择针对黑盒模型的局部可解释性算法为候选可解释性算法；若不需要解释所述目标项目的单个样本，选择针对黑盒模型的全局可解释性算法为候选可解释性算法。4.根据权利要求3所述的方法，其特征在于，所述依据预设筛选规则以及目标项目信息，从可解释性算法库中筛选出多种候选可解释性算法，还包括：在所述选择针对黑盒模型的事后可解释性算法的情况下，执行步骤所述确定是否需要解释所述目标项目的单个样本。5.根据权利要求1
‑
4任一项所述的方法，其特征在于，所述预设的特征构造方式包括线性构造方式、非线性构造方式以及特...

【专利技术属性】
技术研发人员：闫玲玲，
申请(专利权)人：中银金融科技有限公司，
类型：发明
国别省市：