模型解释方法、设备及可读存储介质技术

本申请公开了一种模型解释方法、设备及可读存储介质，所述模型解释方法包括：获取预设黑箱模型对应的各模型输入特征，并将各所述模型输入特征对应的预测数据集输入基于各预设样本类别优化的第一哈希编码模型，对所述预测数据集进行哈希编码，获得第一哈希编码结果，进而将所述预测数据集输入基于所述预设黑箱模型输出的各输出样本类别优化的第二哈希编码模型，对所述预测数据集进行哈希编码，获得第二哈希编码结果，进而基于所述第一哈希编码结果和所述第二哈希编码结果之间的各比特位差异度，确定各所述模型输入特征对应的特征置信度。本申请解决了模型解释效果差的技术问题。

【技术实现步骤摘要】
模型解释方法、设备及可读存储介质
本申请涉及金融科技(Fintech)的人工智能领域，尤其涉及一种模型解释方法、设备及可读存储介质。
技术介绍
随着金融科技，尤其是互联网科技金融的不断发展，越来越多的技术(如分布式、区块链Blockchain、人工智能等)应用在金融领域，但金融业也对技术提出了更高的要求，如对金融业对应待办事项的分发也有更高的要求。随着计算机软件和人工智能的不断发展，深度学习的应用领域也越来越广泛，基于深度学习的模型达到的性能也越来越好，但是由于基于深度学习的模型都是黑箱模型，难以精确解释模型将在什么情况下失效和有效，目前，通常通过Shapley重要性等方法估计模型输入特征的重要性，但是，该方法只能粗略的解释某一模型输入特征对是否对模型重要，无法对模型进行更加精确的解释，进而导致模型解释效果较差，所以，现有技术中存在模型解释效果差的技术问题。
技术实现思路
本申请的主要目的在于提供一种模型解释方法、设备及可读存储介质，旨在解决现有技术中模型解释效果差的技术问题。为实现上述目的，本申请提供一种模本文档来自技高网...

【技术保护点】
1.一种模型解释方法，其特征在于，所述模型解释方法包括：/n获取预设黑箱模型对应的各模型输入特征，并将各所述模型输入特征对应的预测数据集输入基于各预设样本类别优化的第一哈希编码模型，对所述预测数据集进行哈希编码，获得第一哈希编码结果；/n将所述预测数据集输入基于所述预设黑箱模型输出的各输出样本类别优化的第二哈希编码模型，对所述预测数据集进行哈希编码，获得第二哈希编码结果；/n基于所述第一哈希编码结果和所述第二哈希编码结果之间的各比特位差异度，确定各所述模型输入特征对应的特征置信度。/n

【技术特征摘要】
1.一种模型解释方法，其特征在于，所述模型解释方法包括：
获取预设黑箱模型对应的各模型输入特征，并将各所述模型输入特征对应的预测数据集输入基于各预设样本类别优化的第一哈希编码模型，对所述预测数据集进行哈希编码，获得第一哈希编码结果；
将所述预测数据集输入基于所述预设黑箱模型输出的各输出样本类别优化的第二哈希编码模型，对所述预测数据集进行哈希编码，获得第二哈希编码结果；
基于所述第一哈希编码结果和所述第二哈希编码结果之间的各比特位差异度，确定各所述模型输入特征对应的特征置信度。


2.如权利要求1所述模型解释方法，其特征在于，所述基于所述第一哈希编码结果和所述第二哈希编码结果之间的各比特位差异度，确定各所述模型输入特征对应的特征置信度的步骤包括：
计算所述第一哈希编码结果和所述第二哈希编码结果之间的各所述比特位差异度，并确定各所述比特位差异度对应的输出通道置信度；
计算各所述模型输入特征的输入特征贡献度，并基于各所述输出通道置信度和各所述输入特征贡献度，确定各所述特征置信度。


3.如权利要求2所述模型解释方法，其特征在于，所述预测数据集至少包括一个预测样本，所述第一哈希编码结果包括各所述预测样本对应的第一哈希编码值，所述第二哈希编码结果包括各所述预测样本对应的第二哈希编码值，所述比特位差异度包括比特位一致性错误率，所述输出通道置信度包括输出通道错误率，
所述计算所述第一哈希编码结果和所述第二哈希编码结果之间的各所述比特位差异度，并确定各所述比特位差异度对应的输出通道置信度的步骤包括：
将每一所述预测样本对应的所述第一哈希编码值和所述第二哈希编码值进行比对，获得各所述比特位一致性错误率；
确定所述第二哈希编码结果对应的各模型输出通道，并基于各所述比特位一致性错误率，确定各所述模型输出通道对应的所述输出通道错误率。


4.如权利要求2所述模型解释方法，其特征在于，所述第二哈希编码模型至少包括一个模型输出通道，
所述计算各所述模型输入特征的输入特征贡献度的步骤包括：
确定每一所述模型输入特征与每一所述模型输出通道之间的各模型网络链接；
获取每一所述模型网络链接中各网络神经元对应的模型网络参数，并基于各所述模型网络参数，计算各所述输入特征贡献度。


5.如权利要求1所述模型解释方法，其特征在于，在所述获取预设黑箱模型对应的各模型输入特征，并将各所述模型输入特征对应的预测数据集输入基于各预设样本类别优化的第一哈希编码模型，对所述预测数据集进行哈希编码，获得第一哈希编码结果的步骤之前，所述模型解释方法还包括：
获取第一待训练模型和各所述预设样本类别对应的训练数据集，并基于预设目标哈希编码方式，确定各所述预设样本类别对应的第一目标哈希编码结果；
基于所述第一目标哈希编码结果和所述训练数据集，对所述第一待训练模型进行迭代训练，直至所述第一待训练模型达到预设迭代结束条件，获得所述第一哈希编码模型。


6.如权利要求5所述模型解释方法，其特征在于，所述训练数据集至少包括一个训练样本，所述第一目标哈希编码结果包括各所述训练样本对应的第一目...

【专利技术属性】
技术研发人员：吴锦和，范力欣，张天豫，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：广东;44