【技术实现步骤摘要】
深度学习计算结果的特征解释方法、装置、设备及介质
本专利技术涉及人工智能
，特别涉及一种深度学习计算结果的特征解释方法、装置、设备及介质，需要说明的是，本申请公开的深度学习计算结果的特征解释方法和装置可用于人工智能领域，也可用于除人工智能领域之外的任意领域，本申请公开的深度学习计算结果的特征解释方法和装置的应用领域不做限定。
技术介绍
从自动化到增强现实，人工智能(AI)已在悄然改变商业运作的模式，部分公司也已经进入了自动化时代。人工智能逐渐取代人类过去的工作，例如，欺诈检测、简历审查和贷款申请等。机器人减轻了员工的负担，让他们可以从事更高级别的工作。最近普华永道发布的《全球CEO调研》中，发现高管们非常关注人工智能的风险和机遇。其中85％的CEO认为人工智能将在未来五年内显著改变他们的商业模式，近三分之二的CEO则认为人工智能的影响将会远远超过互联网变革。不过关于人工智能的可信度究竟有多少，大家都没有明确表态。另外，超过四分之三的CEO认为人工智能“有益于社会”，可是更多受访者(84％)认为，人工智能做出的决策要有理...
【技术保护点】
1.一种深度学习计算结果的特征解释方法，其特征在于，包括：/n将预设样本数据集输入原始模型，所述原始模型输出第一预测值，计算所述第一预测值的平均值；/n将所述预设数据集输入合作博弈论中解释所述原始模型的解释模型，所述解释模型输出第二预测值，其中，所述第一预测值等于所述第二预测值；/n针对所述预设样本数据集中的每个样本，计算该样本中每个特征的平均边际贡献，该样本中各个特征的平均边际贡献之和加上所述第一预测值的平均值得到的和等于该样本对应的第一预测值，其中，所述平均边际贡献的大小表示每个样本中每个特征对所述原始模型输出的计算结果的重要程度。/n
【技术特征摘要】
1.一种深度学习计算结果的特征解释方法，其特征在于，包括：
将预设样本数据集输入原始模型，所述原始模型输出第一预测值，计算所述第一预测值的平均值；
将所述预设数据集输入合作博弈论中解释所述原始模型的解释模型，所述解释模型输出第二预测值，其中，所述第一预测值等于所述第二预测值；
针对所述预设样本数据集中的每个样本，计算该样本中每个特征的平均边际贡献，该样本中各个特征的平均边际贡献之和加上所述第一预测值的平均值得到的和等于该样本对应的第一预测值，其中，所述平均边际贡献的大小表示每个样本中每个特征对所述原始模型输出的计算结果的重要程度。
2.如权利要求1所述的深度学习计算结果的特征解释方法，其特征在于，计算该样本中每个特征的平均边际贡献，包括：
通过以下公式计算该样本中每个特征的平均边际贡献：
其中，表示第i个特征的平均边际贡献；N表示该样本的全体特征集合；S表示N的一个排列子集；M表示该样本的特征的总数；fx表示所述原始模型的函数；fx(S∪{i})-fx(S)表示将第i个特征添加到排列子集S时，边际贡献的增加量。
3.如权利要求1或2所述的深度学习计算结果的特征解释方法，其特征在于，还包括：
通过以下公式计算该样本中多个特征交叉的平均边际贡献：
其中，表示t个特征交叉的平均边际贡献；N表示该样本的全体特征集合；S表示N的一个排列子集；M表示特征的总数；n为N中的t个特征组成的特征集合，fx表示所述原始模型的函数；表示将n中的t个特征添加到排列子集S时，边际贡献的增加量。
4.如权利要求1或2所述的深度学习计算结果的特征解释方法，其特征在于，还包括：
根据每个样本中每个特征的平均边际贡献，计算每个特征的评定模型值，其中，评定模型值的变化趋势与每个特征对所述原始模型输出的计算结果所起影响的正负成正比。
5.一种深度学习计算结果的特征解释装置，其特征在于，包括：
原始模型计算模块，用于将预设样本数据集输入原始模型，所述原始模型输出第一预测值，计算所述第一预测值的平均值；
解释模型计算模块，用...
【专利技术属性】
技术研发人员：余宇航，吴能斌，温丽明，张志群，
申请(专利权)人：中国工商银行股份有限公司，
类型：发明
国别省市：北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。