一种量化神经网络中多个输入变量之间相互作用的方法技术

本发明专利技术公开了一种量化神经网络中多个输入变量之间相互作用的方法，属于深度学习技术领域，包括：给定预训练的神经网络和一个输入样本，选定输入样本中将用于计算相互作用的若干输入变量；通过训练，得到对所述输入变量的两种划分，所述划分将所述输入变量划分为多个联盟，根据网络输出计算各个联盟的沙普利值；两种划分得到的沙普利值之和的差反映了输入变量之间的相互作用；可以帮助人们理解输入变量之间的关系，并提取出神经网络建模的原型特征，从而起到解释神经网络特征建模的作用，可以应用于各类深度神经网络，提供了一种通用的可解释性方法。

【技术实现步骤摘要】
一种量化神经网络中多个输入变量之间相互作用的方法
：本专利技术涉及深度学习领域，具体涉及一种量化神经网络中多个输入变量之间相互作用的算法。
技术介绍
：近年来，神经网络在多个领域都取得了优秀的表现，然而，神经网络也常常由于其黑盒特性而受到诟病。因此，解释神经网络内部的特征表达与建模逐渐成为了人们关注的热点。现有的解释神经网络的技术中，有一大方向是研究神经网络所建模的输入变量之间的相互作用关系。然而，现有技术主要关注两个输入变量之间的相互作用，忽略了多个变量之间的相互作用。量化多个变量之间的相互作用，对于理解神经网络的特征建模具有重要作用。
技术实现思路
：针对目前神经网络的黑箱性质，本专利技术的目的是提供一种量化神经网络中多个输入变量之间相互作用的方法，可以帮助人们理解输入变量之间的关系，并提取出神经网络建模的原型特征，从而起到解释神经网络特征建模的作用。为解决上述技术问题，本专利技术采用如下技术方案：本专利技术提供一种量化神经网络中多个输入变量之间相互作用的方法，其特征在于，所述方法包括：给本文档来自技高网...

【技术保护点】
1.一种量化神经网络中多个输入变量之间相互作用的方法，其特征在于，所述方法包括：/n给定预训练的神经网络和一个输入样本，选定所述输入样本中用于计算相互作用的若干输入变量；/n通过训练，得到对所述输入变量的两种划分，每种所述划分将所述输入变量划分为多个联盟，根据网络输出计算各个联盟的沙普利值；/n两种划分得到的沙普利值之和的差反映了所述输入变量之间的相互作用。/n

【技术特征摘要】
1.一种量化神经网络中多个输入变量之间相互作用的方法，其特征在于，所述方法包括：
给定预训练的神经网络和一个输入样本，选定所述输入样本中用于计算相互作用的若干输入变量；
通过训练，得到对所述输入变量的两种划分，每种所述划分将所述输入变量划分为多个联盟，根据网络输出计算各个联盟的沙普利值；
两种划分得到的沙普利值之和的差反映了所述输入变量之间的相互作用。
<...

【专利技术属性】
技术研发人员：张拳石，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：上海;31