一种模型预测的关键区域的分析方法及装置制造方法及图纸

本申请适用于数据处理技术领域，提供了一种模型预测的关键区域的分析方法，包括：获取预测模型；获取样本数据，并基于预测模型对样本数据进行遮盖实验，获得对样本数据进行遮盖实验前后关于预测模型的输出数据；根据遮盖实验前后的输出数据计算遮盖区域的重要程度指标值；根据重要程度指标值绘制图，获得模型预测的关键区域。本申请基于预测模型对样本数据进行遮盖实验，获得预测模型的输出数据，根据输出数据计算获得预测模型的关键区域的衡量指标，并绘制成图，能够直观的表示出模型预测的关键区域，展示哪些区域是与模型预测相关的关键区域，揭示预测模型发挥作用的机制，提升了深度学习模型的可解释性，有效的扩展了深度学习技术的应用面。

【技术实现步骤摘要】
一种模型预测的关键区域的分析方法及装置
本申请属于数据处理
，尤其涉及一种模型预测的关键区域的分析方法及装置。
技术介绍
深度学习方法是一种表示学习方法，其可以根据训练数据，数据驱动模型自动学习表征，因此在计算机视觉、自然语言处理等领域取得了明显优于传统学习方法的效果。由于深度学习模型的特性难以通过语言解释的。使用者很难确定模型是如何发挥作用的，模型究竟学习到了什么样的特征，是否仅仅因为数据泄露等问题而取得虚假的“良好”性能。因此，深度学习在很多应用领域上受到限制，如医疗、交通、金融领域。
技术实现思路
本申请实施例提供了一种模型预测的关键区域的分析方法及装置，可以解决现有技术中深度学习模型由于无法解释而造成应用领域受到限制的问题。第一方面，本申请实施例提供了一种模型预测的关键区域的分析方法，包括：获取预测模型；获取样本数据，并基于预测模型对样本数据进行遮盖实验，分别获得对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据；根据对样本数据进行遮盖本文档来自技高网...

【技术保护点】
1.一种模型预测的关键区域的分析方法，其特征在于，包括：/n获取预测模型；/n获取样本数据，并基于预测模型对样本数据进行遮盖实验，分别获得对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据；/n根据对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据，计算遮盖区域的重要程度指标值；/n根据所述重要程度指标值绘制图，获得模型预测的关键区域。/n

【技术特征摘要】
1.一种模型预测的关键区域的分析方法，其特征在于，包括：
获取预测模型；
获取样本数据，并基于预测模型对样本数据进行遮盖实验，分别获得对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据；
根据对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据，计算遮盖区域的重要程度指标值；
根据所述重要程度指标值绘制图，获得模型预测的关键区域。


2.如权利要求1所述的模型预测的关键区域的分析方法，其特征在于，所述预测模型为深度学习模型；
所述获取预测模型，包括：
搭建预设的深度学习模型；
根据训练集的数据训练深度学习模型的参数；
根据验证集对训练后的深度学习模型的超参数进行验证、选择，获得目标深度学习模型，作为预测模型；其中，深度学习模型包括卷积神经网络和循环神经网络中的至少一种。


3.如权利要求1所述的模型预测的关键区域的分析方法，其特征在于，所述获取样本数据，并基于预测模型对样本数据进行遮盖实验，分别获得对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据，包括：
从测试集中获取满足预设条件的样本数据；
根据样本数据的维度建立对应的坐标系；
根据坐标系的类型建立对应尺寸的遮盖窗口，滑动所述遮盖窗口，对样本数据进行遮盖，分别获得对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据。


4.如权利要求3所述的模型预测的关键区域的分析方法，其特征在于，所述根据样本数据的维度建立对应的坐标系，包括：
若所述样本数据为一维序列信息，则沿序列方向建立一维坐标系，一维坐标系中起点为序列起点位置；
若所述样本数据为二维矩阵，则分别沿二维矩阵的两个维度建立二维坐标系，二维坐标系中起点为两个坐标轴的交点；
若所述样本数据为三维张量，则在三维空间上建立一个三维坐标系，三维坐标系中起点为三个坐标轴的交叉点。


5.如权利要求1所述的模型预测的关键区域的分析方法，其特征在于，所述根据对样本数据进行遮盖实验前预测模型的输出数据和对样本数据进行遮盖实验后预测模型的输出数据...

【专利技术属性】
技术研发人员：蒋佳新，胡帆，殷鹏，
申请(专利权)人：深圳先进技术研究院，
类型：发明
国别省市：广东;44