【技术实现步骤摘要】
本公开涉及人工智能技术相关，具体地说，是涉及一种基于梯度优化的反事实生成方法及系统。
技术介绍
1、本部分的陈述仅仅是提供了与本公开相关的
技术介绍
信息，并不必然构成在先技术。
2、事后解释对于人们理解机器学习模型的预测十分重要。在事后解释中有一类方法是生成反事实，通过对输入的扰动，得到一个假设的例子，告诉人们如何获得决策模型不同的预测。反事实解释应该满足几个属性：一是在特定情景和约束下生成的反事实对于用户应该是可行的，即应当适应不同的因果约束。二是对于用户来说更希望得到更多种可行的例子，即反事实的多样性。
3、对于反事实解释的方法，主要分为基于模型的方法和基于优化的方法，基于优化的方法分为线性方法、遗传算法和梯度优化；基于梯度优化中，第一个反事实解释方法是wachtercf，wachtercf将反事实实例定义为与原输入实例最近的点，利用随机梯度下降法，通过最小化原始特征向量和反事实特征向量之间的距离函数来生成反事实实例。与wachtercf类似，dice也是基于梯度优化，但不同的是，dice可以为用户提供多个不同
【技术保护点】
1.一种基于梯度优化的反事实生成方法，其特征在于，包括如下步骤：
2.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：获取已训练机器学习模型的连续特征和分类特征，对分类特征采用独热编码进行转换，对连续特征进行min-max规范化，根据特征范围确定可行域U。
3.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：对预分类点使用最邻近分类算法进行分类。
4.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：对于分类后的预分类点，通过决策树计算决策边界，将可行域分为多个独立的子可行域。
<...【技术特征摘要】
1.一种基于梯度优化的反事实生成方法，其特征在于，包括如下步骤：
2.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：获取已训练机器学习模型的连续特征和分类特征，对分类特征采用独热编码进行转换，对连续特征进行min-max规范化，根据特征范围确定可行域u。
3.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：对预分类点使用最邻近分类算法进行分类。
4.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：对于分类后的预分类点，通过决策树计算决策边界，将可行域分为多个独立的子可行域。
5.如权利要求1所述的一种基于梯度优化的反事实生成方法，其特征在于：梯度优化算法的损失函数包括：类别损失，对多样性和接近性的影响项；使用反事实实例组中的每个实例与输入实例的距离均值来约束接近性影响...
【专利技术属性】
技术研发人员：姜雪松，丁浩润，张天鹏，刘晓菁，衣凤阁，
申请(专利权)人：齐鲁工业大学山东省科学院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。