当前位置: 首页 > 专利查询>之江实验室专利>正文

一种基于结构化数据生成的模型解释方法和装置制造方法及图纸

技术编号:40033778 阅读:18 留言:0更新日期:2024-01-16 18:39
本发明专利技术公开了一种基于结构化数据生成的模型解释方法和装置,利用任务相关的训练数据对生成式对抗网络模型进行训练,并利用训练后的生成式对抗网络模型生成结构化数据;对结构化数据中的连续特征进行预处理;对预处理后的特征进行采样得到各采样特征样本,并根据解释样例数据与各采样特征样本计算样本权重;基于各采样特征样本和样本权重筛选前K大的特征作为重要特征;基于各采样特征样本与重要特征构建进行线性回归得到用于解释的解释模型;应用时利用解释模型对解释样例数据在任务模型中起到的作用进行模型解释,该方法和装置被应用到金融领域和医疗领域,在保护数据隐私和安全的同时实现对模型做出决策的原理进行解释。

【技术实现步骤摘要】

本专利技术属于计算机软件,尤其涉及一种基于结构化数据生成的模型解释方法和装置


技术介绍

1、随着人工智能和机器学习技术的发展,模型的可解释性变得越来越重要,模型解释方法可以解释机器学习算法背后的决策原理,帮助人们更好地理解和信任这些决策。

2、在现有的解释模型中,解释案例时需要获取实际的训练数据,例如lime需要获取训练数据构建局部回归模型,基于相似性的正例和反例解释模型需要从训练样本上找到相似样本。但是在实际应用场景中,由于训练数据读取效率和安全访问权限的问题,训练数据需要与解释模型解耦。目前,lime是利用训练样本中各特征的统计信息进行单列采样,这种方法的缺点是会丢失实际样本特征之间的相关性。基于相似性的模型,从训练样本中找到类似正反例进行解释会泄露个人敏感信息,特别是在金融和医疗领域,侵犯个人隐私。

3、专利文献cn 110083684 a公开了一种面向细粒度情感的可解释推荐模型,包括:由原始评论文本的解析和预处理模块实现原始特征的提取;由互信息矩阵构建模块实现多信息的高效融合;由联合分解模块初始化因子矩阵进行多矩阵的约束优本文档来自技高网...

【技术保护点】

1.一种基于结构化数据生成的模型解释方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述利用训练数据对任务相关的生成式对抗网络模型进行训练,包括:

3.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述对结构化数据中的连续特征进行预处理,包括:

4.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述基于各采样特征样本和样本权重筛选前K大的特征作为重要特征,包括:

5.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述基于加权岭...

【技术特征摘要】

1.一种基于结构化数据生成的模型解释方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述利用训练数据对任务相关的生成式对抗网络模型进行训练,包括:

3.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述对结构化数据中的连续特征进行预处理,包括:

4.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述基于各采样特征样本和样本权重筛选前k大的特征作为重要特征,包括:

5.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述基于加权岭回归模型筛选前k大的特征权重对应的采样特征样本作为重要特征,包括:

6.根据权利要求1所述的基于结构化数据生成的模型解释方法,其特征在于,所述利用回归特征系数对解释样例数据在生成式对抗网络模型中起到的作用进行模型解释,包括:

7.根据权利要求1所述...

【专利技术属性】
技术研发人员:张睿王成那崇宁李楠
申请(专利权)人:之江实验室
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1