信息处理方法、程序和信息处理装置制造方法及图纸

本发明专利技术提供一种支援用户对已生成的机器学习模型的行为进行解释的信息处理方法等。信息处理方法由计算机执行下述处理：将被输入现有的机器学习模型(21)的说明数据向量xn与从所述机器学习模型(21)输出的目标数据向量yn相关联地记录多组；算出解释矩阵该解释矩阵是说明矩阵X与目标矩阵Y的广义逆阵的向量积，所述说明矩阵X排列有多组所述说明数据向量xn，所述目标矩阵Y按与所述说明数据向量X对应的顺序排列有所述目标数据向量yn；以及输出关于所述解释矩阵的图表(41、42、43)。

【技术实现步骤摘要】
【国外来华专利技术】

本专利技术涉及信息处理方法、程序和信息处理装置。

技术介绍

1、现已提出了一种系统，其使用机器学习模型对图像进行分类，并且通过热力图显示对分类有贡献的区域是哪里(专利文献1)。

2、先行技术文献

3、专利文献

4、专利文献1：日本特开2023-83555号公报

技术实现思路

1、专利技术要解决的课题

2、通过机器学习生成的机器学习模型属于黑箱，用户难以对其行为进行解釈。

3、本专利技术的一个目的在于，提供对用户解释已生成的机器学习模型的行为进行支援的信息处理方法等。

4、用于解决课题的手段

5、信息处理方法由计算机执行下述处理：将被输入现有的机器学习模型的说明数据向量(explanatory data vector)和从所述机器学习模型输出的目标数据向量相关联地记录多组；算出解释矩阵(interpretation matrix)，该解释矩阵使说明矩阵(explanatorymatrix)与目标矩阵的广义逆阵的向量积，说明矩阵排本文档来自技高网...

【技术保护点】

1.一种信息处理方法，其中，由计算机执行下述处理：

2.根据权利要求1所述的信息处理方法，其中，

3.根据权利要求1所述的信息处理方法，其中，

4.根据权利要求1所述的信息处理方法，其中，

5.根据权利要求1所述的信息处理方法，其中，

6.根据权利要求5所述的信息处理方法，其中，

7.根据权利要求1至5中任意一项所述的信息处理方法，其中，

8.一种程序，其中，使计算机执行下述处理：

9.一种信息处理装置，其中，包括控制部，

【技术特征摘要】
【国外来华专利技术】

1.一种信息处理方法，其中，由计算机执行下述处理：

2.根据权利要求1所述的信息处理方法，其中，

3.根据权利要求1所述的信息处理方法，其中，

4.根据权利要求1所述的信息处理方法，其中，

5.根据权利要求1所述的...

【专利技术属性】
技术研发人员：中西崇文，
申请(专利权)人：特征比茨株式会社，
类型：发明
国别省市：