一种实现人工智能可解释的方法、装置、设备及存储介质制造方法及图纸

本公开提供了一种实现人工智能可解释的方法、装置、设备及存储介质，所述方法包括：首先，接收目标人工智能AI模型对应的待解释数据；其中，所述待解释数据包括特征数据和/或模型数据，以及预估数据。其次，确定与所述待解释数据匹配的解释算子，最终，运行所述解释算子对所述待解释数据进行解释，得到解释结果。本公开实施例能够为目标AI模型对应的待解释数据提供解释结果，实现了人工智能可解释。另外，用户还可以基于人工智能可解释的需求自行设计人工智能可解释方法，用于对目标AI模型的待解释数据进行解释，提高了人工智能可解释方法的灵活性。

【技术实现步骤摘要】
一种实现人工智能可解释的方法、装置、设备及存储介质
本公开涉及数据处理领域，尤其涉及一种实现人工智能可解释的方法、装置、设备及存储介质。
技术介绍
人工智能可解释是指解决面向机器学习场景下的可解释问题，尤其是在对可靠性和安全性要求较高的领域，如医疗领域和银行、保险等金融监管领域等，对于提高人工智能模型的透明度和可解释性，已经成为机器学习系统中越来越被重视的需求。因此，如何实现人工智能可解释，是目前亟待解决的技术问题。
技术实现思路
为了解决上述技术问题或者至少部分地解决上述技术问题，本公开提供了一种实现人工智能可解释的方法、装置、设备及存储介质，能够为目标AI模型对应的待解释数据提供解释结果，实现人工智能可解释。第一方面，本公开提供了一种实现人工智能可解释的方法，所述方法包括：接收目标人工智能AI模型对应的待解释数据；其中，所述待解释数据包括特征数据和/或模型数据，以及预估数据；确定与所述待解释数据匹配的解释算子；运行所述解释算子对所述待解释数据进行解释，得到解释结果。一种可选本文档来自技高网...

【技术保护点】
1.一种实现人工智能可解释的方法，其特征在于，所述方法包括：/n接收目标人工智能AI模型对应的待解释数据；其中，所述待解释数据包括特征数据和/或模型数据，以及预估数据；/n确定与所述待解释数据匹配的解释算子；/n运行所述解释算子对所述待解释数据进行解释，得到解释结果。/n

【技术特征摘要】
1.一种实现人工智能可解释的方法，其特征在于，所述方法包括：
接收目标人工智能AI模型对应的待解释数据；其中，所述待解释数据包括特征数据和/或模型数据，以及预估数据；
确定与所述待解释数据匹配的解释算子；
运行所述解释算子对所述待解释数据进行解释，得到解释结果。


2.根据权利要求1所述的方法，其特征在于，所述接收目标AI模型对应的待解释数据的步骤之前，还包括：
获取与所述目标AI模型相关的元数据；
确定与所述元数据匹配的解释方案；
将所述元数据和所述解释方案保存为解释算子；其中，所述元数据用于匹配到所述解释算子。


3.根据权利要求2所述的方法，其特征在于，所述元数据包括特征元数据和/或模型元数据，所述确定与所述元数据匹配的解释方案的步骤，包括：
确定与所述特征元数据匹配的特征解释方案，和/或，确定与所述模型元数据匹配的模型解释方案。


4.根据权利要求3所述的方法，其特征在于，所述确定与所述特征元数据匹配的特征解释方案，包括：
将所述特征元数据中的至少一个维度特征确定为目标维度特征；
基于所述目标维度特征对应的数据类型，确定与所述目标维度特征匹配的特征解释方案。


5.根据权利要求3所述的方法，其特征在于，所述确定与所述模型元数据匹配的模型解释方案，包括：
基于所述模型元数据中的模型类型，确定与所述模型元数据匹配的模型解释方案；
或者，基于所述模型元数据中的模型输入输出数据构建模型，...

【专利技术属性】
技术研发人员：宋吉鹏，詹镇江，
申请(专利权)人：第四范式北京技术有限公司，
类型：发明
国别省市：北京;11