可解释人工智能制造技术

本公开的实施例涉及可解释人工智能。描述了基于人工智能的推理解释的示例。在示例实施方式中，生成具有多个本体和多个推论规则的知识模型。一旦生成知识模型，基于真实世界问题，从各种知识模型中选择要用于解决真实世界问题的知识模型。将从真实世界问题获取的数据聚类和分类成为所确定的知识模型的本体。标识要用于解构真实世界问题的推论规则，并且生成机器推理以提供针对问题的假设和伴随假设的解释。

Interpretable Artificial Intelligence

【技术实现步骤摘要】
可解释人工智能优先权本申请要求于2018年2月5日提交的美国临时申请号62/626,460的优先权，其公开内容通过引用整体并入本文。
技术介绍
人工智能(还被称为AI)的核心是使用机器学习技术，以允许机器模拟人类行为的某些核心方面。换言之，AI允许机器表现为能够在很少或没有人为干预的情况下感知、学习、做出决策、以及采取行动的自主系统。基于AI的系统在用于增强人类智能时的有效性通常根据系统向用户解释决策和行动的能力来衡量。虽然在某些情况下用户可以同意某个行动或决策或者完全放弃对于来自机器的解释的需求，但是在大多数情况下，如果机器能够解释用于达成该推荐的逻辑步骤和推理(reasoning)，则用户可以仅欣赏或者甚至接受由机器给出的推荐。例如，用户可以不知道Netflix推荐某些电影的原因；但是，用户仍然可以接受推荐。但是，如果机器推荐用户经受侵入性医疗，则由于情况的严重性，用户可能希望能够看到用于推荐的推理和智力(intellect)。例如，在财务和会计场景中，对于日记账分录的账户代码表的推荐，必须进行解释和推理。在另一示例中，在采购中，推理和解释是必要的，例如，以解释供应商的选择或最终出价。在又一示例中，在基于政策的内容审核中，对于被拒绝的政策外的广告或社交媒体发布，需要解释和推理。作为另一备选示例，在医疗保健中，对于被拒绝的索赔的解释是强制性的，作为福利解释的一部分。传统上，存在用于可解释AI的各种技术，可解释AI是用于AI的术语，其能够针对由其做出的决策提供解释。例如，一种技术可以将数字媒体和社交媒体内容连接到所公认的真相源。因此，该技术基于内容是否与真实源相关联来提供关于媒体内容的真实性的解释。另一种技术试图基于与图像相关联的描述和类定义来对图像进行分类，并且通过描绘描述和类定义之间的连接来解释分类。又一种技术使用图像分解来标识图像中的各种元素。经分解的图像的不同元素用于解释图像和图像的最终分析。然而，在可解释AI系统中使用的大多数上述机器学习技术使用从输入数据中提取的特征向量(其可以是时间序列、文本、图像、视频)并且产生输出标签，而没有明确记录关于标签的产生方式和原因的解释。基于前向或后向链接(chaining)的其他机器推理技术可能无法提供推理过程的完整溯源。这些技术中的很多技术不提供答案的置信度，并且很少将与业务环境相关联的风险值考虑到对解释的考虑中。在很多情况下，单独的准确性或置信度不足以确定是否需要人为干预，因为做出正确或错误决策的值(或风险)变化很大。此外，由现有的可解释AI系统提供的验证粒度可能不足以使得用户审核推荐并且确保可以信任决策做出(decision-making)。此外，在存在错误决策做出的情况下，用户无法准确地查明或标识出针对这种决策做出的原因。这提出了可解释AI系统的技术问题，因为它们在提供对它们提供的解决方案的分析方面可能是低效的。因此，现有系统可以利用计算和手动资源，这仍然可能导致不充分和无效的结果。本公开涉及可解释AI工具，其以技术方式解决了上述技术问题。
技术实现思路
根据一个方面，提供了一种人工智能AI系统，其包括知识模型构造器和执行器。知识模型构造器用于生成知识模型，知识模型包括多个本体和多个推论规则，多个推论规则用于生成针对由AI系统做出的决策的解释，知识模型构造器包括：本体创建器，用于基于从知识模型构造器的真实世界交互获取的数据来创建多个本体，所获取的数据是真实世界数据，真实世界数据包括结构化数据、非结构化数据和半结构化数据；以及规则构造器，用于基于本体和从真实世界交互获取的真实世界数据来构造多个推论规则。执行器用于在面对真实世界问题时做出决策，执行器包括：知识模型检测器，用于基于真实世界问题来选择要用于解决真实世界问题的知识模型；以及解释器，用于执行决策做出过程并且生成针对所做出的决策的解释，解释器包括：分类器和簇生成器，用于将从真实世界问题获取的数据分类和聚类到所确定的知识模型的本体中；规则标识器，用于标识要用于解构真实世界问题的推论规则；以及推论器和假设生成器，用于提供基于机器学习的推理，以提供针对真实世界问题的假设和伴随假设的解释，其中推论器和假设生成器捕获置信度参数，置信度参数指示针对所做出的决策的解释的强度。根据一个实施例，解释器使用机器学习技术来生成决策和解释的视觉表示。根据一个实施例，规则标识器解析真实世界问题，以组织所述真实世界问题中的逻辑语句。根据一个实施例，规则标识器提供真实世界问题的解构的人类可读形式，以预览推理线。根据一个实施例，所标识的推论规则是使用前向链接过程和后向链接过程中的一者而被触发的。根据另一方面，提供了一种AI系统，其包括知识模型构造器和执行器。知识模型构造器用于生成知识模型，知识模型包括多个本体和多个推论规则，多个推论规则用于生成针对由AI系统做出的决策的解释，知识模型构造器包括：本体创建器，用于基于从知识模型构造器的真实世界交互获取的数据来创建多个本体，所获取的数据是真实世界数据，真实世界数据包括结构化数据、非结构化数据和半结构化数据，其中本体创建器利用归纳推理技术用于创建本体；以及规则构造器，用于基于本体和从真实世界交互获取的真实世界数据来构造多个推论规则，其中规则构造器利用演绎推理技术用于创建多个推论规则。执行器用于在面对真实世界问题时做出决策，执行器包括：知识模型检测器，用于基于真实世界问题来选择要用于解决真实世界问题的知识模型；以及解释器，用于执行决策做出过程并且生成针对所做出的决策的解释，解释器包括：分类器和簇生成器，用于将从真实世界问题获取的数据分类和聚类到所确定的知识模型的本体中，其中分类器和簇生成器使用归纳推理技术用于对数据进行分类和聚类；规则标识器，用于标识要用于解构真实世界问题的推论规则，其中规则标识器利用演绎推理技术用于解构真实世界问题；以及推论器和假设生成器，用于提供机器生成的推理，以提供针对问题的假设和伴随假设的解释，其中推论器和假设生成器利用溯因推理技术用于提供假设和解释。根据一个实施例，规则构造器将解释的强度构建到推论规则中。根据一个实施例，推论器和假设生成器确定置信度参数，置信度参数指示强度，置信度参数与决策和关联的解释相关联。根据一个实施例，规则标识器解析真实世界问题，以组织真实世界问题中的逻辑语句。根据一个实施例，规则标识器提供真实世界问题的解构的人类可读形式，以预览推理线。根据一个实施例，所标识的推论规则是使用前向链接过程和后向链接过程中的一者而被触发的。根据一个实施例，归纳推理技术包括监督聚类技术和无监督聚类技术中的一者。根据一个实施例，溯因推理技术包括基于证据的推理技术。根据又一方面，提供了一种包括机器可读指令的非暂态计算机可读介质，机器可读指令由处理器可执行以：生成知识模型，知识模型包括多个本体和多个推论规则，多个推论规则用于生成针对由AI系统做出的决策的解释，其中生成本体包括：通过使用归纳推理技术用于创建本体，而基于从真实世界交互获取的数据来创建多个本体；以及通过使用演绎推理技术用于创建多个推论规则，而基于本体和从真实世界交互获取的数据来创建多个推论规则；基于真实世界问题，确定要用于解决真实世界问题的知识模型；通过使用归纳推理技术用于对数据进行分类和聚类，而将从本文档来自技高网...

【技术保护点】
1.一种人工智能AI系统，包括：知识模型构造器，用于生成知识模型，所述知识模型包括多个本体和多个推论规则，所述多个推论规则用于生成针对由所述AI系统做出的决策的解释，所述知识模型构造器包括：本体创建器，用于基于从所述知识模型构造器的真实世界交互获取的数据来创建所述多个本体，所获取的所述数据是真实世界数据，所述真实世界数据包括结构化数据、非结构化数据和半结构化数据；以及规则构造器，用于基于所述本体和从所述真实世界交互获取的所述真实世界数据来构造所述多个推论规则；以及执行器，用于在面对真实世界问题时做出决策，所述执行器包括：知识模型检测器，用于基于所述真实世界问题来选择要用于解决所述真实世界问题的所述知识模型；以及解释器，用于执行决策做出过程并且生成针对所做出的所述决策的解释，所述解释器包括：分类器和簇生成器，用于将从所述真实世界问题获取的数据分类和聚类到所确定的所述知识模型的本体中；规则标识器，用于标识要用于解构所述真实世界问题的推论规则；以及推论器和假设生成器，用于提供基于机器学习的推理，以提供针对所述真实世界问题的假设和伴随所述假设的解释，其中所述推论器和假设生成器捕获置信度参数，所述置信度参数指示针对所做出的所述决策的所述解释的强度。...

【技术特征摘要】
2018.02.05 US 62/626,460;2018.06.26 US 16/019,1201.一种人工智能AI系统，包括：知识模型构造器，用于生成知识模型，所述知识模型包括多个本体和多个推论规则，所述多个推论规则用于生成针对由所述AI系统做出的决策的解释，所述知识模型构造器包括：本体创建器，用于基于从所述知识模型构造器的真实世界交互获取的数据来创建所述多个本体，所获取的所述数据是真实世界数据，所述真实世界数据包括结构化数据、非结构化数据和半结构化数据；以及规则构造器，用于基于所述本体和从所述真实世界交互获取的所述真实世界数据来构造所述多个推论规则；以及执行器，用于在面对真实世界问题时做出决策，所述执行器包括：知识模型检测器，用于基于所述真实世界问题来选择要用于解决所述真实世界问题的所述知识模型；以及解释器，用于执行决策做出过程并且生成针对所做出的所述决策的解释，所述解释器包括：分类器和簇生成器，用于将从所述真实世界问题获取的数据分类和聚类到所确定的所述知识模型的本体中；规则标识器，用于标识要用于解构所述真实世界问题的推论规则；以及推论器和假设生成器，用于提供基于机器学习的推理，以提供针对所述真实世界问题的假设和伴随所述假设的解释，其中所述推论器和假设生成器捕获置信度参数，所述置信度参数指示针对所做出的所述决策的所述解释的强度。2.根据权利要求1所述的AI系统，其中所述解释器使用机器学习技术来生成所述决策和所述解释的视觉表示。3.根据权利要求1所述的AI系统，其中所述规则标识器解析所述真实世界问题，以组织所述真实世界问题中的逻辑语句。4.根据权利要求1所述的AI系统，其中所述规则标识器提供所述真实世界问题的所述解构的人类可读形式，以预览推理线。5.根据权利要求1所述的AI系统，其中所标识的所述推论规则是使用前向链接过程和后向链接过程中的一者而被触发的。6.一种AI系统，包括：知识模型构造器，用于生成知识模型，所述知识模型包括多个本体和多个推论规则，所述多个推论规则用于生成针对由所述AI系统做出的决策的解释，所述知识模型构造器包括：本体创建器，用于基于从所述知识模型构造器的真实世界交互获取的数据来创建所述多个本体，所获取的所述数据是真实世界数据，所述真实世界数据包括结构化数据、非结构化数据和半结构化数据，其中所述本体创建器利用归纳推理技术用于创建所述本体；以及规则构造器，用于基于所述本体和从所述真实世界交互获取的所述真实世界数据来构造所述多个推论规则，其中所述规则构造器利用演绎推理技术用于创建所述多个推论规则；以及执行器，用于在面对真实世界问题时做出决策，所述执行器包括：知识模型检测器，用于基于所述真实世界问题来选择要用于解决所述真实世界问题的所述知识模型；以及解释器，用于执行决策做出过程并且生成针对所做出的所述决策的解释，所述解释器包括：分类器和簇生成器，用于将从所述真实世界问题获取的数据分类和聚类到所确定的所述知识模型的本体中，其中所述分类器和簇生成器使用所述归纳推理技术用于对数据进行分类...

【专利技术属性】
技术研发人员：李中生，熊光磊，A·贾因，E·穆恩奎亚·塔皮亚，姜锡律，B·N·格罗索夫，
申请(专利权)人：埃森哲环球解决方案有限公司，
类型：发明
国别省市：爱尔兰,IE