使用分布式分类账提供可解释的机器学习模型结果制造技术

通过接收机器学习(ML)模型的输入数据、使用ML模型处理输入数据、产生初始结果、向分布式账本添加第一块来提供可再现的机器学习模型结果，该块包括输入数据、初始结果、ML模型数据结构和到ML模型的训练数据的链接，其中所述训练数据驻留在先前的分布式账本块中，并且提供包括初始结果的输出。供包括初始结果的输出。供包括初始结果的输出。

【技术实现步骤摘要】
【国外来华专利技术】使用分布式分类账提供可解释的机器学习模型结果

技术介绍

[0001]本公开总体上涉及提供可解释的机器学习模型结果。本公开具体涉及在机器学习模型的成熟期间提供可解释的机器学习模型结果。
[0002]机器正在变得智能化。这些机器通过无形接口(能够以自然语言与人类通信的认知设备)并且还通过有形接口(机器人或其他有形接口)以智能的方式为人类服务。认知接口具有机器智能并且具有处理输入数据的能力并且还能够从资源获得附加信息以用于与其他设备通信的更适当的处理。
[0003]现代复杂的人工智能(AI)技术(如深度学习和基因算法)是自然不透明的。AI系统主动依赖于训练语料库并且从其学习以更自然的方式判断。这种正在进行的学习基于更多相关联的学习和历史而逐日地改善AI系统的性能。有时，AI系统由于机器学习(ML)模型的复杂性而学习不期望的分类路径。这些不期望的分类路径导致AI结果的可解释性问题。
[0004]对于黑盒型ML模型，利益相关者不能解释为什么AI得出特定决定。因此，几乎没有数据证明AI系统生成的信息和结果是合理的。可解释的AI(XAI)是指人工智能技术(AI)的应用中的方法和技术，使得模型的结果可以由人类专家解释和理解。XAI提供了ML模型结果的可解读性和可解释性。XAI模型生成许多元数据来提供必要的解释和证据(可以手动验证)以向终端用户提供ML模型结果中的期望置信水平。XAI给出解释每个输入因子如何贡献于模型预测的最终结果的分数。这支持“安全AI”概念，通过该概念，人类可以看到在AI ML模型内决定什么。不提供这种解释的ML模型可能不适用于商业关键决策。
[0005]在典型的ML模型中，生成输出或输出集合的主要贡献者是用于训练模型的语料库。当模型处理数据时，其生成结果并将与结果相关联的元数据映射器对象附加到训练语料库。这些元数据映射器对象包括在第一组输出的生成期间导出的信息。随着ML模型学习得更多，它变得更成熟，因为元数据回填到作为当前和先前运行的副产品生成的训练语料库。
[0006]ML模型的逐日成熟影响由使用ML模型的进化索引导出的ML模型生成的输出。因此，同一输入数据集可以基于ML模型的成熟在不同时间生成不同输出。此外，由于正在成熟的模型的改变，在一段时间之后可能不存在追溯地验证或解释来自ML模型的输出的手段。
[0007]作为示例，不存在能够验证和解释一旦ML模型已经成熟并且改变其状态则来自ML模型的先前结果如何满足反歧视规章的机制。ML模型的动态状态基于模型的训练语料库的演进而改变。因此，当未以适当方式保存ML模型决策时，在时间过去之后没有办法对这些决策进行审核。进一步，在相当长的时间段之后无法执行多重验证。存在保存ML模型的中间结果作为测试验证证明的一部分的机制，但是在存在使用公共训练语料库的多个ML模型的情况下，模型结果和训练语料库集合的大小变得不可管理，其中多个ML模型各自生成多个中间结果数据。

技术实现思路

[0008]以下呈现
技术实现思路
以提供对本公开的一个或多个实施例的基本理解。本
技术实现思路

并不旨在标识关键或重要元素或者划定特定实施例的任何范围或权利要求的任何范围。其唯一的目的是以简化的形式呈现概念，作为稍后呈现的具体实施方式的序言。在本文所描述的一个或多个实施例中，装置、系统、计算机实现的方法、装置和/或计算机程序产品使得能够提供可解释的和可再现的机器学习模型结果。
[0009]通过接收用于机器学习模型的输入数据来提供可再现的机器学习模型结果；使用所述机器学习模型来处理所述输入数据；产生初始结果；将第一块添加到分布式分类账，所述块包括所述输入数据、所述初始结果、ML模型数据结构和到所述ML模型的训练数据的链接，其中，所述训练数据驻留在先前的分布式分类账块中；以及提供包括所述初始结果的输出，本专利技术的各方面公开了与提供可再现机器学习模型结果相关联的方法、系统和计算机可读介质。该方法提供了ML模型变革的分布式不可变跟踪，并且能够审核和验证过去的ML模型结果。
[0010]通过接收用于机器学习模型的输入数据，使用该机器学习模型来处理该输入数据，产生初始结果，将第一块添加到分布式分类账，所述块包括所述输入数据、所述初始结果、ML模型数据结构和到所述ML模型的训练数据的链接，其中所述训练数据驻留在先前分布式分类账块中，接收与所述输入数据有关的结果验证请求，从所述第一块检索所述输入数据和ML模型数据结构，使用所述ML模型数据结构处理所述输入数据，产生验证结果，并提供包括所述初始结果和所述验证结果的输出，本专利技术的各方面公开了与提供可再现机器学习模型结果相关联的方法、系统和计算机可读介质。该方法提供了ML模型变革的分布式不可变跟踪，并且能够审核和验证过去的ML模型结果。
[0011]通过接收用于机器学习模型的输入数据来提供可再现的机器学习模型结果，使用该机器学习模型来处理该输入数据，产生初始结果，确定与所述初始结果相关联的ML模型解释，将第一块添加到分布式分类账，所述块包括所述输入数据，所述初始结果，所述ML模型解释、ML模型数据结构以及到用于所述ML模型的训练数据的链接，其中所述训练数据驻留在先前的分布式分类账块中，并且提供包括所述初始结果和所述ML模型解释的输出，本专利技术的各方面公开了与提供可再现机器学习模型结果相关联的方法、系统和计算机可读介质。该方法提供了ML模型变革的分布式不可变跟踪，并且能够解释、审核和验证过去的ML模型结果。
[0012]通过接收针对机器学习模型的输入数据来提供可再现的机器学习模型结果，使用该机器学习模型来处理该输入数据，产生初始结果，将第一块添加到分布式分类账，所述块包括所述输入数据、所述初始结果、ML模型数据结构和到所述ML模型的训练数据的链接，其中所述训练数据驻留在先前的分布式分类账块中，提供包括所述初始结果的输出，使用所述输入数据和结果更新所述ML模型，产生新ML模型版本，以及将第二块添加到所述分布式分类账，其中所述第二块包括与所述新ML模型版本、所述输入数据、所述初始结果、所述ML模型数据结构关联的标签，以及到先前版本ML模型的训练数据的链接，本专利技术的各方面公开了与提供可再现机器学习模型结果相关联的方法、系统和计算机可读介质。该方法提供了ML模型变革的分布式不可变跟踪，并且能够审核和验证过去的ML模型结果。
附图说明
[0013]结合附图，通过对本公开的一些实施例的更详细描述，本公开的上述和其他目的、
特征和优点将变得更加明显，其中，在本公开的实施例中相同的参考标号通常指代相同的部件。
[0014]图1提供了根据本专利技术的实施例的计算环境的示意图。
[0015]图2提供了描绘根据本专利技术的实施例的操作序列的流程图。
[0016]图3提供了根据本专利技术的实施例的数据流的示意图。
[0017]图4描绘了根据本专利技术的实施例的云计算环境。
[0018]图5描绘了根据本专利技术的实施例的抽象模型层。
具体实施方式
[0019]将参考附图更详细地描述一些实施例，在附图中展示了本公开的实本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于提供可再现机器学习(ML)模型结果的计算机实现的方法，所述方法包括：由一个或多个计算机处理器接收用于ML模型的输入数据；由所述一个或多个计算机处理器使用所述ML模型处理所述输入数据，产生初始结果；由所述一个或多个计算机处理器将第一块添加到分布式分类账，所述第一块包括所述输入数据、所述初始结果、ML模型数据结构、以及到用于所述ML模型的训练数据的链接，其中所述训练数据驻留在先前的分布式分类账块中；以及由所述一个或多个计算机处理器提供包括所述初始结果的输出。2.根据权利要求1所述的计算机实现的方法，进一步包括：由所述一个或多个计算机处理器接收与所述输入数据相关的结果验证请求；由所述一个或多个计算机处理器从所述第一块检索所述输入数据、所述初始结果和所述ML模型数据结构；由所述一个或多个计算机处理器使用所述ML模型数据结构处理所述输入数据，产生验证结果；以及由所述一个或多个计算机处理器提供所述初始结果和所述验证结果作为输出。3.根据权利要求2所述的计算机实施的方法，进一步包括：由所述一个或多个计算机处理器提供ML模型解释作为输出。4.根据权利要求1所述的计算机实现的方法，进一步包括：由所述一个或多个计算机处理器提供ML模型解释作为输出；以及其中，所述第一块进一步包括所述ML模型解释。5.根据权利要求1所述的计算机实现的方法，其中，所述第一块进一步包括ML模型版本标签。6.根据权利要求1所述的计算机实现的方法，进一步包括：由所述一个或多个计算机处理器使用所述输入数据和结果更新所述ML模型，产生新ML模型版本；以及由所述一个或多个计算机处理器将第二块添加到所述分布式分类账，其中所述第二块包括与所述新ML模型版本相关联的标签、所述输入数据、所述初始结果、新ML模型数据结构以及到先前版本ML模型的训练数据的链接。7.根据权利要求1所述的计算机实现的方法，进一步包括由所述一个或多个计算机处理器通过分布式分类账条目链接所述第一块和与所述输入数据相关联的用户，其中，所述分布式分类账条目使得所述用户能够请求对所述初始结果的验证。8.一种用于提供可再现机器学习(ML)模型结果的计算机程序产品，所述计算机程序产品包括一个或多个计算机可读存储设备以及在所述一个或多个计算机可读存储设备上共同存储的程序指令，所述存储的程序指令包括：用于接收ML模型的输入数据的程序指令；用于使用所述ML模型处理所述输入数据，产生初始结果的程序指令；用于将第一块添加到分布式分类账的程序指令，所述第一块包括所述输入数据、所述初始结果、ML模型数据结构以及到用于所述ML模型的训练数据的链接，其中所述训练数据驻留在先前的分布式分类账块中；以及用于提供包括所述初始结果的输出的程序指令。
9.根据权利要求8所述的计算机程序产品，所述存储的程序指令进一步包括：用于接收与所述输入数据相关的结果验证请求的程序指令；用于从所述第一块检索所述输入数据、所述初始结果和所述ML模型数据结构的程序指令；用于使用所述ML模型处理所述输入数据，产生验证结果的程序指令；以及用于提供所述初始结果和所述验证结果作为输出的程序指令。10....

【专利技术属性】
技术研发人员：G，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：