一种为机器学习模型自动推荐可解释性方法的方法技术

本发明专利技术公开了一种为机器学习模型自动推荐可解释性方法的方法，包括如下步骤，步骤1，构建目标模型。步骤2，对可解释性需求分析框架进行建模。分析目标表示解决问题需要达成哪些目标，而质量目标表示在达成这个目标时可能涉及哪些质量属性。然后对解决方案进行建模。步骤3，设计原型工具用于实现该框架，设计一个原型工具用于实现步骤2中的建模结果。最后对参与者进行了实验来验证，评估了该方法的可行性。性。性。

【技术实现步骤摘要】
一种为机器学习模型自动推荐可解释性方法的方法


[0001]本专利技术涉及可解释性需求领域，特别是涉及为机器学习模型的可解释性部分的设计自动推荐适合的可解释性方法。

技术介绍

[0002]机器学习模型被人们所熟知和广泛使用，但是作为黑盒模型，做出预测的过程可能很难让人类理解。对模型预测过程的解释可以增加用户对模型的信任，尤其是在许多重要领域(如医学领域)中，利用机器学习进行高风险的预测的趋势越来越大，所以用户需要知道机器学习系统是如何做出特定决策的，或者一组输入如何产生特定的输出。同时，由于可解释性的缺乏也阻碍了最新的机器学习模型在银行、金融、证券等传统行业的应用。
[0003]同时，可解释性作为一种新兴的非功能性需求越来越被人们所重视，从不同利益相关者的视角出发，可以产生不同的需求，Markus Langer等人把利益相关者区分为五类，分别是：用户,系统开发者,受影响者,部署人员和立法者。对于开发者来说，解释可以提供对模型预测过程的洞察并且帮助改进模型，而对于用户来说，解释可以增加模型的透明度和可解释性。
[0004]至今，人们本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种为机器学习模型自动推荐可解释性方法的方法，其特征在于，该方法包含以下几个步骤：步骤1，构建目标模型；首先提出了三个概念，分别是问题、解决方案和上下文；具体来说，问题表示想要达成的目标，解决方案表示为达成这个目标使用哪些方法，上下文表示不同的解决方法适用的情况；步骤2，对可解释性需求分析框架进行建模；在这一步骤中，对步骤1中的目标模型进行细化；首先分别对问题、解决方案和上下文这三个概念进行建模；问题表示为目标，而目标又表示为分析目标和质量目标；分析目标表示解决问题需要达成哪些目标，而质量目标表示在达成这个目标时涉及哪些质量属性；然后对解决方案进行建模；某些解决方案细分为若干子解决方案，子解决方案在质量上的表现有所不同；最后对上下文进行建模，上下文分为用户上下文、数据上下文和方法上下文；用户上下文表示用户的需求等信息，数据上下文表示机器学习模型或数据集的特征，方法上下文表示可解释性方法需要设置的参数和属性；上下文应用到解决方案和分析目标的连接上，以表示解决方案的适用情况；应用到分析目标上，表示该分析目标的生效场景；步骤3，设计原型工具用于实现该框架；设计一个原型工具用于实现步骤2中的建模结果；使用需求提取器和数据提取器分别提取用户上下文和数据上下文，然后将上下文信息输入到上下文监视器中；上下文监视器负责验证上下文的生效情况，将上下文的生效情况输入到上下文规划器中；上下文规划器将上下文信息转换为二进制流信息输入到可解释性方法推荐器中；最后可解释性方法推荐器根据二进制流信息推荐最适合当前上下文的可解释性方法。2.根据权利要求1所述的一种为机器学习模型自动推荐可解释性方法的方法，其特征在于，对上下文的建模又分为以下两个部分：(1)定义上下文；上下文主要分为三个部分：用户上下文、数据上下文和方法上下文；用户上下文是需要根据用户提供的信息进行验证的上下文,会直接影响对解释的需求，解释的粒度和解释的形式等方面；首先定义用户的背景，然后定义用户的可解释性需求；数据上下文是基于数据集的信息验证的上下文，表达数据集的特征和属性；数据上下文的定义包含两个方面，分别是对数据集上下文的定义和对机器学习模型上下文的定义；数据集的上下文包括数据的类型，大小和密度，对数据集进行处理，以提取其他上下文；模型的特征包括模型的类型以及模型的任务；方法上下文是指对于特定的可解释性方法需要设置的属性和参数；方法的属性包括解释的类型、解释的密度和适用性；方法的参数是可解释性方法在使用时可能需要设置的参数...

【专利技术属性】
技术研发人员：李童，韩璐，
申请(专利权)人：北京工业大学，
类型：发明
国别省市：