【技术实现步骤摘要】
【国外来华专利技术】
本公开涉及人工智能中的可解释性的端到端的构成的领域。特别地，本公开涉及用于加强(consolidating)与基于系统的状态和意图所建议的动作相关联的解释的方法和装置。
技术介绍
1、人工智能(ai)将在未来的通信网络管理中发挥重要作用，并且越来越需要值得信赖的人工智能系统。越来越关注和需要值得信赖的ai系统，而ai系统的可解释性也与此密切相关。可解释的人工智能(xai)是帮助人们理解和解释ai的目的、原理和/或决策过程的过程的集合。例如，xai允许模型的预测的解释，理解模型相对于各种输入的行为，以及调试此类模型。
技术实现思路
1、当前ai系统的一些问题源于目前没有提供解释或提供非常基本的解释的问题。所提供的解释通常仅限于ml模型解释器提供的可解释性框架，如局部可解释模型不可知解释(lime)、shapley加性解释(shap)和explain like i’m(eli5)，并侧重于ml模型正在运行的组件。神经网络通常很复杂，因为整个网络中有数百个节点。如果ai系统提供的解释非常面向组件，则无助于解释解决问题所需的整体推荐/动作。在某些情况下，由一个组件所提供的解释也可能与另一个组件的解释相冲突。
2、在人工智能(ai)和机器学习(ml)的上下文下，可能有多个智能体(agent)参与针对端到端意图的求解。这意味着在解的流中可能有多个解释，包括例如数据解释和模型全局/局部解释。多个智能体提供的解释很可能并不相互完全一致，或者甚至相互冲突。
3、例如，考虑场景
4、本公开的一个方面提供了一种计算机实现的方法，所述方法用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释。该方法包括：获得第一解释和第二解释，其中所述第一解释和所述第二解释与所建议的动作相关联或与不同的动作相关联，以及其中所述第一解释和所述第二解释中的每个解释包括一个或多个约束，每个约束表示满足与所述意图相对应的问题的要求，组合来自第一解释和第二解释的约束以形成约束集合d，生成规划问题p＝＜k，a，i，g，代价＞，其中k由系统的域中的谓词(predicate)的集合f和约束集合d组成，其中a表示与第一解释和/或第二解释相关联的可能的动作的集合，i表示系统的初始状态，g表示与意图相对应的系统的目标状态，以及代价表示与约束集合中的每个约束相关联的代价值，以及确定规划问题p的解，其中该解表示基于第一解释和第二解释的加强的解释。
5、本公开的另一方面提供了一种计算机程序产品，该计算机程序产品被体现在非暂时性机器可读介质上，包括可由处理电路执行以使处理电路执行根据权利要求1至14中任一项所述的方法的指令。
6、本公开的另一方面提供了一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的装置，该装置被配置为执行如本文所述的方法。
7、本公开的另一方面提供了一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的装置。所述装置包括与存储器耦合的处理电路，其中所述存储器存储计算机可读程序指令，所述计算机可读程序指令在由所述处理电路执行时使得所述装置获得第一解释和第二解释，其中所述第一解释和所述第二解释与所建议的动作相关联或与不同的动作相关联，以及其中所述第一解释和所述第二解释中的每个解释包括一个或多个约束，每个约束表示满足与所述意图相对应的问题的要求。还使得所述装置组合来自第一解释和第二解释的约束以形成约束集合d，生成规划问题p＝＜k，a，i，g，代价＞，其中k由系统的域中的谓词集合f和约束集合d组成，其中a表示与第一解释和/或第二解释相关联的可能的动作的集合，i表示系统的初始状态，g表示与意图相对应的系统的目标状态，以及代价表示与约束集合中的每个约束相关联的代价值。还使得所述装置确定规划问题p的解，其中该解表示基于第一解释和第二解释的加强的解释。
8、本公开的另一方面提供了一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的装置。所述装置包括：获得模块，组合模块，生成模块以及确定模块，所述获得模块被配置为获得第一解释和第二解释，其中所述第一解释和所述第二解释与所建议的动作相关联或与不同的动作相关联，以及其中所述第一解释和所述第二解释中的每个解释包括一个或多个约束，每个约束表示满足与所述意图相对应的问题的要求，所述组合模块被配置为组合来自第一解释和第二解释的约束以形成约束集合d，所述生成模块被配置为生成规划问题p＝＜k，a，i，g，代价＞，其中k由系统的域中的谓词集合f和约束集合d组成，其中a表示与第一解释和/或第二解释相关联的可能的动作的集合，i表示系统的初始状态，g表示与意图相对应的系统的目标状态，以及代价表示与约束集合中的每个约束相关联的代价值，所述确定模块被配置为确定规划问题p的解，其中该解表示基于第一解释和第二解释的加强的解释。
本文档来自技高网...【技术保护点】
1.一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的计算机实现的方法，所述方法包括：
2.根据权利要求1所述的方法，其中，确定(340)所述规划问题的解包括：确定在不松弛所述约束集合D中的一个或多个约束的情况下是否能够求解所述规划问题P，以及
3.根据权利要求2所述的方法，其中，确定规划作为所述规划问题的所述解包括：
4.根据权利要求3所述的方法，其中，确定相应的候选规划的组合代价值包括：
5.根据权利要求4所述的方法，其中，获得个体代价值和总代价值中的至少一个包括：
6.根据权利要求4或5所述的方法，其中，每个个体代价值和/或每个总代价值基于以下中的至少一个：所述意图，一个或多个相关联的服务水平协议，以及与所述意图相关联的代价。
7.根据权利要求3至6中任一项所述的方法，其中，使用约束求解技术和所训练的机器学习模型来执行确定组合代价值。
8.根据前述权利要求中任一项所述的方法，其中，由所述系统中的推荐器模块建议所述一个或多个动作，以及其中，基于以下中的一个来建议所述一个
9.根据前述权利要求中任一项所述的方法，其中，所述第一解释和所述第二解释中的每个解释对应于以下中的一个：应用于在给定所述系统的状态的情况下推断相应的建议的动作的规则的证明、推导或轨迹，指示对应的变量和约束在其内保持可满足的值区间的相互可满足的约束集合，对所建议的动作具有最大影响的一个或多个特征或谓词及其对应值，以及执行所建议的动作所实现的一个或者多个属性或谓词及其对应值。
10.根据前述权利要求中任一项所述的方法，其中，所述系统是通信网络的至少一部分，以及所述意图表示由所述通信网络将要达到的总操作目标。
11.根据前述权利要求中任一项所述的方法，其中，在所述系统中的组合的规划器和解释器模块处执行所述方法。
12.根据前述权利要求中任一项所述的方法，其中，使用在数据集上训练的机器学习模型来建议所述一个或多个动作，所述数据集包括所述系统的状态和对应于相应的状态所采取的动作，或者其中，使用在所述系统的仿真器上训练的强化学习智能体来建议所述一个或多个动作。
13.根据前述权利要求中任一项所述的方法，其中，从所述系统的第一子系统或从第一外部实体获得所述第一解释，以及从所述系统的第二子系统或从第二外部实体获得所述第二解释。
14.根据前述权利要求中任一项所述的方法，其中，使用自动规划进程和约束松弛过程来执行确定(340)所述规划问题P的解。
15.一种包括指令的计算机程序产品，所述计算机程序产品被体现在非暂时性机器可读介质上，所述指令可由处理电路执行以使所述处理电路执行根据权利要求1至14中任一项所述的方法。
16.一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的装置，所述装置被配置为执行根据权利要求1至14中任一项所述的方法。
17.一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的装置(400)，所述装置包括与存储器(420)耦合的处理电路(410)，其中，所述存储器存储计算机可读程序指令，所述计算机可读程序指令在由所述处理电路执行时使得所述装置：
18.一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的装置，所述装置包括：
...【技术特征摘要】
【国外来华专利技术】
1.一种用于加强与基于系统的当前状态和意图所建议的一个或多个动作相关联的解释的计算机实现的方法，所述方法包括：
2.根据权利要求1所述的方法，其中，确定(340)所述规划问题的解包括：确定在不松弛所述约束集合d中的一个或多个约束的情况下是否能够求解所述规划问题p，以及
3.根据权利要求2所述的方法，其中，确定规划作为所述规划问题的所述解包括：
4.根据权利要求3所述的方法，其中，确定相应的候选规划的组合代价值包括：
5.根据权利要求4所述的方法，其中，获得个体代价值和总代价值中的至少一个包括：
6.根据权利要求4或5所述的方法，其中，每个个体代价值和/或每个总代价值基于以下中的至少一个：所述意图，一个或多个相关联的服务水平协议，以及与所述意图相关联的代价。
7.根据权利要求3至6中任一项所述的方法，其中，使用约束求解技术和所训练的机器学习模型来执行确定组合代价值。
8.根据前述权利要求中任一项所述的方法，其中，由所述系统中的推荐器模块建议所述一个或多个动作，以及其中，基于以下中的一个来建议所述一个或多个动作：用于在给定所述系统的状态的情况下推断动作的基于规则的过程，用于在给定所述系统的状态的情况下推断动作的基于逻辑的过程，使用包括所述系统的状态和所采取的对应动作的数据集训练的基于机器学习的推荐过程，以及基于强化学习的过程。
9.根据前述权利要求中任一项所述的方法，其中，所述第一解释和所述第二解释中的每个解释对应于以下中的一个：应用于在给定所述系统的状态的情况下推断相应的建议的动作的规则的证明、推导或轨迹，指示对应的变量和约束在其内保持可满足的值区间的相互可满足的约束集合，对所建议的动作具有最大影响的一个或多个特征或谓词及其对应值，以及执行所建议的动作所实现的一个或...
【专利技术属性】
技术研发人员：S·K·弗帕拉，S·辛格，K·赛拉斯，A·P·穆朱姆达尔，A·西索迪亚，胡文丰，S·H·安娜曼德拉，
申请(专利权)人：瑞典爱立信有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。