建模注意力以改进分类并提供内在的可解释性制造技术

技术编号:41994166 阅读:18 留言:0更新日期:2024-07-12 12:20
在人工智能模型(AI模型)中,输入数据被处理以提供输入数据的分类和AI模型的过程的可视化两者。这是通过执行输入数据的意图和槽分类、生成权重和二元分类器logit、执行特征融合和分类来完成的。然后将图形解释与logit一起作为可视化输出。

【技术实现步骤摘要】
【国外来华专利技术】

本公开涉及执行输入数据的分类的人工智能。


技术介绍

1、本申请涉及输入数据的分类。在示例中,本申请讨论了用于自然语言理解(nlu)的联合意图检测和槽填充。现有系统在所有槽类型(即,标签)上共同学习特征,并且无法解释模型。缺乏可解释性会使用户对模型正在做什么产生疑问。缺乏可解释性也使得在发生错误时难以改进模型。通过与意图检测和槽填充无关的附加过程来增加可解释性降低了解释的效率和正确性。


技术实现思路

1、技术方案

2、本文提供的实施例提供分类(将输入数据映射到一组类别中的一个特定类别或将输入数据映射到软值的推理,该组类别中的每个类别对应一个软值)和可解释性(解释ai模型如何作出分类的视觉输出)。

3、在本文提供的实施例的人工智能模型(ai模型)中,话语被处理以提供话语的分类和ai模型的过程的可视化两者。这是通过执行话语的意图分类、生成槽类型权重和二元分类器logit、执行特征融合和槽分类来完成的。然后,图形槽解释与槽logit一起作为可视化输出。基于输出,基于语音激活的ai的个人助理可以本文档来自技高网...

【技术保护点】

1.一种可视化自然语言理解模型的方法,所述方法包括:

2.根据权利要求1所述的方法,还包括:通过基于语音激活的人工智能的个人助理输出用于完善的所述分类的槽的向量。

3.根据权利要求1所述的方法,其中,可视化所述槽类型权重的向量的步骤包括:提供包括第一列和第二列的视觉呈现,所述视觉呈现具有从第一列到第二列连接列条目的条,第一列和第二列都列出所述令牌的向量,其中,第一条对应于第一列中的第一令牌与第二列中的第二令牌之间的对应关系。

4.根据权利要求1所述的方法,其中,所述估计的意图包括意图logit的向量,以及其中,获得所述多个自注意力的向量的步骤包括:...

【技术特征摘要】
【国外来华专利技术】

1.一种可视化自然语言理解模型的方法,所述方法包括:

2.根据权利要求1所述的方法,还包括:通过基于语音激活的人工智能的个人助理输出用于完善的所述分类的槽的向量。

3.根据权利要求1所述的方法,其中,可视化所述槽类型权重的向量的步骤包括:提供包括第一列和第二列的视觉呈现,所述视觉呈现具有从第一列到第二列连接列条目的条,第一列和第二列都列出所述令牌的向量,其中,第一条对应于第一列中的第一令牌与第二列中的第二令牌之间的对应关系。

4.根据权利要求1所述的方法,其中,所述估计的意图包括意图logit的向量,以及其中,获得所述多个自注意力的向量的步骤包括:

5.根据权利要求4所述的方法,其中,获得所述槽类型权重的向量的步骤包括:针对每个槽类型,将二元分类器应用于所述多个自注意力的向量以适当地训练所述槽类型权重的向量。

6.根据权利要求5所述的方法,其中,执行特征融合的步骤包括:

7.根据权利要求1所述的方法,还包括:

8.一种用于话语识别和模型可视化的服务器,所述服务器包括:

9.根据权利要求8所述的服务器,其中,由所述一个或更多个处理器对所述程序的执行还被配置为使得所述服务器通过基于语音激活的人工智能的个人助理输出用于完善的所述分类的槽的向量。

10.根据权利要求8所述的服务器,其中,由所述一个或更多个处理器对所述程序的执行还被配置为:...

【专利技术属性】
技术研发人员:达尔坎杜拉·阿拉奇奇格·卡尔帕·沙希卡·席尔瓦·古纳拉特纳维杰·斯里尼瓦桑金红霞
申请(专利权)人:三星电子株式会社
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1