意图分类的上下文中的置信度分类器制造技术

根据一个实施方案，一种应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的方法包括：由计算系统利用意图分类器处理话语，以确定与该话语相关联的可能意图的概率分布；由该计算系统生成该概率分布的多个峰度测量值；以及由该计算系统应用经训练的置信度分类器，以基于该概率分布的该多个峰度测量值确定与该话语相关联的最可能意图的单个归一化概率

【技术实现步骤摘要】
【国外来华专利技术】意图分类的上下文中的置信度分类器
[0001]相关申请的交叉引用
[0002]本申请要求于
2020
年
12
月
28
日提交的美国非临时专利申请序列号
17/135,114
的优先权，该非临时专利申请通过引用以其全部内容并入本文
。

技术介绍

[0003]意图分类是典型的自然语言理解
(NLU)
系统的重要特征
。
意图分类器通常接收转录格式的用户语音
(
或文本输入
)
，并输出用户话语与特定预定义意图相关联的概率
。
例如，与航空公司代理相关联的用户界面可以允许四个选项：订票
、
取消票
、
获得航班信息以及获得航空公司行李政策
。
用于此类界面的意图分类器可接收用户的文本
/
语音输入，并分析该输入以确定用户最可能意图选择四个选项中的哪一个选项
。
随着选项数量的增加，确定真正的用户意图通常更加复杂
。

技术实现思路

[0004]一个实施方案涉及用于应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的独特系统
、
部件和方法
。
其他实施方案涉及用于应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的装置
、
系统
、
设备
、
硬件
、
方法以及它们的组合<br/>。
[0005]根据一个实施方案，一种应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的方法可包括：由计算系统利用意图分类器处理话语，以确定与该话语相关联的可能意图的概率分布；由该计算系统生成该概率分布的多个峰度测量值；以及由该计算系统应用经训练的置信度分类器，以基于该概率分布的该多个峰度测量值确定与该话语相关联的最可能意图的单个归一化概率
。
[0006]在一些实施方案中，该方法还可包括由该计算系统将与该话语相关联的该最可能意图的该归一化概率与置信度阈值进行比较
。
[0007]在一些实施方案中，该方法还可包括：由该计算系统响应于确定与该话语相关联的该最可能意图的该归一化概率满足该置信度阈值，选择该最可能意图作为与该话语相关联的意图；以及由该计算系统响应于选择该最可能意图作为与该话语相关联的该意图，向与该自动化聊天机器人通信的用户设备传输消息，其中该消息是对该话语的响应
。
[0008]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括：将该概率分布的概率分数按降序排序；选择所排序的概率分数的最大概率子集作为概率集；确定该概率集中连续排序概率的多个比率；确定该概率集中该概率的峰度分数；确定该概率分布的熵；以及通过将该熵除以该概率分布的最大可能熵来对该概率分布的该熵进行归一化，以生成归一化熵
。
[0009]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括将
sigmoid
函数应用于该多个比率
、
该峰度分数和该归一化熵中的每一者
。
[0010]在一些实施方案中，选择所排序的概率分数的该最大概率子集作为该概率集可包括选择所排序的概率分数的五个最大概率作为该概率集
。
[0011]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括确定该概率分布的峰度分数
。
[0012]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括确定该概率分布的熵
。
[0013]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括按最大概率对该概率分布的概率进行排序，以及响应于对该概率分布的该概率进行排序而确定连续排序概率的多个比率
。
[0014]在一些实施方案中，该方法还可包括由该计算系统通过使用随机梯度下降优化调整参数来训练该置信度分类器
。
[0015]根据另一实施方案，一种用于应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的系统可包括至少一个处理器和至少一个存储器，该至少一个存储器包括存储在其上的多个指令，该指令响应于该至少一个处理器的执行，使得该系统：利用意图分类器来对话语进行处理，以确定与该话语相关联的可能意图的概率分布；生成该概率分布的多个峰度测量值；以及应用经训练的置信度分类器，以基于该概率分布的该多个峰度测量值确定与该话语相关联的最可能意图的单个归一化概率
。
[0016]在一些实施方案中，该多个指令还可使得该系统将与该话语相关联的该最可能意图的该归一化概率与置信度阈值进行比较
。
[0017]在一些实施方案中，该多个指令还可使得该系统响应于确定与该话语相关联的该最可能意图的该归一化概率满足该置信度阈值而选择该最可能意图作为与该话语相关联的意图，以及响应于选择该最可能意图作为与该话语相关联的该意图，向与该自动化聊天机器人通信的用户设备传输消息，其中该消息是对该话语的响应
。
[0018]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括：将该概率分布的概率分数按降序排序；选择所排序的概率分数的最大概率子集作为概率集；确定该概率集中连续排序概率的多个比率；确定该概率集中该概率的峰度分数；确定该概率分布的熵；以及通过将该熵除以该概率分布的最大可能熵来对该概率分布的该熵进行归一化，以生成归一化熵
。
[0019]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括将
sigmoid
函数应用于该多个比率
、
该峰度分数和该归一化熵中的每一者
。
[0020]在一些实施方案中，选择所排序的概率分数的该最大概率子集作为该概率集可包括选择所排序的概率分数的五个最大概率作为该概率集
。
[0021]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括确定该概率分布的峰度分数
。
[0022]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括确定该概率分布的熵
。
[0023]在一些实施方案中，生成该概率分布的该多个峰度测量值可包括按最大概率对该概率分布的概率进行排序，以及响应于对该概率分布的该概率进行排序而确定连续排序概率的多个比率
。
[0024]在一些实施方案中，该多个指令还可使得该系统通过使用随机梯度下降优化调整参数来训练该置信度分类器
。
[0025]本
技术实现思路
不旨在识别所要求保护的主题的关键或必要特征，也不旨在用作限制所要求保护的主题的范围的辅助
。
本申请的其他实施方案
、
形式
、
特征和方面将根据随本文提供的描述和附图变得显而易见
。
附图说明
[0026]本文描述的概念在附图中通过举例的方式并且不是通过限本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.
一种应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的方法，所述方法包括：由计算系统利用意图分类器处理话语，以确定与所述话语相关联的可能意图的概率分布；由所述计算系统生成所述概率分布的多个峰度测量值；以及由所述计算系统应用经训练的置信度分类器，以基于所述概率分布的所述多个峰度测量值确定与所述话语相关联的最可能意图的单个归一化概率
。2.
根据权利要求1所述的方法，所述方法还包括由所述计算系统将与所述话语相关联的所述最可能意图的所述归一化概率与置信度阈值进行比较
。3.
根据权利要求2所述的方法，所述方法还包括：由所述计算系统响应于确定与所述话语相关联的所述最可能意图的所述归一化概率满足所述置信度阈值，选择所述最可能意图作为与所述话语相关联的意图；以及由所述计算系统响应于选择所述最可能意图作为与所述话语相关联的所述意图，向与所述自动化聊天机器人通信的用户设备传输消息，其中所述消息是对所述话语的响应
。4.
根据权利要求1所述的方法，其中生成所述概率分布的所述多个峰度测量值包括：将所述概率分布的概率分数按降序排序；选择所排序的概率分数的最大概率子集作为概率集；确定所述概率集中连续排序概率的多个比率；确定所述概率集中所述概率的峰度分数；确定所述概率分布的熵；以及通过将所述熵除以所述概率分布的最大可能熵来对所述概率分布的所述熵进行归一化，以生成归一化熵
。5.
根据权利要求4所述的方法，其中生成所述概率分布的所述多个峰度测量值包括将
sigmoid
函数应用于所述多个比率
、
所述峰度分数和所述归一化熵中的每一者
。6.
根据权利要求4所述的方法，其中选择所排序的概率分数的所述最大概率子集作为所述概率集包括选择所排序的概率分数的五个最大概率作为所述概率集
。7.
根据权利要求1所述的方法，其中生成所述概率分布的所述多个峰度测量值包括确定所述概率分布的峰度分数
。8.
根据权利要求1所述的方法，其中生成所述概率分布的所述多个峰度测量值包括确定所述概率分布的熵
。9.
根据权利要求1所述的方法，其中生成所述概率分布的所述多个峰度测量值包括：按最大概率对所述概率分布的概率进行排序；以及响应于对所述概率分布的所述概率进行排序而确定连续排序概率的多个比率
。10.
根据权利要求1所述的方法，所述方法还包括由所述计算系统通过使用随机梯度下降优化调整参数来训练所述置信度分类器
。11.
一种用于应用置信度分类器来进行与自动化聊天机器人相关联的意图分类的系统，所述系统包括：至少一个处理器；和至少一个存储器，所述至少一个存储器包括存储在其上的多个指令，所述多个指令响

【专利技术属性】
技术研发人员：R，
申请(专利权)人：吉尼赛斯云服务第二控股有限公司，
类型：发明
国别省市：