通过利用语言理解的上下文语言生成制造技术

提供用于通过生成建议并且将建议呈现用户以用于完成任务或会话来改进数字助理性能的技术。为了生成建议，机器学习语言预测模型利用从多个源提取的特征(诸如日志数据和会话上下文)被训练。当输入从用户被接收时，经训练的机器学习语言预测模型被用于确定最可能的建议以向用户呈现以导致成功的任务完成。在生成建议时，针对建议生成中间建议数据(诸如领域、意图和/或槽)。根据用于建议的所生成的中间建议数据，生成可以被呈现给用户的建议的表面形式。所得到的建议和相关上下文还可以被用于继续训练机器学习语言预测模型。

A context language generated by language understanding

Provides techniques for improving the performance of a digital assistant by generating suggestions and presenting the recommendations to the user for the completion of a task or session. In order to generate recommendations, the machine learning language prediction model is trained using features extracted from multiple sources, such as log data and session context. When input is received from users, the trained machine learning language prediction model is used to identify the most likely suggestions to present to users, so as to achieve successful tasks. When a proposal is generated, intermediate recommendation data (such as domains, intentions, and / or grooves) are generated for the proposal. The surface form of the proposal that can be presented to the user is generated according to the generated intermediate suggestion data used for the proposal. The proposed proposals and related contexts can also be used to continue training the machine learning language prediction model.

【技术实现步骤摘要】
【国外来华专利技术】通过利用语言理解的上下文语言生成
技术介绍
能够接收对于执行用户任务的请求的数字助理应用继续受欢迎。这些应用中的许多应用正被包含到个人计算机、膝上型电脑、移动设备以及其他类似类型的设备中。虽然数字助理能够执行的任务的能力和类型是很大量的，但是数字助理的用户通常不知道数字助理应用能够执行的操作的总体范围。用户可能不知道如何使用数字助理应用或者在得到其期望的结果之后应该说什么。关于这些和其他一般考虑，已经做出了一些示例。此外，虽然已经讨论相对特定的问题，但是应当理解，示例不应当限于解决
技术介绍
中所标识的特定问题。
技术实现思路
本公开内容总体上涉及用于通过生成建议并且将建议呈现给用户以用于完成任务或会话来改进数字助理性能的技术。由于用户常常不理解使用数字助理的最好方式或者最流行的命令是什么，建议向用户提供有帮助的指导，以用于完成用户的期望的任务或者继续与数字助理的会话。为了生成建议，机器学习语言预测模型利用从多个源提取的特征(诸如表示用户与数字助理之间的先前交互的日志数据)被训练。模型可以离线被训练。当从用户接收输入时，经训练的机器学习语言预测模型被用于确定最可能的建议以向用户呈现以导致成功的任务完成。例如，建议可以响应于用户请求信息或者用于数字助理执行其他任务。例如，机器学习语言预测模型可以向用户提供建议，以基于日志数据来执行最常见的所请求的后续任务。建议还可以响应于数字助理的激活而被生成。在生成建议时，机器学习语言预测模型可以被用于确定用于建议的中间建议数据(诸如领域、意图、和/或槽)。根据用于建议的所确定的中间建议数据，生成可以被呈现给用户的建议的表面形式。建议的表面形式是用户可以理解的语法、自然语言命令、短语或者句子。所得到的建议和相关上下文还可以被用于继续训练机器学习语言预测模型。本概述被提供以引入以在详细描述中下面进一步描述的简化形式的概念的选择。本概述不旨在标识要求保护的主题的关键特征或基本特征，其也不旨在被用于限制要求保护的主题的范围。附图说明参考以下附图描述非限制性和非详尽示例。图1描绘了用于接收到客户端设备的输入的环境。图2描绘了用于利用数字辅助应用来使用上下文语言生成的系统。图3图示了基于机器语言的分类器的示例。图4描绘了用于生成用于在数字助理中使用的机器学习语言预测模型的方法。图5描绘了用于生成数字助理中的建议的方法。图6描绘了用于更新用于在数字助理中使用的机器学习语言预测模型的方法。图7是图示利用其可以实践本公开的示例的计算设备的示例物理部件的块图。图8A和图8B是利用其可以实践本公开的示例的移动计算设备的简化块图。图9是在其中可以实践本公开的示例的分布式计算系统的简化块图。图10图示了用于执行本公开的一个或多个示例的平板计算设备。具体实施方式在以下详细描述中，对形成其一部分并且在其中通过示图的方式示出特定实施例或示例的附图进行参考。在不脱离本公开的精神或范围的情况下，可以组合这些方面，可以利用其他方面，以及可以做出结构改变。以下详细描述因此将不以限制性意义理解，并且本公开的范围由所附的权利要求和其等同物来限定。本公开总体上涉及改进智能数字助理应用(诸如由华盛顿的雷德蒙德的微软公司提供的CORTANA数字助理应用，或者由加尼福尼亚的库比提诺的苹果公司提供的SIRI数字助理应用(在本文中被称为“数字助理”))背后的技术。随着数字助理变得更高级并且能够处理更多操作，可以在产品可以做什么的产品研发者的观点和终端用户认为产品可以做什么之间形成间隙。用户可能不理解数字助理的界限，并且用户还可能不理解数字助理可以使用或者执行的知识或者操作的深度。如果多个用户输入被要求完成特定任务，则这些问题被加重。例如，当用户询问数字助理问题或者执行任务时，用户可能不理解可以执行什么类型的继续问题或任务。作为另一示例，如果数字助理提供用户没有期望的答案或结果，则用户常常不知道如何以使得数字助理提供期望的答案的方式校正问题或者重新表达问题。在复杂任务中(诸如根据过滤器(例如，距离、评级、开放时间等)的数目进行搜索、浏览和找到地点)，用户可能关于向数字助理说什么容易地变得疑惑。作为与数字助理交互的示例多轮回合场景，用户在第一轮中可以陈述“找到贝尔维内的中国餐馆”。数字助理可以对在贝尔维内的五个中国餐馆做出反应。用户然后可能不知道他或她在第二轮中可以询问什么。例如，用户可以做出的可能陈述中的一些陈述包括“向我呈现靠近林肯公园的那些”、“向我呈现较高排名的那些”、“向我呈现周一开放的那些”、“向我呈现可以带走的那些”、“向我呈现第一个的行驶方向”，等等。显示用户可以选择的每一个选项将是不合理的，然而用户需要关于什么选项可用的一些类型的辅助或者建议。解决这些问题的其他尝试已经集中于使用分离的规则处理分离的场景。然而，这些努力可以仅处理有限数量的场景，这是因为人类应用开发者必须开发人类应用开发者标识的任何场景的每个规则。标识特定场景并且开发分离的规则是要花大量时间的，并且不能容易地或者迅速地扩展以覆盖附加的场景。本公开技术通过创建用于能够向用户提供建议的数字助理应用的系统来改进数字助理操作的功能。建议向用户提供用户可以向数字助理提供的附加输入的指示。建议可以包括来自用户已提供先前地录入的校正输入，或者除了其他可能的建议之外，建议还可以包括用户可以提供以更充分地利用从数字助理应用可用的功能的进一步的输入。部分地通过基于来自一个或多个数字助理应用的先前使用的数据训练的机器学习语言预测模型的使用，来生成建议。通过基于来自数字助理应用的用户的富数据集使用模型，在不需要创建并且解析分离的规则的情况下，能够生成用于大量的场景的建议。另外，机器学习语言预测模型还可以处理比可以利用分离的规则处理的更大数目的场景。如本文所使用的，回合是会话期间用户与数字助理应用的交互。会话包括用户与数字助理之间的对话(来自与数字助理的对应的响应的用户的一个或多个回合)。例如，会话可以在数字助理被激活时开始并且在数字助理被去激活时结束。其中数字助理检测用于待执行的任务的请求的会话也可以开始。多回合场景是其中超过一个输入由数字助理接收并且处理的会话。转到附图，图1描绘了用于向客户端设备提供输入的环境100。环境100包括用户102和客户端设备104。客户端设备104可以是任何适合的设备(诸如参考图7至图10以下所描述的那些设备)。环境100中的用户102可以经由语音输入将输入提供到具有数字助理的客户端设备104中，如在图1中所示。用户102还可以通过使用软键盘或其他类型的文本输入设备并且通过文本输入将输入提供到客户端设备104。用户还可以通过由例如触摸屏特征、运动检测或客户端设备上的摄像头所识别的手势来将输入提供到客户端设备104。用于向客户端设备104提供输入的许多选项为本领域的技术人员所公知并且在此被预期。在从用户102接收输入时，执行数字助理应用的客户端设备104确定用户102已请求什么并且向用户的问题提供答案或者执行所请求的任务。进一步地，如下面所解释的，数字助理基于与用户的交互的上下文来向用户生成建议。另外，还如下面所描述的，执行请求任务还可以涉及其他部件(诸如基于网络的服务和部件)的使用。环境100可以随着用户102访问分离的客户端设备(诸本文档来自技高网...

【技术保护点】
一种系统，包括：基于机器语言的分类器，其中所述基于机器语言的分类器被配置为执行以下动作：接收请求数字助理执行请求任务的第一用户输入；标识针对所述用户的第一上下文；分析所述第一用户输入以确定对应于所请求的第一任务的第一中间任务数据；向机器学习语言预测模型提供所述第一上下文和所述第一中间任务数据作为输入，其中所述机器学习语言预测模型基于日志数据，所述日志数据包括表示一个或多个用户与一个或多个数字助理应用之间的先前交互的历史数据；从所述机器学习语言预测模型接收用于生成针对所述用户的第一建议的第一中间建议数据作为输出，其中所述第一建议用于基于到所述机器学习语言预测模型的所述输入而待请求的第二任务；以及输出模块，其中所述输出模块被配置为向所述用户呈现所述第一建议。

【技术特征摘要】
【国外来华专利技术】2015.06.15 US 14/740,0821.一种系统，包括：基于机器语言的分类器，其中所述基于机器语言的分类器被配置为执行以下动作：接收请求数字助理执行请求任务的第一用户输入；标识针对所述用户的第一上下文；分析所述第一用户输入以确定对应于所请求的第一任务的第一中间任务数据；向机器学习语言预测模型提供所述第一上下文和所述第一中间任务数据作为输入，其中所述机器学习语言预测模型基于日志数据，所述日志数据包括表示一个或多个用户与一个或多个数字助理应用之间的先前交互的历史数据；从所述机器学习语言预测模型接收用于生成针对所述用户的第一建议的第一中间建议数据作为输出，其中所述第一建议用于基于到所述机器学习语言预测模型的所述输入而待请求的第二任务；以及输出模块，其中所述输出模块被配置为向所述用户呈现所述第一建议。2.根据权利要求1所述的系统，其中所述第一中间建议数据包括选自包括以下各项的组的至少一种数据类型：用于向所述用户生成所述第一建议的领域、意图、以及槽。3.根据权利要求1所述的系统，还包括语言生成建议模块，其被配置为基于所述第一中间建议数据生成所述第一建议的表面形式。4.根据权利要求1所述的系统，还包括日志数据模块，其被配置为接收所述第一中间建议数据、所述第一建议以及所述日志数据的所述第一上下文。5.根据权利要求1所述的系统，还包括：机器学习语言预测模块，其中所述机器学习语言预测模块被配置为执行以下动作：接收更新的日志数据；以及利用所述更新的日志数据来训练所述机器学习语言预测模型以生成更新的机器学习语言预测模型。6.根据权利要求5所述的系统，其中所述基于机器语言的分类器还被配置为执行以下动作：接收第二用户输入，其中所述第二用户输入与所述第一用户输入相同；接收针对所述用户的第二上下文；分析所述第二用户输入以确定对应于所述请求任务的第二中间任务数据；向所述更新的机器学习语言预测模型提供所述第二上下文和所述第二中间任务数据作为输入；从所述更新的机器学习语言预测模型接收用于生成针对所述用户的...

【专利技术属性】
技术研发人员：R·萨里卡亚，
申请(专利权)人：微软技术许可有限责任公司，
类型：发明
国别省市：美国,US