用于助理系统的基于记忆的对话推理和问答技术方案

在一个实施例中，一种方法，包括：从与用户相关联的客户端系统接收来自用户的查询；基于查询，确定一个或多个初始记忆槽；访问与用户相关联的记忆图，该记忆图包括多个节点和连接节点的多个边，其中节点中的一个或多个节点分别对应于用户的一个或多个情节记忆，并且其中每个边对应于经连接的节点之间的关系；基于初始记忆槽，通过一个或多个机器学习模型从记忆图中选择一个或多个候选节点；基于与所选择的候选节点相对应的初始记忆槽和情节记忆，生成响应；以及响应于查询，向客户端系统发送用于呈现响应的指令。呈现响应的指令。呈现响应的指令。

【技术实现步骤摘要】
【国外来华专利技术】用于助理系统的基于记忆的对话推理和问答
[0001]相关申请的交叉引用
[0002]本申请要求于2019年6月28日提交的美国临时专利申请第62/868658号和于2019年8月27日提交的美国非临时专利申请第16/552559号的权益，这两个申请通过引用并入本文中。


[0003]本公开大体上涉及网络环境内的数据库和文件管理，并且具体地涉及用于智能助理系统的硬件和软件。

技术介绍

[0004]助理系统可以基于用户输入、位置感知、以及从各种在线资源(诸如，天气状况、交通拥堵、新闻、股票价格、用户日程安排、零售价格等)访问信息的能力的组合来为了用户提供信息或服务。用户输入可以包括文本(例如，在线聊天)，尤其是在即时消息传递应用或其他应用、语音、图像、动作或其组合中。助理系统可以执行礼宾类型的服务(例如，进行晚餐预订、购买事件门票、进行旅行安排)或基于用户输入提供信息。助理系统还可以基于在线信息和事件来执行管理或数据处理任务，而无需用户发起或交互。可以由助理系统执行的任务的示例可以包括日程安排管理(例如，向晚餐日期发送用户由于交通状况而迟到的警报，更新双方的日程安排，以及更改餐厅预订时间)。助理系统可以通过计算设备、应用程序编程接口(API)和用户设备上的应用的扩散的组合来启用。
[0005]社交网络系统(其可以包括社交网络网站)可以使得其用户(诸如，个人或组织)能够与它交互并通过它彼此交互。社交网络系统可以用来自用户的输入在社交网络系统中创建和存储与用户相关联的用户简档。用户简档可以包括人口统计信息、通信通道信息和关于用户的个人兴趣的信息。社交网络系统还可以用用户的输入创建和存储用户与社交网络系统的其他用户的关系的记录，以及提供服务(例如，简档/新闻提要帖子、照片共享、事件组织、消息传递、游戏或广告)以促进用户之间的社交交互。
[0006]社交网络系统可以通过一个或多个网络向用户的移动设备或其他计算设备发送与其服务相关的内容或消息。用户还可以在用户的移动设备或其他计算设备上安装软件应用以访问用户的用户简档和社交网络系统内的其他数据。社交网络系统可以生成一组个性化的内容对象以向用户显示，诸如连接到该用户的其他用户的聚合故事的新闻源。

技术实现思路

[0007]在特定实施例中，助理系统可以帮助用户获取信息或服务。助理系统可以使得用户能够在有状态和多轮对话中使用多模式用户输入(诸如，语音、文本、图像、视频、动作)来与其交互以获取帮助。助理系统可以创建和存储包括与用户相关联的个人信息和上下文信息两者的用户简档。在特定实施例中，助理系统可以使用自然语言理解来分析用户输入。分析可以基于用户简档以用于更个性化和上下文感知的理解。助理系统可以基于分析来对与
用户输入相关联的实体进行解析。在特定实施例中，助理系统可以与不同代理交互以获取与所解析的实体相关联的信息或服务。助理系统可以通过使用自然语言生成针对用户生成关于信息或服务的响应。通过与用户的交互，助理系统可以使用对话管理技术来管理和转发与用户的对话流。在特定实施例中，助理系统还可以通过概述信息来帮助用户有效且高效地消化所获取的信息。助理系统还可以通过提供帮助用户与在线社交网络交互(例如，创建帖子、评论、消息)的工具来帮助用户更多地参与在线社交网络。助理系统还可以帮助用户管理不同任务，诸如跟踪事件。在特定实施例中，助理系统可以在没有用户输入的情况下基于用户简档来主动执行与用户兴趣和偏好相关的任务。在特定实施例中，助理系统可以检查隐私设置以确保受制于用户的隐私设置来允许访问用户的简档或其他用户信息并且执行不同任务。
[0008]在特定实施例中，助理系统可以针对回答基于记忆图(MG)的个人用户问题的任务来使用情节记忆问答(QA)，其中情节记忆和相关实体节点经由关系边被连接。新的基准数据集通过以下项来创建：首先，生成具有模拟属性的合成记忆图，并且通过引导脚本和手动注释为所生成的MG组合100,000个QA对。尽管在合成记忆图上操作，但是该方法可以被训练并且应用于真实世界用户记忆数据(例如，相册等)。为了解决任务的独特挑战，该方法可以使用记忆图网络(MGN)，MGN是记忆网络的一种新颖扩展，用于通过图遍历来实现记忆槽的动态扩展，从而能够回答其中需要来自多个链接情节的上下文和外部知识的查询。该方法还可以使用具有多个模块网络的情节记忆QA网络来有效处理各种问题类型。实证结果表明，在任务中的top
‑
k答案预测准确性方面，与最先进的QA基线相比有了显著提高。该方法还可以针对每个所预测的答案生成图行走路径，以提供一种自然的方式来解释其QA推理。结果是，该方法可以使得助理系统能够具有以下对话能力：1)反应性记忆QA，其中助理系统响应于用户查询以回忆过去情节记忆的特定属性，2)主动记忆引用，其中助理系统显示相关的过去记忆以使对话更加引人入胜和自然。尽管本公开描述了以特定方式经由特定系统进行的特定问答，但是本公开设想以任何合适的方式经由任何合适的系统进行的任何合适的问答。
[0009]提供了一种方法，该方法包括由一个或多个计算系统：从与用户相关联的客户端系统接收来自用户的查询；基于查询，确定一个或多个初始记忆槽；访问与用户相关联的记忆图，该记忆图包括多个节点和连接这些节点的多个边，并且节点中的一个或多个节点分别对应于用户的一个或多个情节记忆，每个边对应于经连接的节点之间的关系；基于初始记忆槽，通过一个或多个机器学习模型从记忆图中选择一个或多个候选节点；基于与所选择的候选节点相对应的初始记忆槽和情节记忆，生成响应；以及响应于查询，向客户端系统发送用于呈现响应的指令。
[0010]一个或多个候选节点可以选自与用户的一个或多个情节记忆相对应的一个或多个节点。
[0011]多个节点中的一个或多个节点可以分别对应于一个或多个实体。
[0012]记忆图可以是基于知识图而构建的，指示图包括分别与多个实体相对应的多个节点。记忆图的多个节点可以包括：与来自知识图的多个实体相对应的多个节点；以及与用户的多个情节记忆相对应的多个节点。该方法还可以包括：构建合成记忆图生成器；以及由合成记忆图生成器在记忆图中生成一个或多个节点，其中一个或多个节点中的每个节点连接
到与知识图相关联的一个或多个实体。
[0013]查询可以与上下文相关联，并且选择一个或多个候选节点还可以基于与查询相关联的上下文。
[0014]一个或多个机器学习模型至少可以包括长短期记忆(LSTM)模型。
[0015]该方法还可以包括：确定初始记忆槽与记忆图中的多个节点中的每个节点之间的相关性，并且选择一个或多个候选节点还可以基于相关性。
[0016]该方法还可以包括：基于长短期记忆(LSTM)模型针对查询生成查询编码；以及基于图嵌入投影模型或LSTM模型中的一项或多项针对与记忆图中的情节记忆相对应的每个节点生成记忆编码。选择一个或多个候选节点可以包括将所生成的查询编码和每个所生成的记忆编码输入到一个或多个机器学习模型，并且一个或多个机器学习模型可以生本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种方法，包括由一个或多个计算系统：从与用户相关联的客户端系统接收来自所述用户的查询；基于所述查询，确定一个或多个初始记忆槽；访问与所述用户相关联的记忆图，其中所述记忆图包括多个节点和连接所述节点的多个边，并且其中所述节点中的一个或多个节点分别对应于所述用户的一个或多个情节记忆，并且其中每个边对应于经连接的节点之间的关系；基于所述初始记忆槽，通过一个或多个机器学习模型从所述记忆图中选择一个或多个候选节点；基于与所选择的所述候选节点相对应的所述初始记忆槽和所述情节记忆，生成响应；以及响应于所述查询，向所述客户端系统发送用于呈现所述响应的指令。2.根据权利要求1所述的方法，其中所述一个或多个候选节点选自与所述用户的所述一个或多个情节记忆相对应的所述一个或多个节点。3.根据权利要求1所述的方法，其中所述多个节点中的一个或多个节点分别对应于一个或多个实体。4.根据权利要求1所述的方法，其中所述记忆图是基于知识图而构建的，所述知识图包括分别与多个实体相对应的多个节点。5.根据权利要求4所述的方法，其中所述记忆图的所述多个节点包括：与来自所述知识图的多个实体相对应的多个节点；以及与所述用户的多个情节记忆相对应的多个节点。6.根据权利要求4所述的方法，还包括：构建合成记忆图生成器；以及由所述合成记忆图生成器在所述记忆图中生成一个或多个节点，其中所述一个或多个节点中的每个节点被连接到与所述知识图相关联的一个或多个实体。7.根据权利要求1所述的方法，其中所述查询与上下文相关联，并且其中选择所述一个或多个候选节点还基于与所述查询相关联的所述上下文。8.根据权利要求1所述的方法，其中所述一个或多个机器学习模型至少包括长短期记忆(LSTM)模型。9.根据权利要求1所述的方法，还包括：确定所述初始记忆槽与所述记忆图中的所述多个节点中的每个节点之间的相关性，其中选择所述一个或多个候选节点还基于所述相关性。10.根据权利要求1所述的方法，还包括：基于长短期记忆(LSTM)模型，针对所述查询生成查询编码；以及基于所述图嵌入投影模型或LSTM模型中的一项或多项，针对与所述记忆图中的情节记忆相对应的每个节点生成记忆编码。11.根据权利要求10所述的方法，其中选择所述一个或多个候选节点包括将所生成的所述查询编码和每个所生成的所述记忆编码输入到所述...

【专利技术属性】
技术研发人员：文胜焕，P，
申请(专利权)人：脸谱科技有限责任公司，
类型：发明
国别省市：