汇编和评估对隐私问题的自动助理响应制造技术

本文描述了用于汇编/评估对隐私问题的自动助理响应的技术。在各种实施方式中，自由形式的自然语言输入可以从第一用户接收并且可以包括对与第二用户有关的信息的请求。可以识别出可以由自动助理访问以检索与第二用户相关联的数据的多个数据源。多个数据源可以共同地包括足够的数据以制定对请求的自然语言响应。与多个数据源相关联的相应隐私分数可以被用来确定与对该请求的响应相关联的合计隐私分数。然后，可以响应于确定与自然语言响应相关联的合计隐私分数满足相对于第一用户为第二用户建立的隐私标准，在由第一用户操作的客户端设备上输出自然语言响应。户端设备上输出自然语言响应。户端设备上输出自然语言响应。

【技术实现步骤摘要】
【国外来华专利技术】汇编和评估对隐私问题的自动助理响应

技术介绍

[0001]人类可以利用本文被称为“自动助理”(也称为“聊天机器人”、“虚拟助理”、“交互式个人助理”、“智能个人助理”、“个人语音助理”、“谈话代理”等)的交互式软件应用参与人机对话。例如，人类(当他们与自动助理交互时可以被称为“用户”)可以使用自由形式的自然语言输入来提供命令、查询和/或请求，该自由形式的自然语言输入可以包括被转换为文本然后被处理的口头话语和/或键入的自由形式的自然语言输入。
[0002]存在多种情况，其中，一个人可能期望与服务另一用户的自动助理进行通信，或者至少提供与服务另一用户的自动助理进行通信的表象。假设第一用户希望参与通过服务另一用户的自动助理可用的动作。例如，第一用户可能希望控制在另一用户的自动助理的控制下的一个或多个智能设备。这些动作可能需要来自多个数据源的信息，以确保符合由第二用户建立的设置。在另一个示例中，第一用户可能希望跨多天时间间隔安排与第二用户的晚餐。为了确定第二用户的可能性，第一用户可以致电、发送电子邮件或发短信给第二用户。但是，第二用户可能无法应答第一用户的问题，或者可能希望不被打扰。在这种情况下，自动助理可以介入并向第一用户提供有关第二用户的可能性的信息。但是，为了响应第一用户的请求(尤其是开放性和非特定性请求)，自动助理可能需要访问存储与第二用户相关联的数据的多个数据源。此外，至少一些数据源可能存储第二用户可能认为是隐私或高度敏感的数据。例如，大多数用户通常会认为诸如个人在线日历、电子邮件、文本消息等的数据相对隐私和/或敏感。此外，响应第一用户的请求所需的一些数据可能仅可用在由第二用户操作的客户端设备上。

技术实现思路

[0003]本文描述了用于当请求源自其他用户(例如房主的访客，或操作特定设备的“访客”用户，在本文中也被称为“请求用户”)时，安全地响应对自动助理的请求，以根据与给定用户(例如，房主或更通常地，控制/拥有提供自动助理访问的设备的用户，本文也被称为“主体用户”)相关联的信息而动作的技术。在各种实施方式中，由第一用户提交的、有关与第二用户相关联的信息的请求可以是相对广泛和/或开放式的。满足这样的请求可能需要访问存储与第二用户相关联的数据的多个数据源。本文描述的技术可用于合计与这些数据源和/或从这些数据源获得的数据相关联的单个隐私分数，并且基于合计隐私分数来确定是否(或有多具体地)对请求做出响应。
[0004]在一些实施方式中，自动助理可以基于来自多个数据源的多个数据来制定自然语言响应，并且该自然语言响应可以与合计隐私分数相关联。替代地，自动助理可以执行动作(诸如控制一个或多个设备)。可以确定合计数据分数是否满足某些标准，诸如不超过隐私阈值。如果满足标准(例如，合计隐私分数不超过隐私阈值)，则所制定的自然语言响应可以由自动助理输出给请求用户和/或可以执行由请求用户所请求的动作。
[0005]作为示例，假设Dave向自动助理提交下述请求：“When is Alice free for dinner？(Alice什么时候有空吃晚饭？)”Alice不一定必须维护完整日历，尤其是对于在工
作时间以外发生的社交活动。因此，为了回答这个问题，自动助理可能需要访问Alice日历之外的数据源，诸如Alice的电子邮件或短消息(可能包含有关即将到来的晚餐计划的交流)或Alice的当前位置(如果Alice很远的话，就排除了在不久的将来吃晚餐的可能性)。
[0006]假设Alice先前为Dave提供了至少一些访问她的日历的权限(或者通常至少用信号告知Dave有资格获得更高信任)。这意味着代表Dave从Alice的日历中获得的任何数据都可能被指配相对较低的隐私分数。但是，Alice可能会认为她的电子信件和/或当前位置更为隐私/敏感。因此，从那些来源获得的数据可能具有相对较高的隐私分数。假设自动助理能够使用来自所有三个来源的数据确定从周二起一周，Alice有空吃晚餐。自动助理可以制定自然语言响应，诸如“Alice is available for dinner a week from Tuesday.(从周二起一周，Alice有空吃晚餐。)”。但是，自动助理可能尚未向Dave提供该响应。相反，自动助理可能确定和/或评估由三个基本数据源确定的合计隐私分数，并且确定相对于Dave(或至少相对于该特定请求)的Alice的隐私标准不允许自动助理提供该响应。因此，自动助理可能会告知Dave：“Sorry,I can
’
t provide that information.(抱歉，我无法提供该信息。)”在一些实施方式中，自动助理(或者，从技术上讲，自动助理的另一个实例)可以同时寻求Alice的许可，以向Dave提供对其请求的答复。
[0007]在另一个示例中，Dave正在Alice家拜访。Dave可以请求自动助理“Turn up the heating(调高供暖)”。与该请求有关的数据源可以提供与自动助理链接的加热系统被设置的当前温度。Alice可能愿意与Dave分享该数据。但是，Alice可以另外根据设定时间表和她的当前位置来控制她的供暖。由于如上所述，Alice可能认为位置信息敏感，因此执行请求所需的数据源的合计隐私分数可能会是Dave不满足隐私标准。如果是这样，自动助理可能会回复“Sorry,I can
’
t help with that(对不起，我不能帮忙)”或类似内容。如果Dave确实满足隐私标准，则自动助理可以执行相关操作(例如，通过指示供暖系统做出相应响应)。
[0008]在一些实施方式中，自动助理可以继续并汇编足够的数据以制定答复(在下文中称为“履行信息”)，然后将该答复呈现给Alice，作为向Alice征求将其呈现给Dave的许可的一部分。在一些这类实施方式中，甚至可以向Alice提供可听或可视的输出，以识别用于生成答复的数据源，每个数据源中的数据点都被用于汇编答复。这样，Alice就能准确地明白如何汇编答复，并且决定是否允许将答复呈现给Dave。
[0009]在一些实施方式中，主体用户对这些请求的响应可以被用来确定应当履行还是拒绝将来的请求。例如，在一些实施方式中，答复、所使用的数据源、Dave的属性、Dave和Alice之间的关系的属性等的各个方面可以被用来生成特征向量，然后将其标记为正或负训练示例(取决于Alice允许还是拒绝该请求)，并且被用来训练机器学习模型。可替代地，如果Alice拒绝许可，则可以被用作负训练示例(即，拒绝访问)。在任一情况下，可以训练机器学习模型(例如，神经网络、支持向量机等)以生成输出，该输出指示是否应当向请求用户提供响应于其请求的信息。对于将来的请求，可以基于请求的属性(例如，单词数、语义/句法属性、广度等)、请求用户、主体用户、请求和主体用户之间的关系等来生成未标记的特征向量，并且将其用作跨经训练的机器学习模型的输入，以生成指示是否应当履行该请求的输出。
[0010]在各种实施方式中，不同的数据源可以具有不同的隐私分数。例如，线上(本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种使用一个或多个处理器实现的方法，包括：经由第一用户操作的客户端设备，从所述第一用户接收自由形式的自然语言文本片段，其中，所述自由形式的自然语言文本片段包括与第二用户有关的请求；识别由自动助理能够访问以检索与所述第二用户相关联的数据的至少第一数据源和第二数据源，其中，所述第一数据源和所述第二数据源包括足以响应所述请求的数据；确定与所述第一数据源相关联的第一隐私分数和与所述第二数据源相关联的第二隐私分数；基于所述第一隐私分数和所述第二隐私分数，确定与响应所述请求相关联的合计隐私分数；以及响应于确定与响应所述请求相关联的所述合计隐私分数满足相对于所述第一用户为所述第二用户建立的隐私标准，使得由所述第一用户操作的所述客户端设备响应所述请求。2.如权利要求1所述的方法，其中，所述请求是对信息的请求，并且使得所述客户端设备满足所述对信息的请求包括：使得所述客户端设备输出对所述对信息的请求的自然语言响应。3.如权利要求2所述的方法，进一步包括：获得来自所述第一数据源的第一数据点以及来自所述第二数据源的第二数据点；以及基于所述第一数据点和所述第二数据点来制定所述自然语言响应。4.如任一前述权利要求所述的方法，其中，所述第一数据源包括日历数据库或位置服务。5.如任一前述权利要求所述的方法，其中，所述第一数据源包括由所述第二用户发送或接收的通信的语料库。6.如权利要求5所述的方法，其中，所述通信的语料库被本地存储在由所述第二用户操作的第二客户端设备上。7.如任一前述权利要求所述的方法，其中，确定与所述第一数据源相关联的所述第一隐私分数包括：确定所述第一数据源对于由所述第二用户所操作的第二客户端计算设备是本地的；以及其中，确定与所述第二数据源相关联的所述第二隐私分数包括：确定所述第二数据源在远离由所述第二用户操作的任何客户端计算设备的一个或多个服务器上是可用的；其中，所述第一隐私分数对所述合计隐私分数的影响大于所述第二隐私分数。8.如任一前述权利要求所述的方法，其中，确定与响应所述请求相关联的合计隐私分数满足相对于所述第一用户为所述第二用户建立的隐私标准包括：将指示所述第一数据源和所述第二数据源的数据应用为跨经训练的机器学习模型的输入，以生成输出，其中，所述输出被用来确定是否满足所述隐私标准。9.如任一前述权利要求所述的方法，其中，所述隐私标准包括隐私阈值。10.如权利要求9所述的方法，其中，基于与所述第二用户有关的所述请求的广度来选择所述隐私阈值。11.一种系统，包括一个或多个处理器以及与所述一个或多个处理器操作地耦合的存储器，其中，所述存储器存储指令，响应于由一个或多个处理器执行所述指令，所述指令使
得所述一个或多个处理器执行下述操作：经由第一用户操作的客户端设备，从所述第一用户接收自由形式的自然语言文本片段，其中，所述自由形式的自然语言文本片段包括对与第二用户有关的信息的请求；识别由自动助理能够访问以检索与所述第二用户相关联的数据的至少第一数据源和第二数据源，其中，所述第一数据源和所述第二数据源包括足以制定对所述对信息的请求的自然语言响应的数据；确定与所述第一数据源相关联的第一隐私分数和与所述第二数据源相关联的第二隐私分数；基于所述第一隐私分数和所述第二隐私分数，确定与响应所述对信息的请求相关联的合计隐私分数；以及响应于确定与所述自然语言响应相关联的合计隐私分数满足相对于所述第一用户为...

【专利技术属性】
技术研发人员：桑德罗，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：