【技术实现步骤摘要】
【国外来华专利技术】
本公开总体上涉及上下文的表示的生成。
技术介绍
1、技术的进步已经导致更小和更强大的计算设备。举例来说，当前存在多种便携式个人计算装置，包括无线电话，诸如移动和智能电话、平板和膝上型计算机，其体积小、重量轻且易于由用户携带。这些设备可以通过无线网络传送语音和数据分组。此外，许多这样的设备合并了附加的功能，诸如数字静态相机、数字摄像机、数字记录器和音频文件播放器。此外，这样的设备可以处理可执行指令，包括可以用于访问因特网的软件应用，诸如web浏览器应用。因此，这些设备可以包括显著的计算能力。
2、这样的计算设备通常合并了接收传感器数据的功能，诸如来自一个或多个麦克风的音频信号、来自一个或多个相机的图像数据或其组合。例如，音频信号可以表示由麦克风捕获的用户语音，并且图像数据可以表示用户图像。传感器数据可以用于确定关于用户的上下文信息。大量用户上下文信息的可用性提供了数据挖掘机会。
技术实现思路
1、根据本公开的一个实施方式，一种设备包括被配置为存储指令的存储器。该设备还包括一个或多个处理器，其被配置为执行指令以将上下文和与上下文相对应的一个或多个感兴趣项提供给依存网络编码器，以生成上下文的基于语义的表示。所述一个或多个处理器还被配置为将所述上下文提供给数据相关编码器以生成基于上下文的表示。一个或多个处理器还被配置为组合基于语义的表示和基于上下文的表示以生成上下文的语义增强的表示。根据本公开的另一实施方式，一种方法包括在设备处向依存网络编码器提供上下文和与上下文相对应的一个或
2、根据本公开的另一实施方式，一种非暂时性计算机可读介质存储指令，所述指令在由一个或多个处理器执行时使所述一个或多个处理器将上下文和与上下文相对应的一个或多个感兴趣项提供给依存网络编码器，以生成上下文的基于语义的表示。所述指令在由所述一个或多个处理器执行时还使所述一个或多个处理器将所述上下文提供给数据相关编码器以生成基于上下文的表示。所述指令在由一个或多个处理器执行时还使一个或多个处理器组合基于语义的表示和基于上下文的表示以生成上下文的语义增强的表示。
3、根据本公开的另一实施方式，一种装置包括用于将上下文和与上下文相对应的一个或多个感兴趣项提供给依存网络编码器以生成上下文的基于语义的表示的部件。所述装置还包括用于将所述上下文提供给数据相关编码器以生成基于上下文的表示的部件。所述装置还包括用于组合基于语义的表示和基于上下文的表示以生成上下文的语义增强的表示的部件。
4、在审阅整个申请之后，本公开的其他方面、优点和特征将变得显而易见，包括以下部分：附图说明、具体实施方式和权利要求书。
本文档来自技高网...【技术保护点】
1.一种设备，包括：
2.根据权利要求1所述的设备，其中，所述一个或多个处理器还被配置为从一个或多个传感器接收传感器数据，并且基于所述传感器数据生成所述上下文。
3.根据权利要求2所述的设备，其中，所述一个或多个传感器包括相机，其中所述传感器数据包括来自所述相机的图像数据，并且其中所述一个或多个处理器被配置为至少部分地基于对所述图像数据执行对象识别、情绪识别、位置识别、人识别或其组合来生成所述上下文。
4.根据权利要求2所述的设备，其中，所述一个或多个传感器包括麦克风，其中所述传感器数据包括来自所述麦克风的音频数据，并且其中所述一个或多个处理器被配置为至少部分地基于对所述音频数据执行语音识别、情绪识别、位置识别、说话者识别或其组合来生成所述上下文。
5.根据权利要求1所述的设备，其中，所述一个或多个项包括由所述上下文指示的答案，并且其中，所述一个或多个处理器还被配置为：
6.根据权利要求1所述的设备，其中，所述一个或多个处理器还被配置为将所述上下文的语义增强的表示提供给生成解码器以生成一个或多个相关项。
7.
8.根据权利要求6所述的设备，其中，所述一个或多个感兴趣项包括与所述上下文相关的问题，并且其中，所述一个或多个相关项包括对所述问题的预测答案。
9.根据权利要求6所述的设备，其中，所述一个或多个处理器被配置为将所述一个或多个相关项提供给蕴涵过滤器以生成一个或多个经过滤的相关项。
10.根据权利要求1所述的设备，其中，所述依存网络编码器还被配置为：
11.根据权利要求10所述的设备，其中，对于所述节点嵌入中的每个节点嵌入，所述输入嵌入指示与所述节点嵌入相对应的所述上下文的一个或多个元素的词性。
12.根据权利要求10所述的设备，其中，对于所述节点嵌入中的每个节点嵌入，所述输入嵌入指示与所述节点嵌入相对应的所述上下文的一个或多个元素是否与所述一个或多个感兴趣项相关联。
13.根据权利要求10所述的设备，其中，所述一个或多个编码层中的编码层包括注意力层和前馈层，其中，所述注意力层包括多头注意力，其中，所述注意力层的输入基于所述输入嵌入，并且其中，所述上下文的所述基于语义的表示基于所述注意力层的输出。
14.根据权利要求10所述的设备，其中，所述依存网络编码器还包括预测层，其中所述预测层的输入基于所述上下文的所述基于语义的表示，并且其中所述预测层的输出指示所述上下文的被预测为与所述一个或多个感兴趣项相关的一个或多个元素。
15.根据权利要求10所述的设备，其中，所述依存句法分析器被配置为至少部分地基于先前上下文来生成所述依存句法分析图。
16.根据权利要求10所述的设备，其中，所述一个或多个编码层被配置为至少部分地基于第二输入嵌入来生成所述上下文的所述基于语义的表示，其中，所述第二输入嵌入与基于先前上下文的第二依存句法分析图相关联。
17.根据权利要求10所述的设备，其中，所述一个或多个编码层被配置为至少部分地基于先前上下文的第二基于语义的表示来生成所述上下文的所述基于语义的表示。
18.根据权利要求1所述的设备，其中所述数据相关编码器被配置为：
19.根据权利要求18所述的设备，其中，所述一个或多个编码层中的编码层包括注意力层和前馈层，其中，所述注意力层包括多头注意力，其中，所述注意力层的输入基于所述输入嵌入，并且其中，所述基于上下文的表示基于所述注意力层的输出。
20.根据权利要求18所述的设备，其中，所述一个或多个编码层被配置为至少部分地基于与先前上下文相关联的第二输入嵌入来生成所述基于上下文的表示。
21.根据权利要求18所述的设备，其中，所述一个或多个编码层被配置为至少部分地基于先前上下文的第二基于上下文的表示来生成所述基于上下文的表示。
22.一种方法，包括：
23.根据权利要求22所述的方法，还包括：
24.根据权利要求22所述的方法，还包括：
25.一种存储指令的非暂时性计算机可读介质，所述指令在由一个或多个处理器执行时使所述一个或多个处理器：
26.根据权利要求25所述的非暂时性计算机可读介质，其中，所述指令在由所述一个或多个处理器执行时还使所述一个或多个处理器将所述上下文的所述语义增强的表示提供给生成解码器以生成一个或多个相关项。
27.根据权利要求25所述的...
【技术特征摘要】
【国外来华专利技术】
1.一种设备，包括：
2.根据权利要求1所述的设备，其中，所述一个或多个处理器还被配置为从一个或多个传感器接收传感器数据，并且基于所述传感器数据生成所述上下文。
3.根据权利要求2所述的设备，其中，所述一个或多个传感器包括相机，其中所述传感器数据包括来自所述相机的图像数据，并且其中所述一个或多个处理器被配置为至少部分地基于对所述图像数据执行对象识别、情绪识别、位置识别、人识别或其组合来生成所述上下文。
4.根据权利要求2所述的设备，其中，所述一个或多个传感器包括麦克风，其中所述传感器数据包括来自所述麦克风的音频数据，并且其中所述一个或多个处理器被配置为至少部分地基于对所述音频数据执行语音识别、情绪识别、位置识别、说话者识别或其组合来生成所述上下文。
5.根据权利要求1所述的设备，其中，所述一个或多个项包括由所述上下文指示的答案，并且其中，所述一个或多个处理器还被配置为：
6.根据权利要求1所述的设备，其中，所述一个或多个处理器还被配置为将所述上下文的语义增强的表示提供给生成解码器以生成一个或多个相关项。
7.根据权利要求6所述的设备，其中，所述一个或多个感兴趣项包括由所述上下文指示的答案，并且其中，所述一个或多个相关项包括针对所述答案的预测问题。
8.根据权利要求6所述的设备，其中，所述一个或多个感兴趣项包括与所述上下文相关的问题，并且其中，所述一个或多个相关项包括对所述问题的预测答案。
9.根据权利要求6所述的设备，其中，所述一个或多个处理器被配置为将所述一个或多个相关项提供给蕴涵过滤器以生成一个或多个经过滤的相关项。
10.根据权利要求1所述的设备，其中，所述依存网络编码器还被配置为：
11.根据权利要求10所述的设备，其中，对于所述节点嵌入中的每个节点嵌入，所述输入嵌入指示与所述节点嵌入相对应的所述上下文的一个或多个元素的词性。
12.根据权利要求10所述的设备，其中，对于所述节点嵌入中的每个节点嵌入，所述输入嵌入指示与所述节点嵌入相对应的所述上下文的一个或多个元素是否与所述一个或多个感兴趣项相关联。
13.根据权利要求10所述的设备，其中，所述一个或多个编码层中的编码层包括注意力层和前馈层，其中，所述注意力层包括多头注意力，其中，所述注意力层的输入基于所述输入嵌入，并且其中，所述上下文的所述基于语义的表示基于所述注意力层的输出。
14.根据权利要求10所述的设备，其中，所述依存网络编码器还包括预测层，其中所述预测层的输入基于所述上下文的所述基于语义的表示，并且其中所述预测层的输出指示所述上下文的被预测为与所述一个或多个感兴趣项相关的一个或多个元素。
15.根...
【专利技术属性】
技术研发人员：A·K·斯里达尔，R·乔达里，LH·金，E·维瑟，
申请(专利权)人：高通股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。