【技术实现步骤摘要】
【国外来华专利技术】
本说明书涉及使用神经网络处理输入以生成输出序列。
技术介绍
1、神经网络是采用一层或多层非线性单元来预测接收到的输入的输出的机器学习模型。除了输出层之外,一些神经网络还包括一个或更多个隐藏层。每个隐藏层的输出被用作网络中的下一层即另一隐藏层或输出层的输入。网络的每一层根据相应参数集的当前值从接收到的输入生成输出。
技术实现思路
1、本说明书描述了一种在一个或多个位置中的一个或多个计算机上实现为计算机程序的系统,该系统使用语言模型神经网络生成对接收到的请求的响应。特别地,由系统生成的响应包括(i)对请求的响应和(ii)来自支持响应的一个或多个上下文文本文档的“证据”。证据包括来自上下文文本文档之一的直接引述。
2、例如,系统可以提供用户与访问文档语料库的信息检索系统之间的接口。该接口允许系统利用信息检索系统来提供更可靠的信息,特别是可验证地正确的信息。
3、在一个方面,一种方法包括:接收输入文本查询;获得一个或多个第一上下文文本序列和第一上下文文本序列中的每一个的相应
...【技术保护点】
1.一种由一个或多个计算机执行的方法,所述方法包括:
2.根据权利要求1所述的方法,其中,响应于所述输入文本查询而提供至少所述第一输出文本子序列和所述第一上下文文本序列包括:
3.根据权利要求1或2所述的方法,进一步包括:
4.根据任一前述权利要求所述的方法,进一步包括:
5.根据权利要求4所述的方法,其中,为包括所述第一输出文本序列和所述第二输出文本序列的集合中的每个输出文本序列生成相应评分包括:
6.根据任一前述权利要求所述的方法,其中,所述第一输出序列包括多个时间步中的每个时间步处的来自词元词表的相应词
...【技术特征摘要】
【国外来华专利技术】
1.一种由一个或多个计算机执行的方法,所述方法包括:
2.根据权利要求1所述的方法,其中,响应于所述输入文本查询而提供至少所述第一输出文本子序列和所述第一上下文文本序列包括:
3.根据权利要求1或2所述的方法,进一步包括:
4.根据任一前述权利要求所述的方法,进一步包括:
5.根据权利要求4所述的方法,其中,为包括所述第一输出文本序列和所述第二输出文本序列的集合中的每个输出文本序列生成相应评分包括:
6.根据任一前述权利要求所述的方法,其中,所述第一输出序列包括多个时间步中的每个时间步处的来自词元词表的相应词元,其中,所述自回归神经网络被配置为,对于所述第一输出序列中的每个时间步,以所述第一输入文本序列和在所述第一输出序列中的所述时间步之前的任何时间步处的所述输出序列中的任何词元为条件,为所述词表中的每个词元生成相应评分,并且其中,生成所述第一输出序列包括:
7.根据权利要求6所述的方法,其中,生成所述第一输出序列包括:
8.根据权利要求7所述的方法,其中,所述第二输出文本子序列之前是所述第一输出文本序列中的一个或多个第一预定语法词元,并...
【专利技术属性】
技术研发人员:雅各布·李·米尼克,维拉德米尔·米库力克,马嘉·玛利亚·特雷贝克兹,纳塔涅尔·约翰·麦卡利斯帕克,杰弗里·伊尔温,
申请(专利权)人:渊慧科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。