一种构建语言模型的方法、输入法及系统技术方案

本发明专利技术公开一种构建语言模型的方法，包括：获取文本数据中的句子的未来向量，句子的未来向量为句子反向之后所提取的向量；以文本数据中的句子中的前文为第一输入，以句子的未来向量作为第一输出，训练得到未来向量预测网络；至少以将所述句子中的前文输入未来向量预测网络的输出值作为第二输入，以句子的前文的后续词语为第二输出，训练得到主神经网络；基于未来向量预测网络和主神经网络生成所述语言模型。在本发明专利技术通过综合考虑已知前文和相应于已知前文的未来向量的方式来构建语言模型，使得所构建的语言模型能够从整个句子层面(未来向量)结合当前前文信息来预测后续词语，提高了预测的准确性与可靠性。

【技术实现步骤摘要】
一种构建语言模型的方法、输入法及系统
本专利技术涉及人工智能
，尤其涉及一种构建语言模型的方法、输入方法及系统。
技术介绍
对于已有文本数据，使用LSTM(LongShort-TermMemory，长短期记忆网络)语言模型，将当前词作为输入(进行联合训练时加入其他标注信息)，下一个词作为输出进行训练。由于使用LSTM语言模型，给定一句话的一部分，预测下一个新的词语，使用时将新生成的词语作为下一时刻的输入，循环生成直到句子结束。专利技术人在实现本专利技术的过程中发现，现有技术中的上述LSTM语言模型的方法所预测得到的句子，由于仅仅是依赖于当前输入的词来预测下一个词，脱离了句子本身所要表达的意义，所以结果往往显得生硬、不自然，甚至并非用户所期待的结果。
技术实现思路
本专利技术实施例提供一种构建语言模型的方法、输入法及系统，用于至少解决上述技术问题之一。第一方面，本专利技术实施例提供一种构建语言模型的方法，包括：获取文本数据中的句子的未来向量，所述句子的未来向量为所述句子反向之后所提取的向量；以所述文本数据中的句子中的前文为第一输入，以所述句子的未来向量作为第一输出，训练得到未来向量预测网络；至少以将所述句子中的前文输入所述未来向量预测网络后的输出值作为第二输入，以所述句子的前文的后续词语为第二输出，训练得到主神经网络；基于所述未来向量预测网络和所述主神经网络生成所述语言模型。第二方面，本专利技术实施例提供一种输入法，应用于电子设备，包括：前述构建语言模型的方法中的所述的语言模型获取用户已输入的文字信息；将所述文字信息导入前述构建语言模型的方法中的所述的语言模型，以利用所述未来向量预测网络基于所述已输入的文字信息，生成对应于所述已输入的文字信息的未来向量；利用所述主神经网络基于所述已输入的文字信息和所述已输入的文字信息的未来向量，预测得到所述已输入的文字信息的后续词语；将所述已输入的文字信息的后续词语提供给所述电子设备的用户界面层，以展示给用户。第三方面，本专利技术实施例提供一种构建语言模型的系统，包括：未来向量获取程序模块，用于获取文本数据中的句子的未来向量，所述句子的未来向量为所述句子反向之后所提取的向量；预测网络训练程序模块，用于以所述文本数据中的句子中的前文为第一输入，以所述句子的未来向量作为第一输出，训练得到未来向量预测网络；主神经网络训练程序模块，用于至少以将所述句子中的前文输入所述未来向量预测网络后的输出值作为第二输入，以所述句子中的前文的后续词语为第二输出，训练得到主神经网络；语言模型生成程序模块，用于基于所述未来向量预测网络和所述主神经网络生成所述语言模型。第四方面，本专利技术实施例提供一种输入法系统，应用于电子设备，包括：输入信息获取程序模块，用于获取用户已输入的文字信息；词语预测程序模块，用于调用前述构建语言模型的系统中的所述的语言模型，以利用所述未来向量预测网络基于所述已输入的文字信息，生成对应于所述已输入的文字信息的未来向量；利用所述主神经网络基于所述已输入的文字信息和所述已输入的文字信息的未来向量，预测得到所述已输入的文字信息的后续词语；展示程序模块，用于将所述已输入的文字信息的后续词语提供给所述电子设备的用户界面层，以展示给用户。第五方面，本专利技术实施例提供一种非易失性计算机可读存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本专利技术上述任一项构建语言模型的方法和/或输入法。第六方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术上述任一项构建语言模型的方法和/或输入法。第七方面，本专利技术实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项构建语言模型的方法和/或输入法。本专利技术实施例的有益效果在于：在本专利技术实施例的构建语言模型的方法中，通过综合考虑已知前文和相应于已知前文的未来向量的方式来构建语言模型，使得所构建的语言模型能够从整个句子层面(未来向量)结合当前前文信息来预测后续词语。从而使得所构建的语言模型能够更加准确的基于获取的前文信息预测得到与前文信息高度相符的后续词语，提高了预测的准确性与可靠性。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术的构建语模型的一实施例的流程图；图2为本专利技术的构建语模型的另一实施例的流程图；图3为本专利技术的构建语模型的又一实施例的流程图；图4为本专利技术中的反向语言神经网络的结构示意图；图5为本专利技术中的增强型LSTM语言模型的结构示意图；图6为本专利技术中的多任务增强型LSTM语言模型的结构示意图；图7为本专利技术的输入法的一实施例的流程图；图8为本专利技术的构建语模型的一实施例的结构示意图；图9为本专利技术的构建语模型的另一实施例的结构示意图；图10为本专利技术的构建语模型的又一实施例的结构示意图；图11为本专利技术的输入法系统的一实施例的结构示意图；图12为本专利技术的电子设备的一实施例的结构示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。本专利技术可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本专利技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。在本专利技术中，“模块”、“装置”、“系统”等等指应用于计算机的相关实体，如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说，例如，元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有，运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中，并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间，并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号，例如，来自一个与本地系统、分布式系统中另一元件交互的，和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。最后，还需要说明的是，在本文中，诸如第一和第二等之类的本文档来自技高网...

【技术保护点】
一种构建语言模型的方法，包括：获取文本数据中的句子的未来向量，所述句子的未来向量为所述句子反向之后所提取的向量；以所述文本数据中的句子中的前文为第一输入，以所述句子的未来向量作为第一输出，训练得到未来向量预测网络；至少以将所述句子中的前文输入所述未来向量预测网络后的输出值作为第二输入，以所述句子中的前文的后续词语为第二输出，训练得到主神经网络；基于所述未来向量预测网络和所述主神经网络生成所述语言模型。

【技术特征摘要】
1.一种构建语言模型的方法，包括：获取文本数据中的句子的未来向量，所述句子的未来向量为所述句子反向之后所提取的向量；以所述文本数据中的句子中的前文为第一输入，以所述句子的未来向量作为第一输出，训练得到未来向量预测网络；至少以将所述句子中的前文输入所述未来向量预测网络后的输出值作为第二输入，以所述句子中的前文的后续词语为第二输出，训练得到主神经网络；基于所述未来向量预测网络和所述主神经网络生成所述语言模型。2.根据权利要求1所述的方法，其中，所述至少以将所述句子中的前文输入所述未来向量预测网络后的输出值为第二输入，以所述句子中的前文的后续词语为第二输出，训练得到主神经网络包括：以文本数据中的句子中的前文为所述未来向量预测网络的第一输入，以预测得到对应于所述句子的前文的未来向量；以预测得到的对应于所述句子的前文的未来向量和所述句子的前文为第二输入，以对应于所述句子的前文的后续词语为第二输出，训练得到所述主神经网络。3.根据权利要求1所述的方法，其中，所述获取文本数据中的句子的未来向量包括：将文本数据中的句子反向，并输入长短期记忆网络语言模型以训练得到反向语言神经网络；获取所述反向语言神经网络的隐层输出作为对应于所述文本数据中的句子的未来向量。4.一种输入法，应用于电子设备，包括：获取用户已输入的文字信息；将所述文字信息导入权利要求1-3中任一项所述的语言模型，利用所述未来向量预测网络基于所述已输入的文字信息，生成对应于所述已输入的文字信息的未来向量；利用所述主神经网络基于所述已输入的文字信息和所述已输入的文字信息的未来向量，预测得到所述已输入的文字信息的后续词语；将所述已输入的文字信息的后续词语提供给所述电子设备的用户界面层，以展示给用户。5.一种构建语言模型的系统，包括：未来向量获取程序模块，用于获取文本数据中的句子的未来向量，所述句子的未来向量为所述句子反向之后所提取的向量；预测网络训练程序模块，用于以所述文本数据中的句子中的前文为第一输入，以所述句子的未来向量作为第一输出，训练得到未...

【专利技术属性】
技术研发人员：俞凯，钱彦旻，刘奇，
申请(专利权)人：苏州思必驰信息科技有限公司，上海交通大学，
类型：发明
国别省市：江苏,32