生成意图识别模型的方法、装置、介质及程序产品制造方法及图纸

本公开提供了一种生成意图识别模型的方法、装置、介质及程序产品，涉及自然语言处理、智能搜索和深度学习等人工智能领域。该方法的一实施方式包括：获取搜索信息的向量、搜索信息中的核心词的向量，以及搜索信息中的非核心词的向量；根据搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；利用用户类型识别特征向量和对应的用户类型标签，以及问答需求识别特征向量和对应的问答需求标签进行训练，得到意图识别模型。型。型。

【技术实现步骤摘要】
生成意图识别模型的方法、装置、介质及程序产品


[0001]本公开涉及计算机领域，具体涉及自然语言处理、智能搜索和深度学习，尤其涉及一种生成意图识别模型的方法、装置、介质及程序产品。

技术介绍

[0002]意图识别属于自然语言理解的技术范畴，是指通过对用户表述的识别和处理，输出用户说表达的真实意图。目前意图识别的方法主要包括：
[0003](1)基于机器学习的方法。该方法通过对搜索信息进行切词，同时结合搜索信息的统一资源定位符(Uniform Resource Locator，URL)特性、类目特性等进行特征交叉，最后通过逻辑回归(logistic regression，LR)/随机森林(RF)等机器学习算法进行二分类，以实现意图识别。
[0004](2)基于深度学习的方法，该方法基于是长短期记忆网络(Long Short
‑
Term Memory，LSTM)或者bert(Bidirectional Encoder Representations from Transformers)进行预训练来进行识别，以实现意图识别。

技术实现思路

[0005]本公开实施例提出了一种生成意图识别模型的方法、装置、介质及程序产品。
[0006]第一方面，本公开实施例提出了一种生成意图识别模型的方法，包括：获取搜索信息的向量、搜索信息中的核心词的向量，以及搜索信息中的非核心词的向量；根据搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；利用用户类型识别特征向量和对应的用户类型标签，以及问答需求识别特征向量和对应的问答需求标签进行训练，得到意图识别模型。
[0007]第二方面，本公开实施例提出了一种生成问答回复的方法，包括：获取待预测的搜索信息，以及待预测的搜索信息中的核心词和非核心词；将待预测的搜索信息、核心词，以及非核心词分别输入预先训练的词向量模型中，得到待预测的搜索信息的向量、核心词的向量，以及非核心词的向量；根据待预测的搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据待预测的搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；将用户类型识别特征向量和问答需求识别特征向量分别输入预先训练的意图识别模型，得到用户类型识别特征向量对应的用户类型标签，以及问答需求识别特征向量对应的问答需求标签；响应于问答需求标签为有问答需求，根据用户类型标签、核心词以及非核心词，确定对应的回复信息。
[0008]第三方面，本公开实施例提出了一种生成意图识别模型的装置，包括：向量获取模块，被配置成获取搜索信息的向量、搜索信息中的核心词的向量，以及搜索信息中的非核心词的向量；向量得到模块，被配置成根据搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；模型训练模块，被配置成利用用户类型识别特征向量和对应的用户类型标签，以及问答需
求识别特征向量和对应的问答需求标签进行训练，得到意图识别模型。
[0009]第四方面，本公开实施例提出了一种生成问答回复的装置，包括：信息获取模块，被配置成获取待预测的搜索信息，以及待预测的搜索信息中的核心词和非核心词；向量提取模块，被配置成将待预测的搜索信息、核心词，以及非核心词分别输入预先训练的词向量模型中，得到待预测的搜索信息的向量、核心词的向量，以及非核心词的向量；向量得到模块，被配置成根据待预测的搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据待预测的搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；标签得到模块，被配置成将用户类型识别特征向量和问答需求识别特征向量分别输入预先训练的意图识别模型，得到用户类型识别特征向量对应的用户类型标签，以及问答需求识别特征向量对应的问答需求标签，其中，问答需求标签用于表征待预测的搜索信息是否有问答需求；回复确定模块，被配置成响应于问答需求识别特征向量对应的问答需求标签为预设的标签有问答需求，根据用户类型识别特征向量对应的用户类型标签、核心词以及非核心词，确定对应的回复信息。
[0010]第五方面，本公开实施例提出了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面或第二方面描述的方法。
[0011]第六方面，本公开实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面或第二方面描述的方法。
[0012]第七方面，本公开实施例提出了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面或第二方面描述的方法。
[0013]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0014]通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0015]图1是本公开可以应用于其中的示例性系统架构图；
[0016]图2是根据本公开的生成意图识别模型的方法的一个实施例的流程图；
[0017]图3是生成意图识别模型的方法的一个示意图；
[0018]图4是根据本公开的生成意图识别模型的方法的一个实施例的流程图；
[0019]图5为提取核心词的示意图；
[0020]图6是根据本公开的生成问答回复的方法的一个实施例的流程图；
[0021]图7是根据本公开的生成意图识别模型的装置的一个实施例的结构示意图；
[0022]图8是根据本公开的生成问答回复的装置的一个实施例的结构示意图；
[0023]图9是用来实现本公开实施例的电子设备的框图。
具体实施方式
[0024]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0025]需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
[0026]图1示出了可以应用本公开的生成意图识别模型的方法和装置或生成问答回复的方法和装置的实施例的示例性系统架构100。
[0027]如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络10本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种生成意图识别模型的方法，包括：获取搜索信息的向量、搜索信息中的核心词的向量，以及搜索信息中的非核心词的向量；根据搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；利用用户类型识别特征向量和对应的用户类型标签，以及问答需求识别特征向量和对应的问答需求标签进行训练，得到意图识别模型。2.根据权利要求1所述的方法，其中，所述利用用户类型识别特征向量和对应的用户类型标签，以及问答需求识别特征向量和对应的问答需求标签进行训练，得到意图识别模型，包括：将用户类型识别特征向量和问答需求识别特征向量分别输入意图识别模型，得到用户类型识别特征向量对应的预测结果，以及问答需求识别特征向量对应的预测结果；根据用户类型识别特征向量对应的预测结果和用户类型标签，以及问答需求识别特征向量对应的预测结果和问答需求标签，确定损失函数；基于损失函数调整意图识别模型的参数，直至损失函数收敛，得到训练完成的意图识别模型。3.根据权利要求2所述的方法，其中，所述根据用户类型识别特征向量对应的预测结果和用户类型标签，以及问答需求识别特征向量对应的预测结果和问答需求标签，确定损失函数，包括：根据用户类型识别特征向量对应的预测结果、用户类型标签和对应的第一权重，以及问答需求识别特征向量对应的预测结果、问答需求标签和对应的第二权重，确定损失函数。4.根据权利要求3所述的方法，其中，所述第一权重与所述第二权重的和为1。5.根据权利要求1
‑
4任一项所述的方法，其中，所述获取搜索信息的向量、搜索信息中的核心词的向量，以及搜索信息中的非核心词的向量，包括：获取搜索信息；提取搜索信息中的核心词和非核心词；将搜索信息、核心词，以及非核心词分别输入预先训练的词向量模型中，得到搜索信息的向量、核心词的向量，以及非核心词的向量。6.根据权利要求5所述的方法，其中，若所述搜索信息的数量为多个，所述提取搜索信息中的核心词和非核心词，包括：响应于目标搜索信息中的非中文占比小于或等于第二预设值，提取所述目标搜索信息中的核心词和非核心词，其中，所述目标搜索信息为多个搜索信息中目标搜索信息提取的核心词的数量与多个搜索信息的数量的比例大于第一预设值的搜索信息。7.一种生成问答回复的方法，包括：获取待预测的搜索信息，以及所述待预测的搜索信息中的核心词和非核心词；将待预测的搜索信息、核心词，以及非核心词分别输入预先训练的词向量模型中，得到待预测的搜索信息的向量、核心词的向量，以及非核心词的向量；根据待预测的搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据待预测的搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；
将用户类型识别特征向量和问答需求识别特征向量分别输入如权利要求1
‑
6任一项所述的方法生成的意图识别模型，得到用户类型识别特征向量对应的用户类型标签，以及所述问答需求识别特征向量对应的问答需求标签，其中，所述问答需求标签用于表征所述待预测的搜索信息是否有问答需求；响应于所述问答需求标签为有问答需求，根据所述用户类型标签、所述核心词以及所述非核心词，确定对应的回复信息。8.一种生成意图识别模型的装置，包括：向量获取模块，被配置成获取搜索信息的向量、搜索信息中的核心词的向量，以及搜索信息中的非核心词的向量；向量得到模块，被配置成根据搜索信息的向量和核心词的向量，得到用户类型识别特征向量；以及，根据搜索信息的向量和非核心词的向量，得到问答需求识别特征向量；模型...

【专利技术属性】
技术研发人员：谭云飞，刘晓庆，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：