句向量生成方法、智能问答方法和装置制造方法及图纸

本公开提供了一种句向量生成方法和装置、智能问答方法和装置，涉及自然语言处理技术领域。该方法包括基于目标语法识别模型对目标文本中的构式或句法进行语法识别，得到目标文本的语法序列；将语法序列转换为语法向量；基于语法向量与目标文本的第一句向量，生成目标文本的第二句向量，其中，目标文本的第一句向量是基于目标文本的词向量确定的。本公开通过挖掘语法中的隐含意义，从而可以提高对语义识别的准确度，进而可以提高采用句向量进行语义识别的准确度。别的准确度。别的准确度。

【技术实现步骤摘要】
句向量生成方法、智能问答方法和装置


[0001]本公开涉及自然语言处理
，尤其涉及一种句向量生成方法和装置、智能问答方法和装置。

技术介绍

[0002]自然语言理解(Natural Language Understanding，NLU)在当前新技术革命的浪潮中占有十分重要的地位，NLU中许多下游任务(例如，文本分类、情感分析、意图推断等)都依赖于上游将文本生成句向量。
[0003]目前，句向量往往通过词向量求和生成，但仅凭单独的词汇本身无法表征出文本中语法(例如，文本中存在的构式和句法)隐含的意义，因此无法完成更加有深度、重细节的表征。而以Bert模型为基础的各类通过堆叠Transformer encoder的模型，虽能捕捉到一个句子中深度双向的词与词之间的信息，但是文本中语法隐含的意义并未单独凸显，因此在句向量表征时无法抓住本质的、因果的语义关联。

技术实现思路

[0004]有鉴于此，本公开提供一种句向量生成方法和装置、智能问答方法和装置。
[0005]根据本公开的一个方面，提供一种句向量生成方法，包括：本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种句向量生成方法，其特征在于，包括：基于目标语法识别模型对目标文本中的构式或句法进行语法识别，得到所述目标文本的语法序列；将所述语法序列转换为语法向量；基于所述语法向量与所述目标文本的第一句向量，生成所述目标文本的第二句向量，其中，所述目标文本的第一句向量是基于所述目标文本的词向量确定的。2.根据权利要求1所述的句向量生成方法，其特征在于，所述将所述语法序列转换为语法向量，包括：基于预先构建的语法词典，查询与所述语法序列对应的语法意义，其中，所述语法词典中存储有语法序列与语法意义的映射关系；将所述与所述语法序列对应的语法意义转换为语法向量。3.根据权利要求2所述的句向量生成方法，其特征在于，若所述目标语法识别模型用于识别所述目标文本的构式，则所述语法序列包括构式序列；所述将所述语法序列转换为语法向量，包括：基于预先构建的语法词典，查询与所述构式序列对应的语法意义；将与所述构式序列对应的语法意义输入预训练语言模型，获得构式向量，所述语法向量包括所述构式向量。4.根据权利要求2所述的句向量生成方法，其特征在于，若所述目标语法识别模型用于识别所述目标文本的句法，则所述目标文本的语法序列包括词类序列、句法成分序列和句法关系序列；所述将所述语法序列转换为语法向量，包括：基于预先构建的语法词典，分别查询与所述词类序列、所述句法成分序列和所述句法关系序列对应的语法意义；将与所述词类序列、所述句法成分序列和所述句法关系序列分别对应的语法意义输入预训练语言模型，获得句法向量，所述语法向量包括所述句法向量。5.根据权利要求1所述的句向量生成方法，其特征在于，所述基于所述语法向量与所述目标文本的第一句向量，生成所述目标文本的第二句向量，包括：将所述语法向量转化为与所述第一...

【专利技术属性】
技术研发人员：白安琪，蒋宁，吴海英，肖冰，
申请(专利权)人：马上消费金融股份有限公司，
类型：发明
国别省市：