文本分析模型训练方法、装置、电子设备和存储介质制造方法及图纸

技术编号:35528363 阅读:38 留言:0更新日期:2022-11-09 14:51
本申请实施例公开了一种文本分析模型训练方法、装置、电子设备和存储介质,可以应用于自然语言处理以及机器学习等人工智能领域、数据库等云技术领域,如应用于云技术、人工智能、智慧交通、辅助驾驶等场景;本申请获取预设的文本分析模型、训练文本以及由所述训练文本编码得到的样本;根据样本的语义表示与所述训练样本的一致性,确定全局对比损失;根据样本在预设的特征范围内的语义表示与所述训练样本的一致性,确定局部对比损失;根据全局对比损失以及局部对比损失,训练预设的文本分析模型,得到训练后的文本分析模型。本申请能够将训练后的文本分析模型用于文本分析,从全局语义以及局部语义的角度,提升文本分析模型的文本分析能力。本分析能力。本分析能力。

【技术实现步骤摘要】
文本分析模型训练方法、装置、电子设备和存储介质


[0001]本申请涉及文本分析
,具体涉及一种文本分析模型训练方法、装置、电子设备和存储介质。

技术介绍

[0002]近年来,随着文本分析技术的发展,文本分析技术可以广泛应用于自然语言理解、知识问答等场景中。例如,可以通过文本分析模型,对自然语言进行语义解析,并生成语义表示。
[0003]然而,现有在对文本分析模型进行训练是,通常都是使用样本直接训练文本分析模型,导致训练后的模型文本分析能力不够。

技术实现思路

[0004]本申请实施例提供一种文本分析模型训练方法、装置、电子设备和存储介质,可以提升训练后的文本分析模型的文本分析能力。
[0005]本申请实施例提供一种文本分析模型训练方法,包括:获取预设的文本分析模型、训练文本以及由所述训练文本编码得到的样本;通过所述预设的文本分析模型,根据所述样本的语义表示与所述训练样本的一致性,确定全局对比损失;通过所述预设的文本分析模型,根据所述样本在预设的特征范围内的语义表示与所述训练样本的一致性,确定局部对比损失,所本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本分析模型训练方法,其特征在于,包括:获取预设的文本分析模型、训练文本以及由所述训练文本编码得到的样本;通过所述预设的文本分析模型,根据所述样本的语义表示与所述训练样本的一致性,确定全局对比损失;通过所述预设的文本分析模型,根据所述样本在预设的特征范围内的语义表示与所述训练样本的一致性,确定局部对比损失,所述预设的特征范围包括任一所述样本的特征范围;根据所述全局对比损失以及所述局部对比损失,训练所述预设的文本分析模型,得到训练后的文本分析模型,以便将所述训练后的文本分析模型用于文本分析。2.如权利要求1所述的文本分析模型训练方法,其特征在于,所述方法,还包括:通过所述预设的文本分析模型,对所述训练文本进行编码,得到编码向量;根据所述编码向量,对所述样本进行解码,得到第一特征序列;根据所述第一特征序列,确定所述样本的语义表示。3.如权利要求2所述的文本分析模型训练方法,其特征在于,所述样本以结构化查询语句形式存储,所述通过所述预设的文本分析模型,对所述训练文本进行编码,得到编码向量,包括:通过所述预设的文本分析模型,获取预设的结构化数据;根据所述预设的结构化数据,对所述训练文本进行特征提取,得到初始特征,所述初始特征包括所述预设的结构化数据与所述训练文本的匹配关系;基于所述匹配关系,对所述初始特征进行注意力处理,得到编码向量。4.如权利要求2所述的文本分析模型训练方法,其特征在于,所述样本以结构化查询语句形式存储,所述根据所述编码向量,对所述样本进行解码,得到第一特征序列,包括:组合编码向量和样本,得到组合特征;将所述组合特征转换为树形结构化数据,所述树形结构化数据包括至少一个节点;根据预设的解码顺序,对所述树形结构化数据的所述节点进行解码,得到第一特征序列。5.如权利要求2所述的文本分析模型训练方法,其特征在于,所述通过所述预设的文本分析模型,根据所述样本在预设的特征范围内的语义表示,确定局部对比损失之前,还包括:通过所述预设的文本分析模型,确定所述第一特征序列在所述预设的特征范围内的第二特征序列;根据所述第二特征序列,确...

【专利技术属性】
技术研发人员:肖东凌
申请(专利权)人:腾讯科技武汉有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1