文本情感分析模型训练方法、情感分析方法、设备和介质技术

本申请实施例涉及文本分析领域，公开了一种文本情感分析模型训练方法、情感分析方法、设备和介质。模型训练中：对评论文本、评论文本的至少一种个体化信息分别进行编码，得到文本向量和至少一个的个体向量；将文本向量输入到情感预测模型中，得到文本向量在多个情感类别下的预测情感标签；采用交叉注意力模型将文本向量分别与每个个体向量融合后再拼接，得到标签权重；采用权重计算网络对每个预测情感标签采用标签权重进行加权计算，以及将计算结果进行线性回归，得到多个情感类别下的情感类别概率。由于引入交叉注意力机制使得生成的标签权重具备了评论文本在个体化信息上的表达差异，从而提高模型对文本情感类别分析的准确度。从而提高模型对文本情感类别分析的准确度。从而提高模型对文本情感类别分析的准确度。

【技术实现步骤摘要】
文本情感分析模型训练方法、情感分析方法、设备和介质


[0001]本专利技术实施例涉及文本分析
，特别涉及一种文本情感分析模型训练方法、情感分析方法、设备和介质。

技术介绍

[0002]随着社会思想的逐渐开放，人们对个性化的追求使得人们的个体偏差逐渐被放大。对于不同人所做出的文本评论的情感分析也不应该仍拘泥于用一个简单粗暴的标准去进行评判。
[0003]目前已有的情感分析系统，经常会忽略对于个体偏差信息的关注，导致模型只关注评论文本本身，即便是考虑到除评论文本以外的相关信息，也只是将信息进行单一的拼接或级联操作，无法真正地将个体偏差信息融合进词向量中，从而导致训练得到的模型无法对文本所蕴含的情感类别进行更加准确的分析。

技术实现思路

[0004]本申请实施方式的目的在于提供一种文本情感分析模型训练方法、情感分析方法、设备和介质，通过采用交叉注意力机制将评论文本在个体偏差下的情感表达差异进行融合形成标签权重，并采用该标签权重对评论文本的预测情感标签进行加权，从而提高模型对文本情感类别分析的准确度。<br/>[0005]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本情感分析模型训练方法，其特征在于，包括：对评论文本、所述评论文本的至少一种个体化信息分别进行编码，得到文本向量和所述至少一个的个体向量；将所述文本向量输入到情感预测模型中，得到所述文本向量在多个情感类别下的预测情感标签；采用交叉注意力模型将所述文本向量分别与每个所述个体向量融合后再拼接，得到标签权重；采用权重计算网络对每个所述预测情感标签采用所述标签权重进行加权计算，以及将计算结果进行线性回归，得到所述多个情感类别下的情感类别概率；采用分类损失函数对所述情感预测模型、所述交叉注意力模型和所述权重计算网络组成的情感分析模型进行训练。2.根据权利要求1所述的文本情感分析模型训练方法，其特征在于，所述对评论文本、所述评论文本的至少一种个体化信息分别进行编码，得到文本向量和至少一个个体向量，包括：对所述评论文本进行词嵌入编码，将得到的词嵌入矩阵作为所述文本向量；对所述至少一种个体化信息分别进行词嵌入编码，将得到的所述至少一个的词嵌入矩阵中每个词嵌入矩阵作为一个所述个体向量。3.根据权利要求1所述的文本情感分析模型训练方法，其特征在于，所述情感预测模型包括：双向长短期记忆网络、Transformers模型和加法网络；所述将所述文本向量输入到情感预测模型中，得到所述文本向量在多个情感类别下的预测情感标签，包括：对所述文本向量中所包含的词向量采用所述双向长短期记忆网络进行词义特征提取，得到词义特征向量；对所述文本向量中所包含的词向量采用所述Transformers模型中的位置编码网络进行位置信息编码，得到位置特征向量；通过所述加法网络将所述词义特征向量和所述位置特征进行对位相加，并基于相加后的向量形成所述文本向量在多个情感类别下的预测情感标签。4.根据权利要求3所述的文本情感分析模型训练方法，其特征在于，所述方法还包括：以每个所述个体向量形成一个权重项，采用所述Transformers模型中的自注意力模型进行权重设置，得到自适应权重；所述基于相加后的向量形成所述文本向量在多个情感类别下的预测情感标签，包括：采用所述自适应权重对所述相加后的向量进行权重计算，得到所述文本向量在多个情感类别下的预测情感标签。5.根据权利要求4所述的文本情感分析模型训练方法，其特征在于，所述采用所述自适应权重对所述相加后的向量进行权重计算，得到所述文本向量在多个情感类别下的预测情感标签，包括：通过如下公式得到所述预测情感标签y：
其中，c
m
为第m个权重项的类别，(C)表示所述预...

【专利技术属性】
技术研发人员：过弋，陈丽安，
申请(专利权)人：华东理工大学，
类型：发明
国别省市：