【技术实现步骤摘要】
用于细粒度情感分析的相互增强转换网络
本专利技术涉及用于细粒度情感分析的相互增强转换网络，属于细粒度情感分析任务
技术介绍
细粒度情感分析任务包含两个子任务，即属性提取和属性情感分类。本专利技术假设属性已知，并仅关注属性情感分类任务。在细粒度情感分析任务中，一个句子中可能出现多个属性。在预测当前属性的情感时，其他属性和相关词就会成为噪音。因此，如何有效地建模给定属性与句子中单词之间的语义关系是一个重要的挑战。传统的方法主要依赖于人工设计的特征，这种表征方式几乎达到了它的性能瓶颈。随着深度学习技术的发展，尤其是注意力机制的提出，让上述问题得到了很好的解决，并且许多神经注意力模型被提出。在这些工作中，模型通常首先获取属性表示，然后应用注意力机制提取与给定属性相关的上下文特征进行情感预测。但是，注意力机制有一些缺点。当一个句子包含多个属性且它们具有不同的情感倾向时，其他属性的观点修饰词对于当前属性就是噪声信息。然而，注意力机制很难学习区分多个属性的不同观点修饰语，并且这会直接影响最终的预测结果。例如，在句子“Il...
【技术保护点】
1.用于细粒度情感分析的相互增强转换网络，其特征在于：/n包括依次连接的BERT层，双向增强转换层和卷积特征提取器；/nBERT层使用预训练的BERT生成序列的字表示；/n双向增强转换层包括分别与属性增强模块和字转换单元连接的双向LSTM层，属性增强模块和一组字转换单元，并且双向增强转换层应用层级结构实现了属性和上下文的迭代交互学习；/n双向LSTM层用于捕捉文本之间的长依赖关系和位置信息，其编码结果具有两个去向，一个是属性增强模块，另一个是字转换单元；/n属性增强模块接收属性表示和双向LSTM层编码结果的平均，最终输出被增强的属性表示，被增强的属性表示被输入到字转换单元中...
【技术特征摘要】
1.用于细粒度情感分析的相互增强转换网络，其特征在于：
包括依次连接的BERT层，双向增强转换层和卷积特征提取器；
BERT层使用预训练的BERT生成序列的字表示；
双向增强转换层包括分别与属性增强模块和字转换单元连接的双向LSTM层，属性增强模块和一组字转换单元，并且双向增强转换层应用层级结构实现了属性和上下文的迭代交互学习；
双向LSTM层用于捕捉文本之间的长依赖关系和位置信息，其编码结果具有两个去向，一个是属性增强模块，另一个是字转换单元；
属性增强模块接收属性表示和双向LSTM层编码结果的平均，最终输出被增强的属性表示，被增强的属性表示被输入到字转换单元中；
属性增强模块利用提取的上下文特征对属性进行强化；
字转换单元接收来自双向LSTM层的编码结果和来自属性增强模块的被强化的属性表示；
卷积特征提取器采用GCAE网络接收属性信息以控制句子的情感特征的传递，这进一步增强了属性和上下文之间的联系，此外，引入相对位置信息以更好的提取情感特征。
2.用于细粒度情感分析的相互增强转换网络，其特征在于，推理及训练的过程包括以下步骤：
步骤1、BERT层，使用预训练的BERT生成序列的字表示，假设一个句子包含m个单词，一个属性包含n个单词，通过BERT层可以获得句子的向量表示和属性的向量表示a＝{a1,a2,...,an}∈Rn×d，其中d表示BERT输出层的维度；
步骤2、双向增强转换层，双向LSTM层首先根据输入生成语境化的字表示；然后，属性增强模块利用这些字表示进一步增强属性表示；最后，字转换单元基于语境化的字表示和被强化的属性表示生成特定于属性的字表示；
S21、双向LSTM层，通过双向LSTM层学习文本的上下文依赖关系；双向增强转换层通过层级结构被重复多次，最底部的双向增强转换层中的双向LSTM的输入是BERT层输出的上下文表示；
下一个双向增强转换层中的双向LSTM的输入来自先前一个双向增强转换层中的字转换单元的输出；
双向LSTM输出的字表示可以被表示为
前向LSTM输出一组隐状态向量其中dh表示隐藏单元的数量；后向LSTM也输出一组隐状态向量将两个隐藏状态列表连接起来就得到了双向LSTM输出的字表示其中
S22、属性增强模块，在首次属性增强操作之前，先获得初始的属性表示；先将BERT输出的属性向量a＝{a1,a2,...,an}∈Rn×d输入到另一个双向LSTM中，然后对所获得的隐藏状态向量应用平均池化方法，最后获得初始的属性表示
在获得初始的属性表示后，基于双向LSTM输出的语境化的字向量h(1)，通过平均池化层获得一个向量将其称为语境向量；然后，使用按点逐位相加的特征融合方法，将...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。