一种基于对比对齐网络的跨领域情感分类方法技术

本发明专利技术涉及一种基于对比对齐网络的跨领域情感分析方法，属于自然语言处理中的细粒度情感分析技术领域。本发明专利技术研究了跨领域情感分类的一个未充分探索的场景，即目标领域是少样本的场景。在此场景下，本发明专利技术提出了一种名为对比对齐网络(CAN)的神经网络模型。模型首先从原领域和目标领域中随机抽取两个实例，然后根据组合目标领域和原领域的实例对其进行训练。第一个目标是最小化原领域上的分类错误。第二个是成对对比目标，其中一对中的目标领域实例和原领域实例之间的距离度量，如果它们表达相同的情感，则最小化，否则该度量以恒定的上限最大化。本方法解决了跨领域情感分类任务中目标领域数据资源受限的问题，提高了用户的使用体验。使用体验。使用体验。

【技术实现步骤摘要】
一种基于对比对齐网络的跨领域情感分类方法


[0001]本专利技术涉及一种跨领域情感分类方法，具体涉及一种基于对比对齐网络的跨领域情感分析方法，属于自然语言处理中的细粒度情感分析


技术介绍

[0002]跨领域情感分类(Cross Domain Sentiment Classification，CDSC)是一项重要任务，旨在将学习到的知识从原领域转移到目标领域。CDSC使在具有大量标记数据的原领域中训练的情感分类模型能够在训练样本有限的目标领域数据中良好运行。当目标领域的数据缺少、原领域数据充足时，这种情况在工业界比较常见且具有挑战，主要挑战在于源领域和目标领域之间的领域转移(或分布转移)。领域转移问题主要是任意两个领域之间的分布差异，例如，医学领域中使用的词与餐厅领域中使用的词大不相同。
[0003]领域转移是跨领域情感分类中的一个重要问题，可以通过领域适应方法在很大程度上得到缓解。目前，研究人员提出了各种领域适应的模型。这些模型需要来自目标领域的大量未标记数据，以便它们能够学习每个目标实例的良好表示，作为在原领域中训练的分类器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于对比对齐网络的跨领域情感分类方法，其特征在于，包括以下步骤：步骤1：加载评论语料集和预训练语言模型，并对评论语料集中的评论文本数据进行文本预处理和文本数据格式化；步骤2：构建基于对比对齐网络的跨领域情感分类模型；其中，基于对比对齐网络的跨领域情感分类模型f，包括编码器g
θ
和分类器h
φ
，在该架构基础上，引入原领域分类目标损失函数和对比目标领域分类目标损失函数编码器g
θ
使用预训练语言模型作为基底，用于编码评论语句的上下文信息；分类器h
φ
由多层感知器MLP和softmax层组成；将经过多层感知器的输出表示送至softmax层，由此计算相应的损失；步骤3：计算判别性原领域风险；对于判别性原领域风险，采用原领域的经验分类损失项，将分类目标建模为基于交叉熵的损失熵的损失其中，n
s
为原领域数据样本数量；y
i
为原领域数据第i条样本的标签，为模型在原领域数据第i条样本上的预测标签；步骤4：以实例级分类信息对比对齐原领域与目标领域；给定任意对特定的对比损失计算为：其中，X
is
表示原领域s第i条样本评论语句，X
jt
表示目标领域t第j条样本评论语句，y
is
表示原领域s第i条样本评论语句所对应的标签，y
jt
表示目标领域t第j条样本评论语句所对应的标签；表示原领域实例和目标领域实例之间的距离度量；为等式指示函数；m是一个预定义的常量；步骤5：进行正则化领域转移；总体目标包括原领域数据的交叉熵损失函数对比对齐原领域与目标领域损失函数并通过正则化最小化原领域数据的交叉熵损失函数和对比对齐原领域与目标领域损失函数其中，总体目标函数为：其中，α是分类和对比目标之间的权衡项，λ是所有模型参数Θ＝{θ，φ}的正则化系数；...

【专利技术属性】
技术研发人员：宋大为，马放，张辰，杨艺，
申请(专利权)人：北京理工大学，
类型：发明
国别省市：