一种基于BiGRU-CNN的文本情感分析方法及设备技术

本发明专利技术涉及一种基于BiGRU

【技术实现步骤摘要】
一种基于BiGRU
‑
CNN的文本情感分析方法及设备


[0001]本专利技术涉及文本处理及情感分类
，尤其是涉及一种基于预训练的多尺度BiGRU
‑
CNN文本情感分析方法。

技术介绍

[0002]随着互联网科技的不断发展，各大平台产生了大量的文本信息。如何从大量的文本中提取重要的内容成为目前自然语言处理中的一个重要的课题。情感分析任务是将文本中的情感倾向(消极、积极等)进行分类。目前，情感分析存在以下问题：基于词典的分析法受语义表达的限制，在构造情感词时会出现覆盖不全的问题；使用传统的机器学习方法时，其特征选择依赖于人工，导致提取的文本特征不全面、准确率不高等问题。
[0003]中国专利申请CN114547299A公开了一种基于复合网络模型的短文本情感分类方法及装置，该方案采用的算法是将BiGRU与单个CNN并联，缺乏对于文本中多层次的特征内容的挖掘。

技术实现思路

[0004]为解决以上问题，在深度学习不断发展的基础上，本专利技术提出了一种基于预训练的多尺度BiGRU
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于BiGRU
‑
CNN的文本情感分析方法，其特征在于，所述方法包括以下步骤：采集原始文本数据集，并进行预处理；利用预训练的BERT模型生成文本词向量；将词向量输入BiGRU
‑
CNN模型，提取文本特征；通过softmax分类器对文本特征分类识别，得到情感分类结果；所述BiGRU
‑
CNN模型包括依次连接的BiGRU网络、两个并联的CNN网络以及全局最大池化层。2.根据权利要求1所述的一种基于BiGRU
‑
CNN的文本情感分析方法，其特征在于，所述利用预训练的BERT模型生成文本词向量具体为：加载BERT的预训练模型，利用Bert分词器将语料的每一个词送入词嵌入层，将每个词转换成词向量。3.根据权利要求1所述的一种基于BiGRU
‑
CNN的文本情感分析方法，其特征在于，所述BERT模型包括一个Transformer注意力机制模型，所述Transformer模型包括：编码器，用于同时读取文本输入的所有单词；解码器，用于根据情感分析任务进行预测。4.根据权利要求1所述的一种基于BiGRU
‑
CNN的文本情感分析方法，其特征在于，所述BiGRU网络用于提取全局特征，包括多个BiGRU模型，一个BiGRU模型包括一个前向传播的GRU单元和一个后向传播的GRU单元。5.根据权利要求4所述的一种基于BiGRU
‑
CNN的文本情感分析方法，其特征在于，所述BiGRU模型的当前隐藏层的状态由当前输入x
i
及t
‑
1处的前向隐藏层状态和反向隐藏层状态共同决定：共同决定：其中，...

【专利技术属性】
技术研发人员：祁小银，吴泉军，
申请(专利权)人：上海电力大学，
类型：发明
国别省市：