社交媒体攻击言论检测模型两阶段建模方法、装置及介质制造方法及图纸

技术编号:42809043 阅读:20 留言:0更新日期:2024-09-24 20:51
本发明专利技术公开了一种社交媒体攻击言论检测模型两阶段建模方法、装置及介质,方法包括:获取原始数据集,并构建标注者个人意见数据集;根据构建的个人意见数据集,构建并训练标注者个人意见预测模型;对于原始数据集中的每个样本,使用训练后的个人意见预测模型,预测每个标注者对该样本的个人意见,生成标注者个人意见池;根据原始数据集和标注者个人意见池,构建并训练标注者个人意见融合决策模型。本发明专利技术能够从个人意见出发,让基于机器学习或深度学习的模型学习到针对某个言论的多个个人意见,从多方面与多角度了解每个言论可能存在的冒犯某种群体用户的风险,从而提高检测模型针对隐晦攻击言论的检测能力,可广泛应用于媒体攻击言论检测领域。

【技术实现步骤摘要】

本专利技术涉及媒体攻击言论检测领域,尤其涉及一种社交媒体攻击言论检测模型两阶段建模方法、装置及介质


技术介绍

1、攻击言论是指在社交媒体上使用侮辱性、恶意或敌意的语言攻击他人的行为,它可能会对受害者造成心理伤害,破坏社交网络的健康氛围,甚至引发暴力事件。因此,检测和防止攻击言论是社交媒体平台的一个重要任务。

2、目前,社交媒体上的攻击言论检测主要依赖于自然语言处理(nlp)技术,通过分析文本内容中的词汇、句法、语义等特征,来判断是否存在攻击言论。一般来说,攻击言论检测可以分为以下几个层次:1)二分类:判断一段文本是否包含攻击言论,是或否。2)多分类:判断一段文本包含的攻击言论的类型,如谩骂、威胁、歧视等。3)目标识别:判断一段文本中的攻击言论是针对哪些目标的,如个人、群体、组织等。4)程度评估:判断一段文本中的攻击言论的严重程度,如轻微、中等、严重等。

3、为了实现上述的攻击言论检测任务,研究者们提出了许多基于机器学习或深度学习的模型,如支持向量机(svm)、朴素贝叶斯(nb)、逻辑回归(lr)、卷积神经网络(cnn)、循环神经网本文档来自技高网...

【技术保护点】

1.一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,所述构建标注者个人意见数据集,包括:

3.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,

4.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,所述对于原始数据集中的每个样本,使用训练后的个人意见预测模型,预测每个标注者对该样本的个人意见,生成标注者个人意见池,包括:

5.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方...

【技术特征摘要】

1.一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,所述构建标注者个人意见数据集,包括:

3.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,

4.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,所述对于原始数据集中的每个样本,使用训练后的个人意见预测模型,预测每个标注者对该样本的个人意见,生成标注者个人意见池,包括:

5.根据权利要求1所述的一种社交媒体攻击言论检测模型两阶段建模方法,其特征在于,所述根据原始数据集和标注者个人意见池,构建并训练标注者个人意见融合决策模型,包括:

6.根据权利...

【专利技术属性】
技术研发人员:张灿辉张通陈俊龙
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1