基于解释生成和多智能体投票的隐性仇恨语言检测方法技术

本发明专利技术公开了一种基于解释生成和多智能体投票的隐性仇恨语言检测方法，包括1）结合多角度设计的提示信息与网络评论的文本内容，构建大语言模型LLMs的输入；2）通过提示引导大语言模型LLMs生成解释性输出及类别标签；3）单个智能体执行多次，并基于自身多次结果进行内部投票，以确定该智能体的最终决策；4）通过外部投票汇总多个智能体的在步骤3）中内部投票结果，综合决策，最终确定给定网络评论文本的类别标签，完成隐性仇恨语言检测。本发明专利技术通过引导LLMs生成解释，以揭示网络评论背后的语境和隐含信息，从而区分隐性与显性仇恨语言。此外，设计了双层智能体投票策略，以降低LLMs的幻觉现象，并提升隐性仇恨语言检测的准确性与可靠性。

【技术实现步骤摘要】

本专利技术涉及中文隐性仇恨语言以及短文本分类研究领域，特别涉及一种基于解释生成和多智能体投票的隐性仇恨语言检测方法。

技术介绍

1、近年来，深度学习结合词典的方法在仇恨言论检测领域得到了广泛应用。这类方法在识别显性仇恨语言(通常包含明显的侮辱性或仇恨词汇)方面表现优异，但在检测隐性仇恨语言时仍存在局限性。针对隐性仇恨语言的检测研究经历了从早期依赖特征工程的方法，到神经网络模型的应用，直至近年来进一步发展为基于预训练语言模型(plms)的方法，例如bert和hatebert。这些plm驱动的技术在仇恨语言检测任务中展现出了卓越的性能提升。

2、由于隐性仇恨语言的特殊性，近年来的研究开始探索提供底层解释以辅助检测。一些研究致力于生成基于关键词的解释来进行检测，但这类方法往往无法捕捉文本中未明确表达的隐性仇恨内容。另一些研究则采用训练有素的生成模型，通过人工编写的自由文本推理进行检测。尽管这些方法具有一定的潜力，但受限于注释推理中的逻辑不一致性，导致检测和解释的效果不尽理想。还有研究利用外部知识源、任务分解和知识注入，将仇恨语言检测视为小样本学习任务本文档来自技高网...

【技术保护点】

1.一种基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，所述步骤1)具体包括：

3.根据权利要求1所述的基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，所述步骤2)具体包括：

4.根据权利要求1所述的基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，所述步骤3)具体包括：

5.根据权利要求1所述的基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，所述步骤4)具体包括：

【技术特征摘要】

1.一种基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的基于解释生成和多智能体投票的隐性仇恨语言检测方法，其特征在于，所述步骤1)具体包括：

3.根据权利要求1所述的基于解释生成和多智能体投票的隐性仇恨语言检...

【专利技术属性】
技术研发人员：朱毅，王晗，李云，强继朋，袁运浩，
申请(专利权)人：扬州大学，
类型：发明
国别省市：