一种违规内容检测方法、介质、设备和程序产品技术

技术编号:43782796 阅读:31 留言:0更新日期:2024-12-24 16:18
本申请提供一种违规内容检测方法、介质、设备和程序产品,涉及数据检测领域,该方法包括:获取目标用户账号在目标应用中的当前发表内容及所述当前发表内容的初始违规检测结果;所述初始违规检测结果由对所述当前发表内容进行第一内容违规检测得到;确定所述目标用户账号的账号违规风险级别;所述账号违规风险级别基于所述目标用户账号在所述目标应用中产生的历史应用数据确定;根据所述账号违规风险级别和所述初始违规检测结果进行第二内容违规检测,得到针对所述当前发表内容的内容违规检测结果。本申请可避免仅针对当前发表内容进行内容违规检测所面临的违规内容对抗检测,提升了违规内容的准确召回率。

【技术实现步骤摘要】

本申请涉及数据检测领域,特别涉及一种违规内容检测方法、介质、设备和程序产品


技术介绍

1、当前,针对内容检测基本都基于垂类算法优化,单纯从空间维度上去识别内容是否违规,且伴随违规内容的对抗越来越严重,垂类算法的识别难度越来越大,准确率遇到瓶颈,其准确率较低。效果优化提升不明显。


技术实现思路

1、本申请的目的是提供一种违规内容检测方法、计算机可读存储介质、电子设备和计算机程序产品,能够结合用户账号的账号违规风险级别和内容违规检测结果进行综合性内容检测,提高内容检测精度,解决了单一应用垂类算法产生的内容检测准确率低的问题。

2、为解决上述技术问题,本申请提供一种违规内容检测方法,具体技术方案如下:

3、获取目标用户账号在目标应用中的当前发表内容及所述当前发表内容的初始违规检测结果;所述初始违规检测结果由对所述当前发表内容进行第一内容违规检测得到;

4、确定所述目标用户账号的账号违规风险级别;所述账号违规风险级别基于所述目标用户账号在所述目标应用中产生的历史应用数据确定;...

【技术保护点】

1.一种违规内容检测方法,其特征在于,包括:

2.根据权利要求1所述的违规内容检测方法,其特征在于,确定所述目标用户账号的账号违规风险级别包括:

3.根据权利要求2所述的违规内容检测方法,其特征在于,采集若干用户账号在所述目标应用中的账号历史应用数据之后,还包括:

4.根据权利要求2所述的违规内容检测方法,其特征在于,采集若干用户账号在所述目标应用中的账号历史应用数据之后,还包括:

5.根据权利要求4所述的违规内容检测方法,其特征在于,计算所述账号历史应用数据中单一特征的信息熵增益包括:

6.根据权利要求1所述的违规内容检测方法...

【技术特征摘要】

1.一种违规内容检测方法,其特征在于,包括:

2.根据权利要求1所述的违规内容检测方法,其特征在于,确定所述目标用户账号的账号违规风险级别包括:

3.根据权利要求2所述的违规内容检测方法,其特征在于,采集若干用户账号在所述目标应用中的账号历史应用数据之后,还包括:

4.根据权利要求2所述的违规内容检测方法,其特征在于,采集若干用户账号在所述目标应用中的账号历史应用数据之后,还包括:

5.根据权利要求4所述的违规内容检测方法,其特征在于,计算所述账号历史应用数据中单一特征的信息熵增益包括:

6.根据权利要求1所述的违规内容检测方法,其特征在于,若所述历史应用数据包括场景行为数据、用户历史内容审核数据和后台设备环境安全数据,所述场景行为数据用于确定用户行为画像数据,所述用户历史内容审核数据用于确定用户内容画像数据,所述后台设备环境安全数据用于确定设备环境画像数据,确定所述目标用户账号的账号违规风险级别包括:

【专利技术属性】
技术研发人员:李永建刘海岗朱孔洋赖荣凤
申请(专利权)人:腾讯音乐娱乐科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1