一种信息审核方法、装置、电子设备和存储介质制造方法及图纸

技术编号:42316084 阅读:21 留言:0更新日期:2024-08-14 15:58
本发明专利技术公开了一种信息审核方法、装置、电子设备和存储介质,包括:获取待审核的目标信息以及目标信息的类型和审核场景;基于类型和审核场景确定至少两个机审模型,不同机审模型的机审策略不同;通过机审模型输出目标信息对应的风险标签;将每个风险标签映射为对应的标准标签;基于标准标签确定目标信息最终的识别标签。可以适应不同审核场景、不同类型的待审核目标信息,适用范围广,其次,基于不同的机审策略来对同一目标信息进行审核,以避免目标信息的风险项被漏审、错审,也可以提高机审模型的审核结果的准确性;将各自输出的风险标签映射为对应的标准标签,可以输出的标签进行标准化,方便精准确定目标信息在多模型下的风险类型。

【技术实现步骤摘要】

本专利技术涉及网络安全,尤其涉及一种信息审核方法、装置、电子设备和存储介质


技术介绍

1、随着互联网的快速发展和智能设备的大规模普及,互联网信息的受众群体也越来越广,互联网上各种图片所传播的信息也越来越多,为了维护互联网稳定、健康、和谐和安全等,图片内容的审核变得日益重要。

2、传统的图片审核方法多依赖于人工,但其效率低下且成本高昂,并且,人工对于图片内容的识别能力有限,容易存在漏审、错审等情况。因此,开发一种高效、准确且成本较低的信息智能识别审核方法成为当前技术的迫切需求。


技术实现思路

1、本专利技术提供了一种信息审核方法,以解决人工进行信息审核时容易存在漏审、错审且效率低、成本高的问题。

2、第一方面,本专利技术提供了一种信息审核方法,包括:

3、获取待审核的目标信息以及所述目标信息的类型和审核场景;

4、基于所述类型和所述审核场景确定至少两个机审模型,不同所述机审模型的机审策略不同;

5、通过所述机审模型输出所述目标信息对应的风险标签;...

【技术保护点】

1.一种信息审核方法,其特征在于,包括:

2.如权利要求1所述的信息审核方法,其特征在于,所述基于所述类型和所述审核场景确定至少两个机审模型,包括:

3.如权利要求2所述的信息审核方法,其特征在于,所述基于所述需求数量、所述设定分流比例以及所述已有分流比例,从所述备选机审模型中筛选出最终的机审模型,包括:

4.如权利要求1所述的信息审核方法,其特征在于,所述目标信息的类型包括文本、图片和音频;所述机审模型包括文字提取子模型和打标子模型,所述通过所述机审模型输出所述目标信息对应的风险标签,包括:

5.如权利要求1所述的信息审核方法,其特征在于...

【技术特征摘要】

1.一种信息审核方法,其特征在于,包括:

2.如权利要求1所述的信息审核方法,其特征在于,所述基于所述类型和所述审核场景确定至少两个机审模型,包括:

3.如权利要求2所述的信息审核方法,其特征在于,所述基于所述需求数量、所述设定分流比例以及所述已有分流比例,从所述备选机审模型中筛选出最终的机审模型,包括:

4.如权利要求1所述的信息审核方法,其特征在于,所述目标信息的类型包括文本、图片和音频;所述机审模型包括文字提取子模型和打标子模型,所述通过所述机审模型输出所述目标信息对应的风险标签,包括:

5.如权利要求1所述的信息审核方法,其特征在于,所述基于所述标...

【专利技术属性】
技术研发人员:林盛刘鹏华赵康成罗辉艺郑华聪武筠霏张毅
申请(专利权)人:广州趣研网络科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1