图像审核方法和相关设备技术

技术编号:40068014 阅读:17 留言:0更新日期:2024-01-16 23:43
本申请公开了图像审核方法和相关设备,该图像审核方法中,因有害文本特征关联有语义表达相对应的库存图像特征,故图像模态和文本模态两种模态的特征能克服异构鸿沟,使得图像特征和文本特征之间的相似度能被直接计算且计算准确。此外,因各有害文本特征在语义表达上所属的违规类别为多种,且每一有害文本都各自对应有能作为判定依据的有害阈值,故本方法无需如传统般针对不同有害类型的内容训练一个个相应的审核模型,通过一套跨模态的审核方法就能解决各类违规图像的审核问题,减少开发成本和运维难度,从而高效保障图像传播正向的语义内容。

【技术实现步骤摘要】

本申请实施例涉及互联网,尤其涉及图像审核方法和相关设备


技术介绍

1、随着用户在互联网平台发布的ugc(用户创作的内容)越来越多,互联网监管方要求对ugc内容进行审查,控制不合法或不合格的内容在平台上的展示,维护晴朗的互联网空间。

2、由于ugc内容特别是图像内容非常的丰富,其创作者的背景和目的也各不相同,被认为是违规图像的原因也多种多样,如图示行为不良、虚假广告、指向敏感、含禁用词等。因此目前,针对每一类型的违规图像,都需要广泛地收集、标注大量的图像数据,并用各类图像数据单独训练一个个模型,如卡通行为模型、真人行为模型、广告标识模型、敏感文本模型等,才能得到可对应筛查出各类违规图像的审核模型。

3、面对层出不穷的各种违规图像内容,针对各类违规图像数据,单独训练一个个审核模型的上述传统模式,需要训练的模型增多或迭代旧模型用时长,容易出现更新迭代慢,开发和维护模型成本高的挑战。针对于此,相关技术并未提供有效的解决方案。


技术实现思路

1、本申请实施例提供了图像审核方法和相关设备,用于高本文档来自技高网...

【技术保护点】

1.一种图像审核方法,其特征在于,包括:

2.根据权利要求1所述的图像审核方法,其特征在于,所述计算所述图像特征与特征库中各有害文本特征之间的相似度,包括:

3.根据权利要求1所述的图像审核方法,其特征在于,每一所述有害阈值的确定过程包括:

4.根据权利要求1所述的图像审核方法,其特征在于,所述方法还包括:

5.根据权利要求1所述的图像审核方法,其特征在于,所述方法还包括:

6.根据权利要求1所述的图像审核方法,其特征在于,计算所述图像特征与特征库中各有害文本特征之间的相似度之前,所述方法还包括:

>7.根据权利要求1...

【技术特征摘要】

1.一种图像审核方法,其特征在于,包括:

2.根据权利要求1所述的图像审核方法,其特征在于,所述计算所述图像特征与特征库中各有害文本特征之间的相似度,包括:

3.根据权利要求1所述的图像审核方法,其特征在于,每一所述有害阈值的确定过程包括:

4.根据权利要求1所述的图像审核方法,其特征在于,所述方法还包括:

5.根据权利要求1所述的图像审核方法,其特征在于,所述方法还包括:

6.根据权利要求1所述的图像审核方法,其特征在于,计算所述图像特征与特征库中各有害文本特征之间的相似度之前,所...

【专利技术属性】
技术研发人员:赖荣凤葛霖郑炜乔朱孔洋赵昭张俊鹏傅鸿城
申请(专利权)人:腾讯音乐娱乐科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1