一种视频内容风险检测方法、装置、介质及设备制造方法及图纸

技术编号:43971104 阅读:29 留言:0更新日期:2025-01-10 19:59
本说明书实施例公开了一种视频内容风险检测方法、装置、介质及设备,首先获取实时视频流数据,并提取对应的多模态检测数据,多模态检测数据包括第一信息密度数据以及信息密度大于第一信息密度数据的第二信息密度数据;然后对第一信息密度数据进行检测,确定风险检测结果,并将第一信息密度数据和风险检测结果融合到第二信息密度数据中,并对融合后的第二信息密度数据进行内容决策,得到内容风险决策结果。本技术方案通过信息密度分层次处理多模态数据,能够有效提升对实时视频流数据中风险内容的检出效率,缩短风险检测时效;同时可以减少高信息密度数据在内容决策过程中的重复计算量,提升内容决策效率。

【技术实现步骤摘要】

本说明书涉及视频风险检测,尤其涉及一种视频内容风险检测方法、装置、介质及设备


技术介绍

1、随着直播业务以及实时视频流业务的快速发展,由于直播视频以及实时视频流的复杂性和实时性要求,在内容审核和风险控制技术方面提出了更高的挑战。传统的内容检测系统一般基于单一模态数据进行风险识别,如通过截帧图像、音频切片或者关键词分析进行风险识别。然而,由于直播内容中信息表现形式的多样性和风险因素的复杂性,仅依赖单一模态检测难以准确识别潜在风险信息,常常会因信息密度不足而出现漏判或误判的情况。

2、目前,相关技术中采用通过多模态数据的检测方式提升风险识别能力,然而该技术方案由于采用多模态数据进行风险识别,数据复杂度较高,导致多模态数据之间可能存在重复数据,导致大量的重复计算,浪费计算资源,同时从风险发生到被检测出的时间跨度较长,风险检出效率较低。


技术实现思路

1、在说明书实施例的第一方面,提供一种视频内容风险检测方法,该方法能够降低风险识别的数据复杂度,减少重复计算量,节省计算资源,缩短从风险发生到被检测出的时本文档来自技高网...

【技术保护点】

1.一种视频内容风险检测方法,所述方法包括:

2.根据权利要求1所述的视频内容风险检测方法,在将所述第一信息密度数据和所述风险检测结果融合到所述第二信息密度数据之前,所述方法还包括:

3.根据权利要求2所述的视频内容风险检测方法,所述对融合后的第二信息密度数据进行内容决策,得到所述实时视频流数据对应的内容风险决策结果,包括:

4.根据权利要求3所述的视频内容风险检测方法,所述根据各所述初步风险决策结果和所述中间风险决策结果,确定所述实时视频流数据对应的内容风险决策结果,包括:

5.根据权利要求4所述的视频内容风险检测方法,所述获取所述第一信...

【技术特征摘要】

1.一种视频内容风险检测方法,所述方法包括:

2.根据权利要求1所述的视频内容风险检测方法,在将所述第一信息密度数据和所述风险检测结果融合到所述第二信息密度数据之前,所述方法还包括:

3.根据权利要求2所述的视频内容风险检测方法,所述对融合后的第二信息密度数据进行内容决策,得到所述实时视频流数据对应的内容风险决策结果,包括:

4.根据权利要求3所述的视频内容风险检测方法,所述根据各所述初步风险决策结果和所述中间风险决策结果,确定所述实时视频流数据对应的内容风险决策结果,包括:

5.根据权利要求4所述的视频内容风险检测方法,所述获取所述第一信息密度数据和所述第二信息密度数据对应的多模态风险检测权重,包括:

6.根据权利要求1所述的视频内容风险检测方法,所述提取所述实时视频流数据对应的多模态检测数据,包括:

7.根据权利要求6所述的视频内容风险检测方法,所述第一提取时长包括视频截帧间隔和音频切片提取时长;所述通过所述第一提取时长并结合所述实时视频流数据的时间戳信息,提取得到所述第一信息密度数据,包括:

...

【专利技术属性】
技术研发人员:李俊奎朱海亮胡宗旺李阳
申请(专利权)人:蚂蚁智信杭州信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1