视频内容审核方法、装置、设备和可读存储介质制造方法及图纸

本发明专利技术提供了一种视频内容审核方法、装置、设备和可读存储介质，该方法包括：对目标视频的多个关键帧进行违规检测，得到目标视频中违规关键帧的数量；在违规关键帧的数量小于第一阈值的情况下，对违规关键帧的上下文信息进行违规检测，得到上下文信息中的违规上下文信息的数量；在上下文信息中的违规上下文信息的数量小于第二阈值的情况下，获取目标审核结果，目标审核结果为违规关键帧的上下文信息的人工审核结果；在目标审核结果指示违规关键帧的上下文信息违规的情况下，对目标视频标注相应的违规标签。采用本发明专利技术所述实施例，可以确保审核的精准度并且提高视频审核效率。保审核的精准度并且提高视频审核效率。保审核的精准度并且提高视频审核效率。

【技术实现步骤摘要】
视频内容审核方法、装置、设备和可读存储介质


[0001]本专利技术涉及视频审核领域，尤其是指一种视频内容审核方法、装置、设备和可读存储介质。

技术介绍

[0002]随着互联网技术的飞速发展，网络上的流媒体资源呈爆炸式增长，普通的移动硬盘、随身盘已经不能满足用户的存储。目前大家常用的存储工具为网盘也称为云盘，云盘是将文件存储在云厂商提供的云存储内，云存储可根据用户需求进行弹性扩缩容。身份认证成功的用户可以随时随地的通过互联网来浏览、存取、分享文件等。与此同时，大量涉及到恐怖、暴力、色情或政治敏感等话题的违规视频也被上传到网盘并在互联网上迅速传播，因此针对上传到网盘的视频文件，需要对其进行审核，以防止在网络上肆意分享和传播。
[0003]目前，网盘视频审核的方法主要如下：
[0004](1)对视频进行分段或随机截取N张关键帧图像，然后对图片进行AI鉴别；
[0005](2)通过机器学习将视频进行逐帧分解并进行逐帧判断，再将违规率较高的视频交给人工进行二次审核。
[0006]但是，现有技术(1)通过随机抽取帧的方式转换为AI图片审核，容易导致敏感信息的遗漏。现有技术(2)在视频长度较长时，逐帧违规判断时间消耗较大；同时，不能判断出违规视频的类型，将整个视频交给人工审核，消耗大量人力成本，效率较低。

技术实现思路

[0007]本专利技术的目的是提供一种视频内容审核方法、装置、设备和可读存储介质，用于解决在视频审核过程中，审核效率和精准度低的问题。
[0008]为了解决上述技术问题，本专利技术实施例提供一种视频内容审核方法，所述方法包括：
[0009]对目标视频的多个关键帧进行违规检测，得到所述目标视频中违规关键帧的数量；
[0010]在所述违规关键帧的数量小于第一阈值的情况下，对违规关键帧的上下文信息进行违规检测，得到所述上下文信息中的违规上下文信息的数量；
[0011]在所述上下文信息中的违规上下文信息的数量小于第二阈值的情况下，获取目标审核结果，所述目标审核结果为违规关键帧的上下文信息的人工审核结果；
[0012]在所述目标审核结果指示所述违规关键帧的上下文信息违规的情况下，对所述目标视频标注相应的违规标签。
[0013]可选地，所述对目标视频的多个关键帧进行违规检测，得到所述目标视频中违规关键帧的数量，包括：
[0014]在所述目标视频的视频文件信息与历史违规视频文件信息不同的情况下，对目标视频的多个关键帧进行违规检测，得到所述目标视频中违规关键帧的数量。
[0015]可选地，所述对目标视频的多个关键帧进行违规检测，包括：
[0016]对目标视频的多个关键帧分别进行三维卷积神经网络分类模型检测和光学字符识别OCR检测；
[0017]在检测结果指示检测到违规内容的情况下，将违规内容对应的关键帧确认为违规关键帧。
[0018]可选地，所述对目标视频的多个关键帧进行三维卷积神经网络分类模型检测，包括：
[0019]将所述目标视频的每一个所述关键帧分别输入三维卷积神经网络分类模型；
[0020]通过所述三维卷积神经网络分类模型获取当前输入的关键帧的特征并进行计算；其中，在计算过程中将每一个关键帧的中间卷积结果进行缓存，缓存的中间卷积结果用于对下一个输入的关键帧进行计算；
[0021]根据每一个所述关键帧的计算结果输出对应的检测结果。
[0022]可选地，所述对违规关键帧的上下文信息进行违规检测，包括：
[0023]根据基本时长x截取每一个所述违规关键帧的上下文信息，对所述上下文信息进行违规检测；
[0024]其中，所述基本时长x是根据所述目标视频的时长和步长确定的。
[0025]可选地，所述方法还包括：
[0026]根据所述目标视频的时长T和关键帧总数量N，确定平均时长为
[0027]在判断平均时长大于或者等于所述步长时，确定所述步长为基本时长x；
[0028]在判断平均时长小于所述步长时，确定所述平均时长为基本时长x。
[0029]可选地，所述根据基本时长x截取每一个所述违规关键帧的上下文信息，包括：
[0030]在违规关键帧的数量为1个的情况下，分别获取所述违规关键帧距离所述目标视频首帧的第一时长和距离所述目标视频尾帧的第二时长；
[0031]对所述第一时长和第二时长进行比较，确定最短的时长为临界时长y；
[0032]对x和y进行比较，确定最短的时长为截取时长m；
[0033]截取所述违规关键帧前后各截取时长m的上下文信息。
[0034]可选地，所述根据基本时长x截取每一个所述违规关键帧的上下文信息，还包括：
[0035]在违规关键帧的数量为2个的情况下，2个所述违规关键帧分别确定为第一违规关键帧和第二违规关键帧；
[0036]获取所述第一违规关键帧和所述第二违规关键帧之间的时间间隔n；
[0037]获取所述第一违规关键帧距离所述目标视频首帧的第三时长和距离所述目标视频尾帧的第四时长；
[0038]对所述第三时长和第四时长进行比较，确定最短的时长为第一临界时长y1；
[0039]对x、y1和
n2
进行比较，确定最短的时长为第一截取时长m1；
[0040]截取所述第一违规关键帧前后各所述第一截取时长m1的上下文信息；
[0041]获取所述第二违规关键帧距离所述目标视频首帧的第五时长和距离所述目标视频尾帧的第六时长；
[0042]对所述第五时长和第六时长进行比较，确定最短的时长为第二临界时长y2；
[0043]对x、y2和进行比较，确定最短的时长为第二截取时长m2；
[0044]截取所述第二违规关键帧前后各所述第二截取时长m2的上下文信息。
[0045]可选地，所述根据基本时长x截取每一个所述违规关键帧的上下文信息，还包括：
[0046]在违规关键帧的数量大于2个的情况下，根据位置关系将多个所述违规关键帧确认为首帧违规关键帧、尾帧违规关键帧和至少一中间违规关键帧；
[0047]对于任一中间违规关键帧，分别获取所述中间违规关键帧与前后相邻的违规关键帧的第一时间间隔n1和第二时间间隔n2；
[0048]对x、和进行比较，确定最短的时长为第三截取时长m3；
[0049]截取所述中间违规关键帧前后各所述第三截取时长m3的上下文信息；
[0050]获取所述首帧违规关键帧和相邻的中间违规关键帧之间的第三时间间隔n3；
[0051]获取所述首帧违规关键帧和所述目标视频首帧的第三临界时长y3；
[0052]对x、y3和进行比较，确定最短的时长为第四截取时长m4；
[0053]截取所述首帧违规关键帧前后各所述第四截取时长m4的上下文信息；
[0054]获取所述尾帧违规关键帧和相邻的中间违规关键帧之间的第四时间间隔n4；
[0055]获取所述尾帧违本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种视频内容审核方法，其特征在于，所述方法包括：对目标视频的多个关键帧进行违规检测，得到所述目标视频中违规关键帧的数量；在所述违规关键帧的数量小于第一阈值的情况下，对违规关键帧的上下文信息进行违规检测，得到所述上下文信息中的违规上下文信息的数量；在所述上下文信息中的违规上下文信息的数量小于第二阈值的情况下，获取目标审核结果，所述目标审核结果为违规关键帧的上下文信息的人工审核结果；在所述目标审核结果指示所述违规关键帧的上下文信息违规的情况下，对所述目标视频标注相应的违规标签。2.根据权利要求1所述的视频内容审核方法，其特征在于，所述对目标视频的多个关键帧进行违规检测，得到所述目标视频中违规关键帧的数量，包括：在所述目标视频的视频文件信息与历史违规视频文件信息不同的情况下，对目标视频的多个关键帧进行违规检测，得到所述目标视频中违规关键帧的数量。3.根据权利要求1所述的视频内容审核方法，其特征在于，所述对目标视频的多个关键帧进行违规检测，包括：对目标视频的多个关键帧分别进行三维卷积神经网络分类模型检测和光学字符识别OCR检测；在检测结果指示检测到违规内容的情况下，将违规内容对应的关键帧确认为违规关键帧。4.根据权利要求3所述的视频内容审核方法，其特征在于，所述对目标视频的多个关键帧进行三维卷积神经网络分类模型检测，包括：将所述目标视频的每一个所述关键帧分别输入三维卷积神经网络分类模型；通过所述三维卷积神经网络分类模型获取当前输入的关键帧的特征并进行计算；其中，在计算过程中将每一个关键帧的中间卷积结果进行缓存，缓存的中间卷积结果用于对下一个输入的关键帧进行计算；根据每一个所述关键帧的计算结果输出对应的检测结果。5.根据权利要求1所述的视频内容审核方法，其特征在于，所述对违规关键帧的上下文信息进行违规检测，包括：根据基本时长x截取每一个所述违规关键帧的上下文信息，对所述上下文信息进行违规检测；其中，所述基本时长x是根据所述目标视频的时长和步长确定的。6.根据权利要求5所述的视频内容审核方法，其特征在于，所述方法还包括：根据所述目标视频的时长T和关键帧总数量N，确定平均时长为在判断平均时长大于或者等于所述步长时，确定所述步长为基本时长x；在判断平均时长小于所述步长时，确定所述平均时长为基本时长x。7.根据权利要求5所述的视频内容审核方法，其特征在于，所述根据基本时长x截取每一个所述违规关键帧的上下文信息，包括：在违规关键帧的数量为1个的情况下，分别获取所述违规关键帧距离所述目标视频首
帧的第一时长和距离所述目标视频尾帧的第二时长；对所述第一时长和第二时长进行比较，确定最短的时长为临界时长y；对x和y进行比较，确定最短的时长为截取时长m；截取所述违规关键帧前后各截取时长m的上下文信息。8.根据权利要求5所述的视频内容审核方法，其特征在于，所述根据基本时长x截取每一个所述违规关键帧的上下文信息，还包括：在违规关键帧的数量为2个的情况下，2个所述违规关键帧...

【专利技术属性】
技术研发人员：魏坤，
申请(专利权)人：中国移动通信集团有限公司，
类型：发明
国别省市：