视频审核方法、视频审核装置、设备和存储介质制造方法及图纸

本发明专利技术实施例公开了一种视频审核方法、视频审核装置、设备和存储介质，视频审核方法包括：获取待审核视频的多帧视频图像；从多帧视频图像中提取违规对象得到多帧违规图像；将每帧违规图像输入预先训练的违规分类模型中，获得违规图像所包含的违规分类以及违规分类的分类得分；基于所有违规图像的违规分类和分类得分确定每个违规分类的分类总得分；根据预设审核条件和每个违规分类的分类总得分审核待审核视频。一方面，提取违规图像输入违规分类模型，使得违规分类模型专注于对违规对象进行处理，提高了视频审核的精确度，同时提取的违规图像可以作为违规惩罚的依据，另一方面，可以根据审核条件选择违规分类对视频进行审核，灵活性高。

Video audit method, video audit device, equipment and storage medium

【技术实现步骤摘要】
视频审核方法、视频审核装置、设备和存储介质
本专利技术实施例涉及视频审核
，尤其涉及一种视频审核方法、视频审核装置、设备和存储介质。
技术介绍
随着互联网技术的发展，短视频、直播等各种新型用户原创内容促使互联网视频越来越丰富，但与此同时，大量包括涉恐、涉暴、色情、政治敏感等违规对象的视频也被生产并在互联网上快速传播。目前，随着机器学习取得长足进步，机器学习被广泛应用于对视频进行自动审核，现有机器学习审核视频方法通常是将整张视频图像作为输入进行处理，需要对训练视频中的图像是否存在违规对象以及违规类别进行人工标注，然后将视频图像及人工标注信息输入到机器学习模型中进行训练，并利用训练得到的模型对视频审核。然而，视频审核业务具有以下特点：第一，错误的审核结果降低用户体验，甚至造成一定的法律后果，对利用机器学习进行视频审核的精确度要求较高，同时为避免造成法律后果，需要对处罚提供明确的依据，比如将视频图像中违反法律规定的违规对象进行识别并定位、提取。第二，视频审核时，视频图像中的违规对象具有清晰的定义，例如身体暴露部位本文档来自技高网...

【技术保护点】
1.一种视频审核方法，其特征在于，包括：/n获取待审核视频的多帧视频图像；/n从多帧视频图像中提取违规对象得到多帧违规图像；/n将每帧违规图像输入预先训练的违规分类模型中，获得每帧违规图像所包含的违规分类以及各个违规分类的分类得分；/n基于所有违规图像的所述违规分类和所述分类得分确定所述待审核视频在每个违规分类上的分类总得分；/n根据预设审核条件和每个违规分类的分类总得分审核所述待审核视频。/n

【技术特征摘要】
1.一种视频审核方法，其特征在于，包括：
获取待审核视频的多帧视频图像；
从多帧视频图像中提取违规对象得到多帧违规图像；
将每帧违规图像输入预先训练的违规分类模型中，获得每帧违规图像所包含的违规分类以及各个违规分类的分类得分；
基于所有违规图像的所述违规分类和所述分类得分确定所述待审核视频在每个违规分类上的分类总得分；
根据预设审核条件和每个违规分类的分类总得分审核所述待审核视频。


2.根据权利要求1所述的方法，其特征在于，所述获取待审核视频的多帧图像，包括：
按照预设采样周期从待审核视频中采集多帧原始视频图像；
对多帧原始视频图像进行预处理，得到预处理后的多帧视频图像；
其中，所述预处理包括图像缩放处理。


3.根据权利要求1所述的方法，其特征在于，所述从多帧视频图像中提取违规对象得到多帧违规图像，包括：
将每帧视频图像输入预先训练的违规检测模型中，获得每帧视频图像中违规对象的违规信息；
针对每帧视频图像，基于所述违规信息从所述视频图像中提取违规对象得到多帧违规图像。


4.根据权利要求3所述的方法，其特征在于，所述违规信息包括违规对象的位置信息和违规得分，所述针对每帧视频图像，基于所述违规信息从所述视频图像中提取违规对象得到多帧违规图像，包括：
针对每帧视频图像，确定出违规得分大于预设阈值的违规对象；
根据所述位置信息从所述视频图像中提取包含违规得分大于预设阈值的违规对象得到违规图像。


5.根据权利要求3所述的方法，其特征在于，所述违规检测模型通过以下方式训练：
获取训练视频图像，所述训练视频图像包括违规对象以及标注有所述违规对象的第一位置；
将所述训练视频图像输入初始化的违规检测模型中以预测出所述训练视频图像中所述违规对象的第二位置；
采用所述第一位置和所述第二位置计算损失率；
若所述损失率未满足预设条件，则采用所述损失率计算梯度；
基于所述梯度和预设的学习率对所述违规检测模型进行反向传播以调整所述违规检测模型的模型参数，返回将所述训练图像输入初始化的违规检测模型中以预测出所述训练图像中所述违规对象的第二位置的步骤。


6.根据权利要求1所述的方法，其特征在于，所述将每帧违规图像输入预先训练的违规分类模型中，获得每帧违规图像所包含的违规分类以及各个违规分类的分类得分，包括：
对所述违规图像进行预处理，得到预处理后的违规图像；
将预处理后的违规图像输入违规分类模型中，获得每帧违规图像所包含的违规分类以及各个违规分类的分类得分。


7.根据权利要求1所述的方法，其特征在于，所述违规分类模型通过以下方式训练：
获取训练违规图像，所述训练违规图像标注有所述训练违规图像所包含的违规分类；
将所述训练违规图像输入初始化的违规分类模型中以预测出所述训练违规图像所包含的不同违规分类以及各个违规分类下的分类得分；
采用所述不同违规分类、各个违规分类下的分类得分以及所述训练违规图像中标注的违规分类求交叉熵得到分类损失率；
若所述分类损失率未满足预设条件，则采用所述分类损失率计算梯度；
基于所述梯度和预设的学习率对所述违规分类模型进行反向传播以调...

【专利技术属性】
技术研发人员：杨睿智，石峰，刘振强，
申请(专利权)人：广州市百果园信息技术有限公司，
类型：发明
国别省市：广东;44