违规检测模型构建方法、违规检测方法和相关装置制造方法及图纸

本发明专利技术实施例提出一种违规检测模型构建方法、违规检测方法和相关装置，其中的违规检测模型构建方法包括：通过第一样本集对第一模型进行训练，直至所述第一模型收敛时，得到第一目标模型；所述第一样本集包括违规图像和合规图像，所述第一目标模型用于检测图像中的可疑违规区域；通过第二样本集对第二模型进行训练，直至所述第二模型收敛时，得到第二目标模型；所述第二样本集包括违规区域截取图像，所述第二目标模型用于对所述第一目标模型输出的可疑违规区域进行处理，得到用于指示所述可疑违规区域是否违规的分类结果；根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型。

【技术实现步骤摘要】

本专利技术涉及图像，具体而言，涉及一种违规检测模型构建方法、违规检测方法和相关装置。

技术介绍

1、随着互联网直播和短视频行业的兴起，为维护健康有序的网络环境，需对直播和短视频数据中违规敏感内容进行有效监管，包括但不限于不良引导相关的图像或文字内容，以及版权图标等。由于直播和短视频数据是爆发式增长的，无法通过人工逐一审核的方式来实现这些海量数据的监管，因此目前提出了一种基于深度学习大数据驱动的违规检测方法，来实现对海量视频数据的自动化审核。

2、但由于上述违规检测方法，一般采用的是端到端的检测算法，并进行场景领域的定制化训练和部署。虽然其具备方案成熟和简洁的优点，但其准确率和召回率难以满足高要求的场景，进而容易产生漏检和误检；而且，如果需要达到较高的准确性，所涉及的模型往往参数量大，计算复杂，导致推理部署时资源消耗大且成本高。

技术实现思路

1、有鉴于此，为至少兼顾违规检测模型的准确率和召回率，以在一定程度上减少漏检和误检，同时解决在大规模数据场景下的模型部署成本高的技术问题，本专利技术的目的在于本文档来自技高网...

【技术保护点】

1.一种违规检测模型构建方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型的步骤，包括：

3.根据权利要求1所述的方法，其特征在于，所述根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型的步骤，包括：

4.根据权利要求1～3中任一项所述的方法，其特征在于，所述根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型的步骤，包括：

5.一种违规检测方法，其特征在于，包括：

6.根据权利要求5所述的方法，其特征在于，所述违规检测模型由权利...

【技术特征摘要】

1.一种违规检测模型构建方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型的步骤，包括：

3.根据权利要求1所述的方法，其特征在于，所述根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型的步骤，包括：

4.根据权利要求1～3中任一项所述的方法，其特征在于，所述根据所述第一目标模型和所述第二目标模型，构建得到违规检测模型的步骤，包括：

5.一种违规检测方法，其特征在于，包括：

6.根据权利要求5所述的方法，其特征在于，所述违规检测模型由权利要求2所述的违规检测模型构建方法构建得到；

7.根据权利要求5或6所述的方法，其特征在于，所述违规检测模型由权利要求4所述的违规检测模型构建方法构建得到；

8.根据权利要求7所述的方法，其特征在于，以对应于同一源图像的同一可疑违规区域的预测分类结果和特征信息为一组，在所述第二目标模型输出的预测分类结果和特征信息仅有一组的情况下，所述根据所述特征库、所述预...

【专利技术属性】
技术研发人员：黎官钊，刘袁凯，张文伟，
申请(专利权)人：广州虎牙科技有限公司，
类型：发明
国别省市：