本申请公开了一种图片漏检处理方法及其相关装置，通过违规审核模型对第一待审核图片进行图片内容审核，当存在图片漏检时，对违规审核模型进行优化训练；将漏检图片的特征向量保存至预置特征数据库中，得到更新后特征数据库；在接收到第二待审核图片，且违规审核模型优化训练未完成时，通过违规审核模型对第二待审核图片进行图片内容审核，并将第二待审核图片的特征向量与更新后特征数据库中的特征向量进行比对，得到第二待审核图片的最终审核结果；在接收到第二待审核图片，且违规审核模型优化训练完成时，采用优化训练后的违规审核模型对第二待审核图片进行图片内容审核，改善了现有审核模型容易出现漏检的情况，导致违规图片传播的技术问题。片传播的技术问题。片传播的技术问题。
【技术实现步骤摘要】
一种图片漏检处理方法及其相关装置
[0001]本申请涉及图片审核
，尤其涉及一种图片漏检处理方法及其相关装置。
技术介绍
[0002]随着网上内容发布管理力度加强及深度学习在计算机视觉领域的飞速发展，基于深度学习的图片内容审核成为了各大内容发布平台的研究热点。但当前的深度学习模型还无法实现100％识别所有的违规图片，存在违规图片漏验风险。一旦违规图片被发布出来，将会对公司及社会产生不良的影响。在发生违规图片漏验时，若采用常规的方法，基本要经过以下几个步骤：采集数据，训练模型，测试模型，上线部署。而违规图片短时间难以收集，并且模型训练时间较长，从而导致在训练模型期间出现漏检事故而无法及时响应。因此，如何避免图像漏检以及时避免违规图片传播为目前亟待解决的问题。
技术实现思路
[0003]本申请提供了一种图片漏检处理方法及其相关装置，用于改善现有审核模型容易出现漏检的情况，导致违规图片传播的技术问题。
[0004]有鉴于此，本申请第一方面提供了一种图片漏检处理方法，包括：
[0005]在接收到第一待审核图片时，通过违规审核模型对所述第一待审核图片进行图片内容审核，得到所述第一待审核图片的审核结果；
[0006]当根据所述第一待审核图片的审核结果确定存在图片漏检时，对所述违规审核模型进行优化训练，并获取漏检图片，所述漏检图片为违规图片；
[0007]将所述漏检图片的特征向量保存至预置特征数据库中，得到更新后特征数据库；
[0008]在接收到第二待审核图片，且所述违规审核模型优化训练未完成时，通过所述违规审核模型对所述第二待审核图片进行图片内容审核得到审核结果，并将所述第二待审核图片的特征向量与所述更新后特征数据库中的特征向量进行比对得到审核结果，通过所述违规审核模型审核得到的审核结果和特征比对得到的审核结果确定所述第二待审核图片的最终审核结果；
[0009]在接收到第二待审核图片，且所述违规审核模型优化训练完成时，采用优化训练后的违规审核模型对所述第二待审核图片进行图片内容审核，得到所述第二待审核图片的审核结果。
[0010]可选的，所述将所述漏检图片的特征向量保存至预置特征数据库中，得到更新后特征数据库，包括：
[0011]获取所述漏检图片的特征向量和场景类别；
[0012]判断预置特征数据库中是否存在所述漏检图片对应的场景类别，若存在，则将所述漏检图片的特征向量保存至所述预置特征数据库中该漏检图片对应的场景类别下的特征列表中，得到更新后特征数据库，若不存在，则在所述预置特征数据中增加所述漏检图片对应的场景类别，并将所述漏检图片的特征向量保存至该场景类别下的特征列表中。
[0013]可选的，所述将所述第二待审核图片的特征向量与所述更新后特征数据库中的特征向量进行比对得到审核结果，包括：
[0014]获取所述第二待审核图片的特征向量和场景类别；
[0015]计算所述第二待审核图片的特征向量与所述更新后特征数据库中该第二待审核图片对应的场景类别下的特征列表中的特征向量的特征相似度；
[0016]当所述特征相似度大于预设相似度阈值时，得到所述第二待审核图片为违规图片的审核结果；
[0017]当所述特征相似度小于或等于预设相似度阈值时，得到所述第二待审核图片为正常图片的审核结果。
[0018]可选的，在所述违规审核模型优化训练完后，所述方法还包括：
[0019]对所述更新后特征数据库进行图片特征出库操作。
[0020]本申请第二方面提供了一种图片漏检处理系统，包括：
[0021]第一审核模块，用于在接收到第一待审核图片时，通过违规审核模型对所述第一待审核图片进行图片内容审核，得到所述第一待审核图片的审核结果；
[0022]训练和获取模块，用于当根据所述第一待审核图片的审核结果确定存在图片漏检时，对所述违规审核模型进行优化训练，并获取漏检图片，所述漏检图片为违规图片；
[0023]保存模块，用于将所述漏检图片的特征向量保存至预置特征数据库中，得到更新后特征数据库；
[0024]比对模块，用于在接收到第二待审核图片，且所述违规审核模型优化训练未完成时，通过所述违规审核模型对所述第二待审核图片进行图片内容审核得到审核结果，并将所述第二待审核图片的特征向量与所述更新后特征数据库中的特征向量进行比对得到审核结果，通过所述违规审核模型审核得到的审核结果和特征比对得到的审核结果确定所述第二待审核图片的最终审核结果；
[0025]第二审核模块，用于在接收到第二待审核图片，且所述违规审核模型优化训练完成时，采用优化训练后的违规审核模型对所述第二待审核图片进行图片内容审核，得到所述第二待审核图片的审核结果。
[0026]可选的，所述保存模块，具体用于：
[0027]获取所述漏检图片的特征向量和场景类别；
[0028]判断预置特征数据库中是否存在所述漏检图片对应的场景类别，若存在，则将所述漏检图片的特征向量保存至所述预置特征数据库中该漏检图片对应的场景类别下的特征列表中，得到更新后特征数据库，若不存在，则在所述预置特征数据中增加所述漏检图片对应的场景类别，并将所述漏检图片的特征向量保存至该场景类别下的特征列表中。
[0029]可选的，所述将所述第二待审核图片的特征向量与所述更新后特征数据库中的特征向量进行比对得到审核结果，包括：
[0030]在接收到第二待审核图片，且所述违规审核模型优化训练未完成时，获取所述第二待审核图片的特征向量和场景类别；
[0031]计算所述第二待审核图片的特征向量与所述更新后特征数据库中该第二待审核图片对应的场景类别下的特征列表中的特征向量的特征相似度；
[0032]当所述特征相似度大于预设相似度阈值时，得到所述第二待审核图片为违规图片
的审核结果；
[0033]当所述特征相似度小于或等于预设相似度阈值时，得到所述第二待审核图片为正常图片的审核结果。
[0034]可选的，在所述违规审核模型优化训练完后，还包括：特征出库模块，用于：
[0035]对所述更新后特征数据库进行图片特征出库操作。
[0036]本申请第三方面提供了一种图片漏检处理设备，所述设备包括处理器以及存储器；
[0037]所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
[0038]所述处理器用于根据所述程序代码中的指令执行第一方面任一种所述的图片漏检处理方法。
[0039]本申请第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码被处理器执行时实现第一方面任一种所述的图片漏检处理方法。
[0040]从以上技术方案可以看出，本申请具有以下优点：
[0041]本申请提供了一种图片漏检处理方法，包括：在接收到第一待审核图片时，通过违规审核模型对第一待审核图片进行图片内容审核，得到第一待审核图片的审核结果；当根据第一待审核本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种图片漏检处理方法，其特征在于，包括：在接收到第一待审核图片时，通过违规审核模型对所述第一待审核图片进行图片内容审核，得到所述第一待审核图片的审核结果；当根据所述第一待审核图片的审核结果确定存在图片漏检时，对所述违规审核模型进行优化训练，并获取漏检图片，所述漏检图片为违规图片；将所述漏检图片的特征向量保存至预置特征数据库中，得到更新后特征数据库；在接收到第二待审核图片，且所述违规审核模型优化训练未完成时，通过所述违规审核模型对所述第二待审核图片进行图片内容审核得到审核结果，并将所述第二待审核图片的特征向量与所述更新后特征数据库中的特征向量进行比对得到审核结果，通过所述违规审核模型审核得到的审核结果和特征比对得到的审核结果确定所述第二待审核图片的最终审核结果；在接收到第二待审核图片，且所述违规审核模型优化训练完成时，采用优化训练后的违规审核模型对所述第二待审核图片进行图片内容审核，得到所述第二待审核图片的审核结果。2.根据权利要求1所述的图片漏检处理方法，其特征在于，所述将所述漏检图片的特征向量保存至预置特征数据库中，得到更新后特征数据库，包括：获取所述漏检图片的特征向量和场景类别；判断预置特征数据库中是否存在所述漏检图片对应的场景类别，若存在，则将所述漏检图片的特征向量保存至所述预置特征数据库中该漏检图片对应的场景类别下的特征列表中，得到更新后特征数据库，若不存在，则在所述预置特征数据中增加所述漏检图片对应的场景类别，并将所述漏检图片的特征向量保存至该场景类别下的特征列表中。3.根据权利要求2所述的图片审核方法，其特征在于，所述将所述第二待审核图片的特征向量与所述更新后特征数据库中的特征向量进行比对得到审核结果，包括：获取所述第二待审核图片的特征向量和场景类别；计算所述第二待审核图片的特征向量与所述更新后特征数据库中该第二待审核图片对应的场景类别下的特征列表中的特征向量的特征相似度；当所述特征相似度大于预设相似度阈值时，得到所述第二待审核图片为违规图片的审核结果；当所述特征相似度小于或等于预设相似度阈值时，得到所述第二待审核图片为正常图片的审核结果。4.根据权利要求1所述的图片审核方法，其特征在于，在所述违规审核模型优化训练完后，所述方法还包括：对所述更新后特征数据库进行图片特征出库操作。5.一种图片漏检处理系统，其特征在于，包括：第一审核模块，用于在接收到第一待审核图片时，通过违规审核模型对所述第一待审核图片进行图片内容审核，得到所述第一待审核图片的审核结果；训练和获取模块，用于当根据所述第一待审核图片的审核结果确定存在图片漏检时，对所述违规审核模型进行优化训练，...
【专利技术属性】
技术研发人员：孙立奋，许超，陈培实，李敬昭，毛绍嵘，杨珉，刘金铭，
申请(专利权)人：天翼数字生活科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。