视频中敏感标志的识别方法及装置制造方法及图纸

本发明专利技术公开了一种视频中敏感标志的识别方法及装置，所述方法包括：获取待审核视频，通过机器预识别系统对所述待审核视频进行敏感标志识别，输出所述待审核视频含有敏感标志的得分；判断所述得分是有大于或等于预定输出阈值，如果判断为是，则将所述待审核视频发送到人工审核窗口以进行人工确认本发明专利技术能够进一步提高视频审核工作的审核效率，从而构建更安全的网络环境。

Recognition method and device of sensitive mark in video

【技术实现步骤摘要】
视频中敏感标志的识别方法及装置
本专利技术涉及计算机
，尤其涉及一种视频中敏感标志的识别方法及装置。
技术介绍
随着互联网技术发展，人们获取信息的需求除了海量的图片和文字，蕴含信息量更大的视频也成为人们获取信息的重要途径。恐怖主义组织例如ISIS、东突和藏独等也基于此，找到了在网络中，通过视频传播极端思想的新途径。因此，在海量的网络视频中找出敏感视频，建立安全的网络环境意义重大。敏感视频中的敏感标志是用来标识该视频内容的重要信息，对检测敏感视频有非常重要的作用。本专利技术主要关注通过敏感标志识别来确定敏感视频的方法。由于视频包含的信息量远远大于图像，对识别视频中敏感标志方法的效果和效率有更高的要求。现有技术实现方案有两种：一种是开发纯人工审核系统，人工对待审视频逐一审核，找到敏感视频。另一种是开发计算机自动审核系统。主要包含两个阶段：第一阶段，人工收集标定训练数据；第二阶段，利用训练数据，训练识别模型。首先针对敏感标志，人工设计具有区分行的表观特征，然后基于传统模式识别方法Adaboost训练分类器或通过模板匹配进行识别。面对海量的视频，纯人工审核系统虽然识别准确率高，但是审核成本高、效率低下。基于计算机自动审核系统，审核成本低、效率高，但是准确率很大程度依赖于敏感标志识别算法。而现有的识别算法，一方面，由于数据的敏感性，只靠人工收集和标定训练数据并不充足。同时，依赖于人工手动设计的特征，采用传统的模式识别方法识别敏感标志识别能力有限。此外，即使采用目前最先进的视觉识别技术，也很难做到识别召回率和准确率都很高。
技术实现思路
本专利技术实施例提供一种视频中敏感标志的识别方法及装置，用以解决现有技术中的上述问题。本专利技术实施例提供一种视频中敏感标志的识别方法，包括：获取待审核视频，通过机器预识别系统对所述待审核视频进行敏感标志识别，输出所述待审核视频含有敏感标志的得分；判断所述得分是有大于或等于预定输出阈值，如果判断为是，则将所述待审核视频发送到人工审核窗口以进行人工确认。本专利技术实施例还提供一种视频中敏感标志的识别装置，具体包括：识别模块，用于获取待审核视频，通过机器预识别系统对所述待审核视频进行敏感标志识别，输出所述待审核视频含有敏感标志的得分；判断模块，用于判断所述得分是有大于或等于预定输出阈值，如果判断为是，则将所述待审核视频发送到人工审核窗口以进行人工确认。采用本专利技术实施例，能够进一步提高视频审核工作的审核效率，从而构建更安全的网络环境。上述说明仅是本专利技术技术方案的概述，为了能够更清楚了解本专利技术的技术手段，而可依照说明书的内容予以实施，并且为了让本专利技术的上述和其它目的、特征和优点能够更明显易懂，以下特举本专利技术的具体实施方式。附图说明通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本专利技术的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：图1是本专利技术实施例的视频中敏感标志的识别方法的流程图；图2是本专利技术实施例的人机结合视频中敏感标志识别方法的详细流程图；图3是本专利技术实施例的机器预识别系统处理流程的示意图；图4是本专利技术实施例的判断关键帧含有敏感标志的概率的示意图；图5是本专利技术实施例进行敏感标志训练的准敏感标志图的示意图；图6是本专利技术实施例进行敏感标志训练的正常视频图像的示意图；图7是本专利技术实施例进行敏感标志训练的合成后的训练数据示意图；图8是本专利技术实施例的视频中敏感标志的识别装置的示意图。具体实施方式下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。方法实施例根据本专利技术实施例，提供了一种视频中敏感标志的识别方法，图1是本专利技术实施例的视频中敏感标志的识别方法的流程图，如图1所示，根据本专利技术实施例的视频中敏感标志的识别方法具体包括：步骤101，获取待审核视频，通过机器预识别系统对待审核视频进行敏感标志识别，输出待审核视频含有敏感标志的得分；步骤101具体包括如下处理：步骤1，获取待审核视频，从待审核视频中抽取视频关键帧；在实际应用中，可以每隔预定时间，从待审核视频中抽取一帧，作为视频关键帧。步骤2，依次对每张视频关键帧进行敏感标志识别，判断视频关键帧中包含敏感标志的概率；在实际应用中，可以进行如下处理：获取一张视频关键帧，采用候选区域产生网络RPN获取视频关键帧中可能含有敏感标志的预定个数的候选区域，对于每个候选区域，从原视频关键帧中进行抠图缩放，通过分类网络判断含有敏感标志的概率。执行上述处理，需要预先对RPN和分类网络进行训练，具体地，可以采用人工收集并标准的敏感标志训练数据、实际中的敏感标志训练数据、和/或利用标准敏感标志图和一些正常视频中的图合成的敏感标志训练数据，对RPN和分类网络进行训练。步骤3，将所有视频关键帧含有敏感标志的概率进行综合，得到并输出待审核视频含有敏感标志的得分。具体地，当计算了视频关键帧含有敏感标志的概率后，判断待审核视频中是否连续N张以上视频关键帧都大于预定筛选阈值，如果判断为是，则将连续视频关键帧的数目作为该待审核视频含有敏感标志的得分并输出，否则，该待审核视频的得分为零。步骤102，判断得分是有大于或等于预定输出阈值，如果判断为是，则将待审核视频发送到人工审核窗口以进行人工确认。以下结合附图，对本专利技术实施例的上述技术方案进行详细说明。本专利技术实施例提出一种人机结合视频中敏感标志识别方法。整体流程如图2所示，首先输入一段视频，先经过机器预识别系统，给出是否含有敏感标志的得分，如果得分比较大，然后再人工进一步确认是否含有敏感标志。如图3所示，其中机器预识别系统的流程如下：输入一段视频，抽取视频关键帧，然后对每张关键帧进行识别，判断包含敏感标志的概率，然后将所有关键帧含有敏感标志的概率进行综合，给出整个视频含有敏感标志的得分。接下来将详细介绍上述三方面的内容。(1)关键帧抽取本专利技术实施例中关键帧抽取的目的是为了提高审核效率。这里采用如下简单策略，每隔2s抽取视频中一帧，作为关键帧，用于后续处理。(2)关键帧敏感标志识别判断关键帧含有敏感标志的概率是本专利技术的关键。如图4所示，判断流程如下：输入一张关键帧图像，采用候选区域产生网络(RegionProposalsNetwork，RPN)获取图像中可能含有敏感标志的25个候选区域，然后对于每个候选区域，从原图中抠图缩放，经过一个分类网络判断是否含有敏感标志，如果有，本专利技术实施例还可以再进一步判断是哪种敏感标志。为了高效计算，两种网络的本文档来自技高网...

【技术保护点】
1.一种视频中敏感标志的识别方法，其特征在于，包括：/n获取待审核视频，通过机器预识别系统对所述待审核视频进行敏感标志识别，输出所述待审核视频含有敏感标志的得分；/n判断所述得分是有大于或等于预定输出阈值，如果判断为是，则将所述待审核视频发送到人工审核窗口以进行人工确认。/n

【技术特征摘要】
1.一种视频中敏感标志的识别方法，其特征在于，包括：
获取待审核视频，通过机器预识别系统对所述待审核视频进行敏感标志识别，输出所述待审核视频含有敏感标志的得分；
判断所述得分是有大于或等于预定输出阈值，如果判断为是，则将所述待审核视频发送到人工审核窗口以进行人工确认。


2.如权利要求1所述的方法，其特征在于，获取待审核视频，通过机器预识别系统对所述待审核视频进行敏感标志识别，输出所述待审核视频含有敏感标志的得分具体包括：
获取待审核视频，从所述待审核视频中抽取视频关键帧；
依次对每张视频关键帧进行敏感标志识别，判断所述视频关键帧中包含敏感标志的概率；
将所有视频关键帧含有敏感标志的概率进行综合，得到并输出所述待审核视频含有敏感标志的得分。


3.如权利要求2所述的方法，其特征在于，从所述待审核视频中抽取视频关键帧具体包括：
每隔预定时间，从所述待审核视频中抽取一帧，作为所述视频关键帧。


4.如权利要求2所述的方法，其特征在于，依次对每张视频关键帧进行敏感标志识别，判断所述视频关键帧中包含敏感标志的概率具体包括：
获取一张视频关键帧，采用候选区域产生网络RPN获取所述视频关键帧中可能含有敏感标志的预定个数的候选区域，对于每个候选区域，从原视频关键帧中进行抠图缩放，通过分类网络判断含有敏感标志的概率。


5.如权利要求4所述的方法，其特征在于，所述方法进一步包括：
采用人工收集并标准的敏感标志训练数据、实际中的敏感标志训练数据、和/或利用标准敏感标志图和一些正常视频中的图合成的敏感标志训练数据，对所述RPN和分类网络进行训练。


6.如权利要求2所述的方法，其特征在于，将所有视频关键帧含有敏感标志的概率进行综合，得到并输出所述待审核视频含有敏感标志的得分具体包括：
当计算了视频关键帧含有敏感标志的概率后，判断待审核视频中是否连续N张以上视频关键帧都大于预定筛选阈值，...

【专利技术属性】
技术研发人员：李扬曦，佟玲玲，井雅琪，缪亚男，段运强，胡燕林，孙旷怡，
申请(专利权)人：国家计算机网络与信息安全管理中心，
类型：发明
国别省市：北京;11