风险视频的检测方法和装置制造方法及图纸

说明书披露一种风险视频的检测方法和装置。所述风险视频的检测方法包括：获取待进行风险检测的视频；从所述视频中提取出代表镜头画面的图像帧作为第一关键图像；从所述视频中提取出包括指定内容的图像帧作为第二关键图像，并确定所述指定内容的类型；将所述第一关键图像与预先存储的非指定内容风险图像集进行比对，得到所述第一关键图像对应的第一比对结果；将所述第二关键图像与预先存储所述类型对应的指定内容风险图像集进行比对，得到所述第二关键图像对应的第二比对结果；根据所述第一比对结果和所述第二比对结果确定所述视频的风险性。采用上述方案可提高视频风险检测准确性。确性。确性。

【技术实现步骤摘要】
风险视频的检测方法和装置


[0001]本申请涉及图像处理
，尤其涉及一种风险视频的检测方法和装置。

技术介绍

[0002]目前，随着视频平台的高速发展，通过视频来分享生活已然成为了现如今热门的分享方式，大量的视频增加了监管的难度。在对视频进行监管时，往往需要先检测出存在风险的视频，然后再对这些存在风险的视频进行警告，下架等处理。由于视频平台中视频内容杂乱，还会存在大量二次创作的视频，使得现有的风险视频检测的准确率较低。

技术实现思路

[0003]有鉴于此，本申请提供一种风险视频的检测方法和装置。
[0004]具体地，本申请是通过如下技术方案实现的：第一方面，本申请提出了一种风险视频的检测方法，该方法包括：获取待进行风险检测的视频；从所述视频中提取出代表镜头画面的图像帧作为第一关键图像；从所述视频中提取出包括指定内容的图像帧作为第二关键图像，并确定所述指定内容的类型；将所述第一关键图像与预先存储的非指定内容风险图像集进行比对，得到所述第一关键图像对应的第一比对结果；将所述第二关键图像与预先存储所述类型对应的指定内容风险图像集进行比对，得到所述第二关键图像对应的第二比对结果；根据所述第一比对结果和所述第二比对结果确定所述视频的风险性。
[0005]可选地，所述从所述视频中提取出代表镜头画面的图像帧，包括：将所述视频中的各图像帧映射到颜色空间，得到各图像帧的颜色特征；根据所述颜色特征从所述视频中提取出代表镜头画面的图像帧。
[0006]可选地，所述根据所述颜色特征从所述视频中提取出代表镜头画面的图像帧，包括：按照图像帧播放时间从前到后的顺序，从所述视频中提取图像帧作为当前图像帧；针对所述当前图像帧，根据所述颜色特征确定所述当前图像帧与相邻图像帧之间的颜色差异；在所述颜色差异大于等于差异阈值的情况下，提取所述当前图像帧作为代表镜头画面的图像帧，并将当前图像帧更新为所述相邻图像帧；在所述颜色差异小于差异阈值的情况下，将当前图像帧更新为所述相邻图像帧。
[0007]可选地，预设有各类型指定内容对应分类模型，所述从所述视频中提取出包括指定内容的图像帧，包括：
将所述视频中的图像帧分别输入各类型指定内容对应的分类模型，通过所述分类模型输出所述图像帧包括对应类型指定内容的概率值；根据所述概率值确定所述图像帧是否包括对应类型的指定内容。
[0008]可选地，所述从所述视频中提取出代表镜头画面的图像帧，包括：在从所述视频中提取出代表镜头画面的图像帧之后，在剩余视频帧中进行包括指定内容图像帧的提取。
[0009]可选地，所述根据所述第一比对结果和所述第二比对结果确定所述视频的风险性，包括：在所述第一比对结果为比对成功的情况下，或在所述第二比对结果为比对成功的情况下，确定所述视频存在风险。
[0010]可选地，所述方法还包括：在所述第一比对结果为比对成功的情况下，将所述第一关键图像存储至所述非指定内容风险图像集中；在所述第二比对结果为比对成功的情况下，将所述第二关键图像存储至所述指定内容风险图像集。
[0011]第二方面，本申请还提供了一种风险视频的检测装置，该装置包括：视频获取模块，用于获取待进行风险检测的视频；镜头画面提取模块，用于从所述视频中提取出代表视频画面的图像帧作为第一关键图像；指定内容提取模块，用于从所述视频中提取出包括指定内容的图像帧作为第二关键图像，并确定所述指定内容的类型；镜头画面比对模块，用于将所述第一关键图像与预先存储的非指定内容风险图像集进行比对，得到所述第一关键图像对应的第一比对结果；指定内容比对模块，用于将所述第二关键图像与预先存储所述类型对应的指定内容风险图像集进行比对，得到所述第二关键图像对应的第二比对结果；结果判断模块，用于根据所述第一比对结果和所述第二比对结果确定所述视频的风险性。
[0012]第三方面，本申请还提供了一种电子设备，该电子设备包括：处理器；用于存储机器可执行指令的存储器；其中，所述处理器通过运行所述可执行指令以实现如前述方法的步骤。
[0013]第四方面，本申请还提供了一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如前述方法的步骤。
[0014]采用上述技术方案，通过第一关键图像和第二关键图像的提取，可从视频中提取出尽可能多的代表视频内容的图像，进而提升视频风险性检测的准确性。此外，将关键图像与对应的风险图像集进行比对，还可有效减少风险图像比对数量，提升视频风险性检测效率。
附图说明
[0015]图1是本申请一示例性实施例示出的一种风险视频的检测方法的流程示意图。
[0016]图2是本申请一示例性实施例示出的一种第一关键图像提取的方法的流程图。
[0017]图3是本申请一示例性实施例示出的一种电子设备的硬件结构图。
[0018]图4是本申请一示例性实施例示出的一种用于风险视频的检测装置的框图。
具体实施方式
[0019]这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
[0020]在本申请使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
[0021]应当理解，尽管在本申请可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本申请范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在
……
时”或“当
……
时”或“响应于确定”。
[0022]视频风险检测可应用在舆情监管等诸多场景中。在进行视频风险检测时，通常会确定待检测视频画面中是否包含风险内容，例如血腥暴力相关的画面，敏感人物，敏感场景等，当确定所述检测视频中包含上述风险内容时，可确定该视频存在风险。
[0023]而有些用户为了规避风险检测，会对视频内容进行二次加工，比如将敏感词汇用图像或者拼音的形式代替，对血腥画面进行变色处理等，若仍采用相关技术中的检测方案，可能会无法检测出这种风险视频，导致风险视频检测的准确性下降。
[0024]例如，用户想要发布某一新闻发布会视频，该新闻发布会由风险人物张三主持，为了躲避视频风险检测，用户将视频中张三头像加了马赛克。如果采用传统的视频风险检测方法，将视频画面与含有张三头像的风险图像进行比对，将无法检测出该视频的风险性，从而降低视频风险检测到本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种风险视频的检测方法，其特征在于，所述方法包括：获取待进行风险检测的视频；从所述视频中提取出代表镜头画面的图像帧作为第一关键图像；从所述视频中提取出包括指定内容的图像帧作为第二关键图像，并确定所述指定内容的类型；将所述第一关键图像与预先存储的非指定内容风险图像集进行比对，得到所述第一关键图像对应的第一比对结果；将所述第二关键图像与预先存储所述类型对应的指定内容风险图像集进行比对，得到所述第二关键图像对应的第二比对结果；根据所述第一比对结果和所述第二比对结果确定所述视频的风险性。2.根据权利要求1所述的方法，其特征在于，所述从所述视频中提取出代表镜头画面的图像帧，包括：将所述视频中的各图像帧映射到颜色空间，得到各图像帧的颜色特征；根据所述颜色特征从所述视频中提取出代表镜头画面的图像帧。3.根据权利要求2所述的方法，其特征在于，所述根据所述颜色特征从所述视频中提取出代表镜头画面的图像帧，包括：按照图像帧播放时间从前到后的顺序，从所述视频中提取图像帧作为当前图像帧；针对所述当前图像帧，根据所述颜色特征确定所述当前图像帧与相邻图像帧之间的颜色差异；在所述颜色差异大于等于差异阈值的情况下，提取所述当前图像帧作为代表镜头画面的图像帧，并将当前图像帧更新为所述相邻图像帧；在所述颜色差异小于差异阈值的情况下，将当前图像帧更新为所述相邻图像帧。4.根据权利要求1所述的方法，其特征在于，预设有各类型指定内容对应分类模型，所述从所述视频中提取出包括指定内容的图像帧，包括：将所述视频中的图像帧分别输入各类型指定内容对应的分类模型，通过所述分类模型输出所述图像帧包括对应类型指定内容的概率值；根据所述概率值确定所述图像帧是否包括对应类型的指定内容。5.根据权利要求1所述的方法，其特征在于，所述从所述视频中提取出代表镜...

【专利技术属性】
技术研发人员：魏海巍，刘凯，
申请(专利权)人：共道网络科技有限公司，
类型：发明
国别省市：