内容检测方法和系统技术方案

本说明书提供的内容检测方法和系统，在获取目标内容的目标内容图像，并在目标内容图像中提取出多个连续子空间对应的空间图像后，多个连续子空间包括轮廓区域和至少一个关键点对应的关键点区域，该轮廓区域包括目标内容图像中除关键点区域以外的区域，然后，基于多个连续子空间之间的连接关系，对空间图像进行特征提取，以得到目标融合特征和多个连续子空间中每一子空间的空间特征，以及基于目标融合特征和空间特征，确定目标内容的风险检测结果，并输出风险检测结果；该方案可以提升内容检测的准确率。的准确率。的准确率。

【技术实现步骤摘要】
内容检测方法和系统


[0001]本说明书涉及内容检测领域，尤其涉及一种内容检测方法和系统。

技术介绍

[0002]近年来，随着互联网技术的飞速发展，内容生成方式越来越便捷，使得网络上的内容越来越多。而这些内容中往往包含着存在风险的内容，比如，虚假或伪造的内容。这些风险内容往往会对舆论造成巨大的误导作用，因此需要对内容进行风险检测。现有的内容检测方式主要通过部署在云侧或端侧的内容检测模型进行检测。
[0003]在对现有技术的研究和实践过程中，本申请的专利技术人发现现有的内容检测方式往往在内容图像的所有区域进行统一的特征建模，然而，实际上虚假或伪造的内容在生成时，不同区域的篡改可能性是不同的，而且篡改以后的线索表现也不同，使得提取出的用于风险检测的特征准确率较低，因此，导致内容检测的准确率较低。

技术实现思路

[0004]本说明书提供一种准确率更高的内容检测方法和系统。
[0005]第一方面，本说明书提供一种内容检测方法，包括：获取目标内容对应的目标内容图像，并在所述目标内容图像中提取出多个连续子空间对应的空间图像，所述多个连续子空间包括轮廓区域和至少一个关键点对应的关键点区域，所述轮廓区域包括所述目标内容图像中除所述关键点区域以外的区域；基于所述多个连续子空间之间的连接关系，对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间的空间特征，所述目标融合特征为所述空间特征融合后对应的特征；以及基于所述目标融合特征和所述空间特征，确定所述目标内容的风险检测结果，并输出所述风险检测结果。
[0006]在一些实施例中，所述至少一个关键点包括面部部位中至少一个部位对应的面部关键点。
[0007]在一些实施例中，所述获取目标内容对应的目标内容图像，包括：获取目标内容对应的原始内容图像；以及对所述原始内容图像进行面部对齐，得到所述目标内容图像。
[0008]在一些实施例中，所述对所述原始内容图像进行面部对齐，得到所述目标内容图像，包括：对所述原始内容图像进行面部检测；在所述原始内容图像的面部检测通过时，在所述原始内容图像中提取出面部区域对应的至少一个初始关键点；以及基于所述至少一个初始关键点的位置信息，将所述原始内容图像中的面部区域与预设面部模板进行对齐，以得到所述目标内容图像。
[0009]在一些实施例中，所述在所述目标内容图像中提取出多个连续子空间的空间图像，包括：获取所述目标内容图像中的所述至少一个关键点；基于所述至少一个关键点，在所述目标内容图像中分割出至少一个面部部位对应的区域图像，得到至少一个面部部位图像；以及将所述目标内容图像中除所述面部部位图像以外的区域图像作为面部轮廓图像，并将所述面部部位图像和所述面部轮廓图像作为所述多个连续子空间的空间图像。
[0010]在一些实施例中，所述对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间对应的空间特征，包括：基于所述每一子空间的空间类型，确定所述多个连续子空间之间的连接关系；以及基于所述连接关系，采用内容检测模型对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间的空间特征。
[0011]在一些实施例中，所述内容检测模型包括内容检测网络和图网络；以及所述采用内容检测模型对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间的空间特征，包括：采用所述内容检测网络对所述空间图像进行特征提取，得到所述每一子空间的初始空间特征，并将所述初始空间特征进行融合，得到初始融合特征，基于所述连接关系，将所述初始空间特征和所述初始融合特征分别作为节点构建连接网络图，以及基于所述连接网络图，采用所述图网络分别对所述初始空间特征和所述初始融合特征进行提纯，以得到所述目标融合特征和所述每一子空间的空间特征。
[0012]在一些实施例中，所述连接网络图包括所述初始空间特征对应的第一节点和所述初始融合特征对应的第二节点；以及所述采用所述图网络分别对所述初始空间特征和所述初始融合特征进行提纯，以得到所述目标融合特征和所述每一子空间对应的空间特征，包括：在所述连接网络图中选取出每一所述节点对应的邻节点，基于所述图网络对应的预设信息传递函数和所述第一节点对应的所述邻节点，对所述初始空间特征进行提纯，以得到所述每一子空间的空间特征，以及基于所述预设信息传递函数和所述第二节点对应的所述邻节点，对所述初始融合特征进行提纯，得到所述目标融合特征。
[0013]在一些实施例中，所述内容检测模型的训练包括以下步骤：对预设内容检测网络进行训练，得到初始内容检测网络，并对所述初始内容检测网络进行动态压缩，得到所述内容检测网络；以及对预设图网络进行训练，得到所述图网络，并将所述内容检测网络和所述图网络作为所述内容检测模型。
[0014]在一些实施例中，所述预设内容检测网络包括特征提取子网络、特征融合子网络和风险分类子网络；以及所述对预设内容检测网络进行训练，得到初始内容检测网络，包括：获取所述每一子空间的第一空间图像样本，并采用所述特征提取子网络对所述第一空间图像样本进行特征提取，得到第一样本空间特征，采用所述特征融合子网络将所述第一样本空间特征进行融合，得到第一样本融合特征，并采用所述风险分类子网络确定所述第一样本空间特征对应的第一预测风险类别和所述第二样本融合特征对应的第二预测风险类别，以及基于所述第一预测风险类别和所述第二预测风险类别，对所述预设内容检测网络进行收敛，得到所述初始内容检测网络。
[0015]在一些实施例中，所述对所述预设内容检测网络进行收敛，得到所述初始内容检测网络，包括：获取所述第一空间图像样本的第一标注风险类别，并将所述第一标注风险类别与所述第一预测风险类别进行对比，以得到第一独立分类损失信息；将所述第一标注风险类别与所述第二预测风险类别进行对比，以得到第一融合分类损失信息；以及将所述第一独立分类损失信息和所述第一融合分类损失信息进行融合，并基于融合后的目标分类损失信息对所述预设内容检测网络进行收敛，得到所述初始内容检测网络。
[0016]在一些实施例中，所述对所述初始内容检测网络进行动态压缩，得到所述内容检测网络，包括：在所述初始内容检测网络中的每一网络层后添加压缩层，得到候选内容检测
网络，所述压缩层包括批归一化层和预设尺寸的目标卷积层；获取所述每一子空间的第二空间图像样本，并基于所述第二空间图像样本对所述候选内容检测网络进行训练，得到训练后的当前内容检测网络；获取所述当前内容检测网络中每一所述批归一化层的特征通道权重，并基于所述特征通道权重对所述当前内容检测网络进行压缩；以及将所述目标卷积层与压缩后的内容检测压缩网络中的卷积层进行线性叠加，得到所述内容检测网络。
[0017]在一些实施例中，所述基于所述第二空间图像样本对所述候选内容检测网络进行训练，得到训练后的当前内容检测网络，包括：采用所述候选内容检测网络对所述第二空间图像样本进行特征提取，得到第二样本空间特征和所述第二样本空间特征对应的所述批本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种内容检测方法，包括：获取目标内容对应的目标内容图像，并在所述目标内容图像中提取出多个连续子空间对应的空间图像，所述多个连续子空间包括轮廓区域和至少一个关键点对应的关键点区域，所述轮廓区域包括所述目标内容图像中除所述关键点区域以外的区域；基于所述多个连续子空间之间的连接关系，对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间的空间特征，所述目标融合特征为所述空间特征融合后对应的特征；以及基于所述目标融合特征和所述空间特征，确定所述目标内容的风险检测结果，并输出所述风险检测结果。2.根据权利要求1所述的内容检测方法，其中，所述至少一个关键点包括面部部位中至少一个部位对应的面部关键点。3.根据权利要求1所述的内容检测方法，其中，所述获取目标内容对应的目标内容图像，包括：获取目标内容对应的原始内容图像；以及对所述原始内容图像进行面部对齐，得到所述目标内容图像。4.根据权利要求3所述的内容检测方法，其中，所述对所述原始内容图像进行面部对齐，得到所述目标内容图像，包括：对所述原始内容图像进行面部检测；在所述原始内容图像的面部检测通过时，在所述原始内容图像中提取出面部区域对应的至少一个初始关键点；以及基于所述至少一个初始关键点的位置信息，将所述原始内容图像中的面部区域与预设面部模板进行对齐，以得到所述目标内容图像。5.根据权利要求1所述的内容检测方法，其中，所述在所述目标内容图像中提取出多个连续子空间的空间图像，包括：获取所述目标内容图像中的所述至少一个关键点；基于所述至少一个关键点，在所述目标内容图像中分割出至少一个面部部位对应的区域图像，得到至少一个面部部位图像；以及将所述目标内容图像中除所述面部部位图像以外的区域图像作为面部轮廓图像，并将所述面部部位图像和所述面部轮廓图像作为所述多个连续子空间的空间图像。6.根据权利要求1所述的内容检测方法，其中，所述对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间对应的空间特征，包括：基于所述每一子空间的空间类型，确定所述多个连续子空间之间的连接关系；以及基于所述连接关系，采用内容检测模型对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间的空间特征。7.根据权利要求6所述的内容检测方法，其中，所述内容检测模型包括内容检测网络和图网络；以及所述采用内容检测模型对所述空间图像进行特征提取，以得到目标融合特征和所述多个连续子空间中每一子空间的空间特征，包括：采用所述内容检测网络对所述空间图像进行特征提取，得到所述每一子空间的初始空
间特征，并将所述初始空间特征进行融合，得到初始融合特征，基于所述连接关系，将所述初始空间特征和所述初始融合特征分别作为节点构建连接网络图，以及基于所述连接网络图，采用所述图网络分别对所述初始空间特征和所述初始融合特征进行提纯，以得到所述目标融合特征和所述每一子空间的空间特征。8.根据权利要求7所述的内容检测方法，其中，所述连接网络图包括所述初始空间特征对应的第一节点和所述初始融合特征对应的第二节点；以及所述采用所述图网络分别对所述初始空间特征和所述初始融合特征进行提纯，以得到所述目标融合特征和所述每一子空间对应的空间特征，包括：在所述连接网络图中选取出每一所述节点对应的邻节点，基于所述图网络对应的预设信息传递函数和所述第一节点对应的所述邻节点，对所述初始空间特征进行提纯，以得到所述每一子空间的空间特征，以及基于所述预设信息传递函数和所述第二节点对应的所述邻节点，对所述初始融合特征进行提纯，得到所述目标融合特征。9.根据权利要求6所述的内容检测方法，其中，所述内容检测模型的训练包括以下步骤：对预设内容检测网络进行训练，得到初始内容检测网络，并对所述初始内容检测网络进行动态压缩，得到所述内容检测网络；以及对预设图网络进行训练，得到所述图网络，并将所述内容检测网络和所述图网络作为所述内容检测模型。10.根据权利要求9所述的内容检测方法，其中，所述预设内容检测网络包括特征提取子网络、特征融合子网络和风险分类子网络；以及所述对预设内容检测网络进行训练，得到初始内容检测网络，包括：获取所述每一子空间的第一空间图像样本，并采用所述特征提取子网络对所述第一空间图像样本进行特征提取，得到第一样本空间特征，采用所述特征融合子网络将所述第一样本空间特征进行融合，得到第一样本融合特征，并采用所述风险分类子网络确定所述第一样本空间特征对应的第一预测风险类别和所述第二样本融合特征对应的第二预测风险类别，以及基于所述第一预测风险类别和所述第二预测风险类别，对所述预设内容检测网络进行收敛，得到所述初始内容检测网络。11.根据权利要求10所述的内容检测方法，其中，所述对所述预设内容检测网络进行收敛，得到所述初始内容检测网络，包括：获取所述第一空间图像样本的第一标注风险类别，并将所述第一标注风险类别与所述第一预测风险类别进行对比，以得到第一独立分类损失信息；将所述第一标注风险类别与所述第二预测风险类别进行对比，以得到第一融合分类损失信息；以及将所述第一独立分类损失信息和所述第一融合分类损失信息进行融合，并基于融合后的目标分类损失信息对所述...

【专利技术属性】
技术研发人员：曹佳炯，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：