一种强鲁棒性的图像内容审查保护方法和系统技术方案

本发明专利技术提供一种强鲁棒性的图像内容审查保护方法和系统，具体操作为接收用户上传的图像，获取用户的信息；对图像进行统一尺寸的调节；对调节后的图像直接进行图像审核；得到原图像审核结果；对调节后的图像进行内容处理，其中，内容处理是采用了一种高效强鲁棒性的中值滤波器方法；再将内容处理后的图像进行图像审核，得到新图像审核结果；对比步骤原图像审核结果和新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。针对容易被不法分子滥用缩放攻击，躲避公众平台内容审查，传播不良信息的行为，通过一种高效强鲁棒性的中值滤波器方法，有效抵御缩放攻击的躲避行为，从而保障公众的平台内容安全。从而保障公众的平台内容安全。从而保障公众的平台内容安全。

【技术实现步骤摘要】
一种强鲁棒性的图像内容审查保护方法和系统


[0001]本专利技术涉及信息安全领域，特别涉及一种强鲁棒性的图像内容审查保护方法和系统。

技术介绍

[0002]图像缩放是机器学习中常见的预处理步骤。主流的深度学习框架TensorFlow、Caffe、PyTorch分别采用图像库tf.image， OpenCV， Pillow，各个图像库采用如nearest，bilinear，bicubic，lanczos，area等缩放算法。由于许多学习算法需要固定大小的输入，所以在大多数基于机器学习的图像系统中，缩放是必须的步骤。
[0003]然而，缩放算法容易受到攻击，并且可能被滥用来欺骗基于机器学习的图像系统。参阅图1，缩放攻击通过对源图像A进行轻微扰动后生成的图像B，使得它在缩放到特定维度时，缩放后的版本匹配目标图像C。这在平台的内容审查中，很容易被不法分子利用缩放攻击，上传看似正常的图像，普通用户下载后，缩放到某个图像尺度，显示的却是包含不良的信息的图像，这对平台造成恶劣的影响。
[0004]缩放攻击的抵御方法常见于图像隐写技术中，水印技本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种强鲁棒性的图像内容审查保护方法，其特征在于，包括如下步骤：S1、接收用户上传的图像，获取用户的信息；S2、根据用户的信息，检查用户是否符合可上传图像的要求；若符合，则进入S3；反之，不予响应；S3、对图像进行统一尺寸的调节；S4、对步骤S3中调节后的图像直接进行图像审核；得到原图像审核结果；S5、对步骤S3中调节后的图像进行内容处理，再将内容处理后的图像进行图像审核，得到新图像审核结果；S6、对比步骤S4中的原图像审核结果和步骤S5中的新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。2.如权利要求1所述的一种强鲁棒性的图像内容审查保护方法，其特征在于：步骤S2具体包括如下子步骤：S21、检查用户ip地址是否在黑名单内，若是，则不予响应；反之，进入S22；S22、统计该用户的提交次数，判断是否超过单个用户容许提交的最大次数，若超过，则将该用户加入黑名单；反之，进入步骤S3。3.如权利要求1所述的一种强鲁棒性的图像内容审查保护方法，其特征在于：步骤S5的内容处理具体包括如下子步骤：S51、将图像分为等间距的若干行和若干列，根据行数从上往下依次标号；根据列数从左往右依次标号；S52、设置滑动窗口的大小，在图像上选取滑动窗口，所述滑动窗口的初始位置为第0行第0列；S53、判断滑动窗口内的最右边一列是否为图像的最后一列；若是，则进入步骤S54；若不是，进入步骤S55；S54、判断滑动窗口内的最下边一行是否为图像的最后一行；若是；则结束图像内容处理；若不是，将滑动窗口向下移动一行，以该行作为起始点，清空中值计算记录，进入S56；S55、查看是否存在中值计算记录；若不存在，进入步骤S56...

【专利技术属性】
技术研发人员：黎海燕，白冰，邹涛，
申请(专利权)人：之江实验室，
类型：发明
国别省市：