面向云存储的不良图片检测方法、装置及存储介质制造方法及图纸

本发明专利技术涉及云存储技术，提供了一种面向云存储的不良图片检测方法、装置及存储介质。该方法包括：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；利用预先确定的不良图片识别系统对所述每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库；从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；接收对抽取图片的人工审核结果，将所述第一判定阈值调整为第二判定阈值；将待识别图片输入所述不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出不良图片类型。利用本发明专利技术，可以减少需要人工审核的图片数量，提高不良图片检测效率。

Bad image detection methods, devices and storage media for cloud storage

The invention relates to cloud storage technology, and provides a bad image detection method, device and storage medium for cloud storage. The method includes: setting the first decision threshold of each type of bad picture for each storage space of the cloud storage system; identifying the picture stored in each storage space by using the pre-determined bad picture recognition system, importing the image whose recognition score is greater than the first decision threshold into the preset database; and providing each storage space from the preset database. Random extraction of preset number of various types of pictures; receiving the results of manual auditing of the extracted pictures, adjusting the first decision threshold to the second decision threshold; inputting the pictures to be recognized into the bad picture recognition system, determining the pictures to be detected whose recognition score is greater than the second decision threshold as bad pictures, and outputting the bad picture type. By using the invention, the number of pictures requiring manual examination can be reduced, and the detection efficiency of bad pictures can be improved.

【技术实现步骤摘要】
面向云存储的不良图片检测方法、装置及存储介质
本专利技术涉及图片识别
，尤其涉及一种面向云存储的不良图片检测方法、装置及计算机可读存储介质。
技术介绍
云存储(cloudstorage)是在云计算(cloudcomputing)概念上延伸和发展出来的概念，可以实现规模效应，提高存储效率，降低运维成本。随着云存储技术的发展和推广，越来越多的企业与个人用户选择将大量图片上传并保存在云存储系统，传统的人工审核的方式显然已不适用于云存储系统的图片审核，如何检测和过滤云存储系统海量图片中的不良图片(例如涉黄、涉暴、涉政等)，已成为研究者密切关注的问题。目前，有些云平台已开始利用不良图片识别系统对图片进行识别，然而，现有的不良图片识别系统都是根据预设的判定阈值将逻辑回归值(图片属于不良图片的概率)映射到二元类别，决定是否删除图片或图片是否需要复审。如果所述判定阈值过高，则不良图片的漏检率将很高，无法达到图片审核的目的；如果所述判定阈值过低，则误删图片数量或需要复审的图片数量太大，大大增加了不良图片检测成本。
技术实现思路
鉴于以上原因，有必要提供一种面向云存储的不良图片检测方法、装置及计算机可读存储介质，用来识别多种不同类型的不良图片，提高不良图片检测的效率和质量，降低不良图片检测成本。为实现上述目的，本专利技术提供一种面向云存储的不良图片检测方法，应用于电子装置，该方法包括：设置步骤：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；识别步骤：利用预先确定的不良图片识别系统对云存储系统的每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库，将大于所述第一判定阈值的识别分值对应的不良图片的类型作为该预设数据库中图片的类型标签；抽取步骤：从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；计算步骤：接收对抽取图片的人工审核结果，计算所述每个存储空间中人工审核结果与所述类型标签相同的图片的识别分值的平均值，将该平均值作为该存储空间不良图片的第二判定阈值；及检测步骤：将待检测图片输入所述预先确定的不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出该待检测图片的不良图片类型。优选地，所述第二判定阈值的计算公式为：a＝sum(a1：ax)/X，b＝sum(b1：by)/Y，c＝sum(c1：cz)/Z其中，a表示某存储空间第一类型不良图片的第二判定阈值，b表示该存储空间第二类型不良图片的第二判定阈值，c表示该存储空间第三类型不良图片的第二判定阈值，sum(a1：ax)表示该存储空间X张第一类型不良图片识别分值之和，sum(b1：by)表示该存储空间Y张第二类型不良图片识别分值之和，sum(c1：cz)表示该存储空间Z张第三类型不良图片识别分值之和。优选地，该方法还包括：将人工审核结果与所述类型标签不同的图片存储至预设样本库，每隔预设时间间隔利用所述预设样本库对所述不良图片识别系统进行训练更新。优选地，该方法还包括：为所述第二判定阈值设置更新周期，根据人工审核结果定期更新所述第二判定阈值。优选地，该方法还包括：在将图片判定为不良图片后，从所述云存储系统的对应存储空间中删除该图片。本专利技术还提供一种电子装置，该电子装置包括存储器和处理器，所述存储器中包括不良图片检测程序，该不良图片检测程序被所述处理器执行时实现如下步骤：设置步骤：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；识别步骤：利用预先确定的不良图片识别系统对云存储系统的每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库，将大于所述第一判定阈值的识别分值对应的不良图片的类型作为该预设数据库中图片的类型标签；抽取步骤：从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；计算步骤：接收对抽取图片的人工审核结果，计算所述每个存储空间中人工审核结果与所述类型标签相同的图片的识别分值的平均值，将该平均值作为该存储空间不良图片的第二判定阈值；及检测步骤：将待检测图片输入所述预先确定的不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出该待检测图片的不良图片类型。优选地，所述第二判定阈值的计算公式为：a＝sum(a1：ax)/X，b＝sum(b1：by)/Y，c＝sum(c1：cz)/Z其中，a表示某存储空间第一类型不良图片的第二判定阈值，b表示该存储空间第二类型不良图片的第二判定阈值，c表示该存储空间第三类型不良图片的第二判定阈值，sum(a1：ax)表示该存储空间X张第一类型不良图片识别分值之和，sum(b1：by)表示该存储空间Y张第二类型不良图片识别分值之和，sum(c1：cz)表示该存储空间Z张第三类型不良图片识别分值之和。优选地，所述不良图片检测程序被所述处理器执行时还实现如下步骤：将人工审核结果与所述类型标签不同的图片存储至预设样本库，每隔预设时间间隔利用所述预设样本库对所述不良图片识别系统进行训练更新。优选地，所述不良图片检测程序被所述处理器执行时还实现如下步骤：在将图片判定为不良图片后，从所述云存储系统的对应存储空间中删除该图片。本专利技术还提供一种计算机可读存储介质，该计算机可读存储介质中存储有不良图片检测程序，该不良图片检测程序被处理器执行时实现如上所述的不良图片检测方法的任意步骤。本专利技术提供的面向云存储的不良图片检测方法、装置及计算机可读存储介质，通过为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值，利用预先确定的不良图片识别系统将识别分值大于所述第一判定阈值的疑似不良图片导入预设数据库，然后根据人工审核结果利用预先确定的第二判定阈值的计算公式得到不良图片的第二判定阈值，最后将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，并对不良图片执行删除操作。因为可以为云存储系统的每个存储空间单独设置第一判定阈值，每个存储空间的第二判定阈值也可能各不相同，所以本专利技术可以根据实际需求灵活地对云存储系统中的图片进行管理和检测。通过对不良图片判定阈值的调整及其合理值的确定，本专利技术还可以降低不良图片检测成本，提高不良图片检测的质量和效率。附图说明图1为本专利技术电子装置一实施例的应用环境示意图；图2为图1中不良图片检测程序一实施例的程序模块图；图3为本专利技术面向云存储的不良图片检测方法第一实施例的流程示意图；图4为本专利技术面向云存储的不良图片检测方法第二实施例的流程示意图。本专利技术目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。具体实施方式为了使本专利技术的目的、技术方案和优点更加清楚明白，下面将结合若干附图及实施例，对本专利技术进行进一步的详细说明。应当理解的是，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限定本专利技术。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本专利技术保护的范围。本专利技术提供一种电子装置。参照图1所示，为本专利技术电子装置1一实施例的应用环境示意图。在该实施例中，电子装置1与云存储系统3通过网络2连接，与不良图片识别系统5通过网络4链接，网络2和网络4可以是局域网、广域网、城域网或互联网等等类型的网络，可本文档来自技高网...

【技术保护点】
1.一种面向云存储的不良图片检测方法，其特征在于，该方法包括：设置步骤：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；识别步骤：利用预先确定的不良图片识别系统对云存储系统的每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库，将大于所述第一判定阈值的识别分值对应的不良图片的类型作为该预设数据库中图片的类型标签；抽取步骤：从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；计算步骤：接收对抽取图片的人工审核结果，计算所述每个存储空间中人工审核结果与所述类型标签相同的图片的识别分值的平均值，将该平均值作为该存储空间不良图片的第二判定阈值；及检测步骤：将待检测图片输入所述预先确定的不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出该待检测图片的不良图片类型。

【技术特征摘要】
1.一种面向云存储的不良图片检测方法，其特征在于，该方法包括：设置步骤：为云存储系统的每个存储空间设置每种类型不良图片的第一判定阈值；识别步骤：利用预先确定的不良图片识别系统对云存储系统的每个存储空间中存储的图片进行识别，将识别分值大于所述第一判定阈值的图片导入预设数据库，将大于所述第一判定阈值的识别分值对应的不良图片的类型作为该预设数据库中图片的类型标签；抽取步骤：从所述预设数据库中为所述每个存储空间随机抽取预设数量的各种类型的图片；计算步骤：接收对抽取图片的人工审核结果，计算所述每个存储空间中人工审核结果与所述类型标签相同的图片的识别分值的平均值，将该平均值作为该存储空间不良图片的第二判定阈值；及检测步骤：将待检测图片输入所述预先确定的不良图片识别系统，将识别分值大于所述第二判定阈值的待检测图片判定为不良图片，输出该待检测图片的不良图片类型。2.如权利要求1所述的不良图片检测方法，其特征在于，所述第二判定阈值的计算公式为：a＝sum(a1：ax)/X，b＝sum(b1：by)/Y，c＝sum(c1：cz)/Z其中，a表示某存储空间第一类型不良图片的第二判定阈值，b表示该存储空间第二类型不良图片的第二判定阈值，c表示该存储空间第三类型不良图片的第二判定阈值，sum(a1：ax)表示该存储空间X张第一类型不良图片识别分值之和，sum(b1：by)表示该存储空间Y张第二类型不良图片识别分值之和，sum(c1：cz)表示该存储空间Z张第三类型不良图片识别分值之和。3.如权利要求1或2所述的不良图片检测方法，其特征在于，该方法还包括：将人工审核结果与所述类型标签不同的图片存储至预设样本库，每隔预设时间间隔利用所述预设样本库对所述不良图片识别系统进行训练更新。4.如权利要求1或2所述的不良图片检测方法，其特征在于，该方法还包括：为所述第二判定阈值设置更新周期，根据人工审核结果定期更新所述第二判定阈值。5.如权利要求1或2所述的不良图片检测方法，其特征在于，该方法还包括：在将图片判定为不良图片后，从所述云存储系统的对应存储空间中删除该图片。6.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中包括不良图片检测程...

【专利技术属性】
技术研发人员：杨勇，
申请(专利权)人：平安科技深圳有限公司，
类型：发明
国别省市：广东,44