【技术实现步骤摘要】
本专利技术涉及图像处理，尤其涉及一种图像检测方法、设备及存储介质。
技术介绍
1、随着互联网技术的发展，短视频、直播等各种新型用户原创内容在近几年大量增加，促使互联网视频越来越丰富。与此同时，也出现了大量违规视频。
2、而目前对视频进行审核方式，通常可以采用机器学习的方式，首先对训练视频中的图像是否违规及其违规类别进行人工标注，然后将这些图像及相应的违规类别输入到机器学习的模型中进行训练，并利用训练得到的违规识别模型对其他视频内容进行鉴别。
3、然而由于互联网具有快速、开放、即时等特性，往往会导致一些热点违规内容的快速传播。传统的违规识别模型往往只能对训练集中所包括的违规内容进行识别，无法准确识别新增的违规内容，容易出现新的图像内容安全问题。
技术实现思路
1、本专利技术实施例提供了一种图像检测方法、设备及存储介质，无需对图像识别模型进行持续迭代更新，就可以及时识别出待检测图像是否包含新增违规内容进行响应，并且还提高了图像违规检测的准确率。
2、第一方面，本专利技术实施例提供了一种图像检测方法，包括：
3、获取待检测图像；
4、从违规图像数据库中选择出与所述待检测图像相似度符合要求的参考违规图像，所述参考违规图像是指包含违规内容的图像；
5、确定所述参考违规图像对应的第一文本描述；
6、将所述待检测图像输入至第一图像识别模型，获得与所述待检测图像对应的第一特征向量，将所述参考违规图像输入至第二图像识
7、将所述第一文本描述输入至文本识别模型，获得与所述第一文本描述对应的第三特征向量；
8、根据所述第一特征向量、所述第二特征向量以及所述第三特征向量，确定所述待检测图像中是否包含违规内容。
9、第二方面，本专利技术实施例提供了一种图像检测装置，包括：
10、获取模块，用于获取待检测图像；
11、选择模块，用于从违规图像数据库中选择出与所述待检测图像相似度符合要求的参考违规图像，所述参考违规图像是指包含违规内容的图像；
12、第一确定模块，用于确定所述参考违规图像对应的第一文本描述；
13、图像处理模块，用于将所述待检测图像输入至第一图像识别模型，获得与所述待检测图像对应的第一特征向量，将所述参考违规图像输入至第二图像识别模型，获得与所述参考违规图像对应的第二特征向量，所述第一图像识别模型和所述第二图像识别模型是基于不包含违规内容的样本图像训练获得的；
14、文本处理模块，用于将所述第一文本描述输入至文本识别模型，获得与所述第一文本描述对应的第三特征向量；
15、第二确定模块，用于根据所述第一特征向量、所述第二特征向量以及所述第三特征向量，确定所述待检测图像中是否包含违规内容。
16、第三方面，本专利技术实施例提供了一种电子设备，包括：存储器、处理器；其中，所述存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述处理器执行时实现上述第一方面中的图像检测方法。
17、第四方面，本专利技术实施例提供了一种计算机存储介质，用于储存计算机程序，所述计算机程序使计算机执行时实现上述第一方面中的图像检测方法。
18、本实施例提供的图像检测方案中，通过从违规图像数据库中选择出与待检测图像相似度符合要求的参考违规图像，确定参考违规图像对应的第一文本描述，并利用第一图像识别模型对待检测图像进行处理，获得与待检测图像对应的第一特征向量，利用第二图像识别模型对参考违规图像进行处理，获得与参考违规图像对应的第二特征向量，利用文本识别模型对参考图像对应的第一文本描述进行处理，获得与第一文本描述对应的第三特征向量，其中，第一图像识别模型和第二图像识别模型是基于不包含违规内容的样本图像训练获得的。最后，根据第一特征向量、第二特征向量以及第三特征向量，确定待检测图像中是否包含违规内容。
19、在上述方案中，通过从违规数据库中选择出与待检测图像相似度符合要求的参考违规图像，即对待检测图像进行了违规内容的粗检测，而后再结合参考违规图像以及参考违规图像对应的第一文本描述，从多个角度对待检测图像进行违规内容的精准检测，可以使得图像违规检测结果更准确，提高了图像违规检测准确率。另外，由于第一图像识别模型和第二图像识别模型并不是基于包含违规内容的样本图像训练获得的，那么当出现新增违规内容时，无需对图像识别模型进行持续迭代更新，也能够及时对新增违规内容进行响应。因此，在利用第一图像识别模型和第二图像识别模型对待检测图像进行检测时，可以及时检测待检测图像是否包含新增违规内容，以避免出现新的图像内容安全问题。
本文档来自技高网...【技术保护点】
1.一种图像检测方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述违规图像数据库中包括第一类别的违规图像，所述从违规图像数据库中选择出与所述待检测图像相似度符合要求的参考违规图像，包括：
3.根据权利要求2所述的方法，其特征在于，所述方法还包括：
4.根据权利要求1所述的方法，其特征在于，所述违规图像数据库中包含已知的全部类别的违规图像；所述从违规图像数据库中选择出与所述待检测图像相似度符合要求的参考违规图像，包括：
5.根据权利要求1所述的方法，其特征在于，所述根据所述第一特征向量、所述第二特征向量以及所述第三特征向量，确定所述待检测图像是否为违规图像，包括：
6.根据权利要求5所述的方法，其特征在于，所述根据所述第一特征向量、所述第二特征向量以及所述第三特征向量，确定所述待检测图像对应的违规分数，包括：
7.根据权利要求1所述的方法，其特征在于，所述方法还包括：
8.根据权利要求7所述的方法，其特征在于，所述根据所述第一相似度以及所述第二相似度，训练所述第一图像识别模型、
9.一种电子设备，其特征在于，包括：存储器、处理器；其中，所述存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述处理器执行时实现如权利要求1-8中任一项所述的图像检测方法。
10.一种非暂时性机器可读存储介质，其特征在于，所述非暂时性机器可读存储介质上存储有可执行代码，当所述可执行代码被电子设备的处理器执行时，使所述处理器执行如权利要求1至8中任一项所述的图像检测方法。
...【技术特征摘要】
1.一种图像检测方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述违规图像数据库中包括第一类别的违规图像，所述从违规图像数据库中选择出与所述待检测图像相似度符合要求的参考违规图像，包括：
3.根据权利要求2所述的方法，其特征在于，所述方法还包括：
4.根据权利要求1所述的方法，其特征在于，所述违规图像数据库中包含已知的全部类别的违规图像；所述从违规图像数据库中选择出与所述待检测图像相似度符合要求的参考违规图像，包括：
5.根据权利要求1所述的方法，其特征在于，所述根据所述第一特征向量、所述第二特征向量以及所述第三特征向量，确定所述待检测图像是否为违规图像，包括：
6.根据权利要求5所述的方法，其特征在于，所述根据所述第一特征向量、所述第二特...
【专利技术属性】
技术研发人员：武继龙，
申请(专利权)人：北京五八信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。