【技术实现步骤摘要】
本申请涉及人工智能，尤其涉及一种图像审核方法、装置、系统、电子设备及存储介质。
技术介绍
1、随着信息技术的发展，各类图像在网络等信息媒体上层出不穷、广泛传播。为了规范网络环境，需要对图像进行审核和过滤，比如，针对网络图像的发布，需要设置图像筛选规则，当图像上传网络之前，按照上述的图像筛选规则进行图像审核，从中选出满足图像筛选规则的图像，对这些图像进行屏蔽或删除。
2、常规的智能图像审核方案通常是借助光学字符识别工具，对待审核图像中的文本进行识别，然后通过文本来判断图像是否满足预先设定的图像筛选规则。这种方案虽然提高了审核效率，但是其审核准确度不高，非法人员将文本转化成图形即可避免图像被筛查，因此，需要更准确、更高效的图像审核方案。
技术实现思路
1、有鉴于此，本申请实施例致力于提供一种图像审核方法、装置、系统、电子设备及存储介质，能够对图像进行准确审核，且具有更高的普适性。
2、根据本申请实施例的第一方面，提供了一种图像审核方法，包括：
3、获取待审核图像中的文本内容，以及获取所述待审核图像的图像内容的描述信息；
4、根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，所述任务指令用于触发执行图像审核任务，所述图像审核任务用于根据所述文本内容和所述描述信息，判断所述待审核图像是否满足所述图像筛选规则；
5、通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则。
6、可选的，通过执行所述
7、可选的，所述根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，包括：
8、根据图像筛选规则，确定图像审核任务的描述文本；
9、按照预设的图像审核任务指令格式，对所述文本内容、所述描述信息、所述图像审核任务的描述文本，以及所述图像筛选规则进行组合，得到任务指令。
10、可选的，所述待审核图像为具有设定类型内容的图像，所述获取所述待审核图像的图像内容的描述信息，包括：
11、将所述待审核图像输入预先训练的图文对齐模型，得到对所述待审核图像的图像内容的描述信息；
12、其中，所述图文对齐模型以具有所述设定类型内容的图像为输入，以生成输入图像的图像内容的描述信息为训练任务而训练得到。
13、可选的，所述获取待审核图像中的文本内容，包括：
14、将待审核图像输入预先训练的文本识别模型，得到所述待审核图像的文本内容。
15、可选的，所述方法还包括：
16、基于所述待审核图像以及所述大语言模型确定的所述待审核图像是否满足所述图像筛选规则的审核结果，构建模型优化样本数据；
17、利用所述模型优化样本数据，对所述大语言模型、所述图文对齐模型和所述文本识别模型中的至少一个进行参数优化。
18、可选的，获取待审核图像中的文本内容，以及获取所述待审核图像的图像内容的描述信息，根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，以及，通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则，包括：
19、将待审核图像输入预先构建的图像审核模型，确定所述待审核图像是否满足所述图像筛选规则；
20、其中，所述图像审核模型包括文本识别子模型、图文对齐子模型、指令生成模块和预训练的大语言模型；
21、所述文本识别子模型用于获取所述待审核图像的文本内容；
22、所述图文对齐子模型用于获取所述待审核图像的图像内容的描述信息；
23、所述指令生成模块，用于根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，并将生成的任务指令输入所述大语言模型；
24、所述大语言模型用于通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则。
25、根据本申请实施例的第二方面，提供了一种图像审核装置，包括：
26、信息获取单元，用于获取待审核图像中的文本内容，以及获取所述待审核图像的图像内容的描述信息；
27、指令生成单元，用于根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，所述任务指令用于触发执行图像审核任务，所述图像审核任务用于根据所述文本内容和所述描述信息，判断所述待审核图像是否满足所述图像筛选规则；
28、图像审核单元，用于通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则。
29、根据本申请实施例的第三方面，提供了一种图像审核系统，包括：
30、文本识别模型，用于获取待审核图像中的文本内容；
31、图文对齐模型，用于获取所述待审核图像的图像内容的描述信息；
32、指令生成模块，用于根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，所述任务指令用于触发执行图像审核任务，所述图像审核任务用于根据所述文本内容和所述描述信息，判断所述待审核图像是否满足所述图像筛选规则；
33、任务执行单元，用于通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则。
34、根据本申请实施例的第四方面，提供了一种电子设备，包括存储器和处理器；
35、所述存储器与所述处理器连接，用于存储程序；
36、所述处理器用于通过运行所述存储器中的程序，实现如本申请实施例的第一方面中任意一项所述的图像审核方法。
37、根据本申请实施例的第五方面，提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时，实现如本申请实施例的第一方面中任意一项所述的图像审核方法。
38、本申请提出的图像审核方法，能够同时获取图像中的文本内容，以及获取图像内容描述，然后，将图像文本内容和图像内容描述与图像筛选规则生成任务指令，指示执行图像审核任务，该图像审核任务用于根据图像文本内容和图像内容描述来判断图像是否满足图像筛选规则。这一过程综合利用了图像中的文本内容和图像内容对图像进行审核，其审核依据更丰富、更多元化，因此能够取得更高的审核准确度。
本文档来自技高网...【技术保护点】
1.一种图像审核方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则，包括：由预训练的大语言模型执行所述任务指令，以确定所述待审核图像是否满足所述图像筛选规则。
3.根据权利要求1或2所述的方法，其特征在于，所述根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，包括：
4.根据权利要求1或2所述的方法，其特征在于，所述待审核图像为具有设定类型内容的图像，所述获取所述待审核图像的图像内容的描述信息，包括：
5.根据权利要求4所述的方法，其特征在于，所述获取待审核图像中的文本内容，包括：
6.根据权利要求5所述的方法，其特征在于，所述方法还包括：
7.根据权利要求1所述的方法，其特征在于，获取待审核图像中的文本内容，以及获取所述待审核图像的图像内容的描述信息，根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，以及，通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则，包括：
8.一种
9.一种图像审核系统，其特征在于，包括：
10.一种电子设备，其特征在于，包括存储器和处理器；
11.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时，实现如权利要求1至7中任意一项所述的图像审核方法。
...【技术特征摘要】
1.一种图像审核方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，通过执行所述任务指令，确定所述待审核图像是否满足所述图像筛选规则，包括：由预训练的大语言模型执行所述任务指令，以确定所述待审核图像是否满足所述图像筛选规则。
3.根据权利要求1或2所述的方法，其特征在于，所述根据所述文本内容、所述描述信息，以及图像筛选规则，生成任务指令，包括：
4.根据权利要求1或2所述的方法，其特征在于，所述待审核图像为具有设定类型内容的图像，所述获取所述待审核图像的图像内容的描述信息，包括：
5.根据权利要求4所述的方法，其特征在于，所述获取待审核图像中的文本内容，包括：
6.根据...
【专利技术属性】
技术研发人员：杨强，储昭斌，姚沈涛，
申请(专利权)人：科大讯飞股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。