一种图片审核方法、装置、电子设备及存储介质制造方法及图纸

本公开公开了一种图片审核方法、装置、电子设备及存储介质，涉及人工智能技术领域，尤其涉及计算机视觉和深度学习方面。具体实现方案为：将待审核的图片输入至通用审核模型中的各个通用子模型中，得到各个通用子模型输出的审核结果；根据各个通用子模型输出的审核结果，确定待审核的图片在风险审核模型中对应的至少一个风险子模型；将待审核的图片输入至该至少一个风险子模型中的各个风险子模型中，得到各个风险子模型输出的审核结果；基于各个风险子模型输出的审核结果判定出待审核的图片的最终审核结果。本申请实施例可以有效地提高图片审核的效率，同时还可以保证图片审核的准确率。

【技术实现步骤摘要】
一种图片审核方法、装置、电子设备及存储介质
本公开涉及人工智能
，进一步涉及计算机视觉和深度学习方面，尤其涉及一种图片审核方法、装置、电子设备及存储介质。
技术介绍
随着科学技术的发展与进步，在图片内容审核等风控工作中，主流的审核算法已变成通过计算机视觉模型对图片进行人工智能(ArtificialIntelligence，简称AI)审核。然而，单个计算机视觉模型的性能往往很有限，实际工作中会根据风险类型等不同的原因拆分出若干个模型，每个模型只能识别部分风险。采用现有技术中的图片审核方法，审核效率和准确率往往不能兼得。
技术实现思路
本申请提供了一种图片审核方法、装置、电子设备及存储介质，可以有效地提高图片审核的效率，同时还可以保证图片审核的准确率。根据本申请的第一方面，提供了一种图片审核方法，所述方法包括：将待审核的图片输入至通用审核模型中的各个通用子模型中，得到各个通用子模型输出的审核结果；其中，所述通用审核模型包括至少一个通用子模型；根据各个通用子模型输出的审核结果，确定所述待审核的本文档来自技高网...

【技术保护点】
1.一种图片审核方法，所述方法包括：/n将待审核的图片输入至通用审核模型中的各个通用子模型中，得到各个通用子模型输出的审核结果；其中，所述通用审核模型包括至少一个通用子模型；/n根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型；其中，所述风险审核模型包括至少一个风险子模型；/n将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中，得到各个风险子模型输出的审核结果；/n基于各个风险子模型输出的审核结果判定出所述待审核的图片的最终审核结果。/n

【技术特征摘要】
1.一种图片审核方法，所述方法包括：
将待审核的图片输入至通用审核模型中的各个通用子模型中，得到各个通用子模型输出的审核结果；其中，所述通用审核模型包括至少一个通用子模型；
根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型；其中，所述风险审核模型包括至少一个风险子模型；
将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中，得到各个风险子模型输出的审核结果；
基于各个风险子模型输出的审核结果判定出所述待审核的图片的最终审核结果。


2.根据权利要求1所述的方法，所述通用审核模型包括但不限于以下通用子模型的至少其中之一：卡通/真实子模型、人物检测子模型、人体属性子模型、文字识别子模型；所述风险审核模型包括但不限于以下风险子模型的至少其中之一：卡通低俗识别子模型、真人低俗识别子模型、图片敏感标志物子模型、图片纯文本子模型、虚假夸大子模型、敏感文字识别子模型、文字低俗识别子模型。


3.根据权利要求1所述的方法，所述根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型，包括：
若所述通用审核子模型中的至少一个通用子模型检测出所述待审核的图片中存在人物信息，则确定所述待审核的图片在所述风险审核模型中对应的风险子模型为与所述人物信息相关联的模型。


4.根据权利要求1所述的方法，所述根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型，包括：
若所述通用审核子模型中的至少一个通用子模型检测出所述待审核的图像中存在文字信息，则确定所述待审核的图片在所述风险审核模型中对应的风险子模型为与所述文字信息相关联的模型。


5.根据权利要求1所述的方法，所述根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型，包括：
若所述通用审核子模型中的至少一个通用子模型检测出所述待审核的图片为卡通图片或者真实图片，则确定所述待审核的图片在所述风险审核模型中对应的风险子模型为所述卡通图片相关联的模型或者所述真实图片相关联的模型。


6.根据权利要求1所述的方法，在所述将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中之前，所述方法还包括：
根据各个通用子模型输出的审核结果，将所述待审核的图片在所述风险审核模型中对应的至少一个风险子模型进行微调，得到所述待审核的图片在所述风险审核模型中对应的至少一个微调后的风险子模型；执行所述将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中的操作。


7.根据权利要求1所述的方法，所述基于各个风险子模型输出的审核结果判定出所述待审核的图片的最终审核结果，包括：
若各个风险子模型输出的审核结果中存在至少两个审核结果满足预先设置的合并条件，则将各个风险子模型输出的审核结果中的至少两个审核结果进行合并，得到合并后的审核结果；
基于所述合并后的审核结果判定出所述待审核的图片的最终审核结果。


8.一种图片审核装置，所述装置包括：通用审核模块、确定模型、风险审核模块和判定模块；其中，
所述通用审核模块，用于将待审核的图片输...

【专利技术属性】
技术研发人员：邓远达，张言，胡旭，刘星，梁晓旭，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：北京;11