一种基于规则引擎的多模内容安全审核系统框架及方法技术方案

本发明专利技术公开了一种基于规则引擎的多模内容安全审核系统框架及方法，涉及图像识别技术领域。包括图片模块、分类器、规则配置平台模块、规则库模块以及规则执行引擎模块，图片模块的输出端电连接有分类器的输入端，分类器的输出端电连接有规则执行引擎模块的输入端，规则配置平台模块的输出端电连接有规则库模块的输入端，规则库模块的输出端电连接有规则执行引擎模块的输入端。充分利用深度学习算法模型推理出的多模标签信息，结合大量的专家规则，极大的提升图像的识别的灵活性，能够弥补深度学习算法模型在应对内容监管政策快速变化时无法及时响应的缺点，我们只需要更新规则库中相关规则信息，即可产出匹配最新监管政策的内容审核系统。

【技术实现步骤摘要】
一种基于规则引擎的多模内容安全审核系统框架及方法
本专利技术属于图像识别
，涉及一种基于规则引擎的多模内容安全审核系统框架，还涉及该基于规则引擎的多模内容安全审核系统框架的审核方法。
技术介绍
机器的图像识别技术通过分类并提取重要特征而排出多余的信息来识别图像，机器所提取的这些特征优势会非常明显，有时很普通，这在很大程度上影响了机器的识别速率，总之，在计算机视觉识别中，图像的内容通常是图像特征进行描述，对图片识别技术方式而言，图片的识别一般采用大数据标签学习与相似度对比技术，从而识别涉黄、暴恐等内容。对于政治人物检测识别则使用AI系统中的人脸识别系统，人脸识别技术被广泛采用的区域特征分析算法，通过深度学习技术从视频和照片中提取人像特征点，利用生物统计学的原理进行分析建立数学模型，即人脸特征模板。在已建成的人脸特征模板与被测者的人的面像进行特征分析，根据分析的结果来给出一个相似度值，最终搜索到最佳匹配人脸特征模板，并因此确定个人的身份信息。广义的人脸识别实际包括构建人脸识别系统的一系列相关技术：包括图像采集、人脸检测、特征建模、比对辨识、身份确认等；而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统，传统手段在对内容监管政策快速变化时无法及时响应，难以进行高效的安全审核，存在效率较低的问题，导致效果不佳。
技术实现思路
本专利技术的目的是提供一种基于规则引擎的多模内容安全审核系统框架，以解决传统手段在对内容监管政策快速变化时无法及时响应，难以进行高效的安全审核，存在效率较低的问题。本专利技术的第二个目的是提供上述基于规则引擎的多模内容安全审核系统框架的审核方法。为实现上述目的，本专利技术提供如下技术方案：一种基于规则引擎的多模内容安全审核系统框架，包括图片模块、分类器、规则配置平台模块、规则库模块以及规则执行引擎模块，所述图片模块的输出端电连接有分类器的输入端，所述分类器的输出端电连接有规则执行引擎模块的输入端，所述规则配置平台模块的输出端电连接有规则库模块的输入端，所述规则库模块的输出端电连接有规则执行引擎模块的输入端，所述规则执行引擎模块与图片模块相互电连接。进一步优化本技术方案，所述规则配置平台提供专家规则的编写、校验，配置平台实现两大类规则操作符，分别是逻辑操作符合比较操作符。进一步优化本技术方案，所述逻辑操作符对象的内部有多个约束连接，包括逻辑与&&、逻辑或，所述比较操作符：>,>＝,<,<＝,＝＝,！＝,contains,notcontains,memberof,notmemberof,matches,notmatches。进一步优化本技术方案，所述规则库：存储具体的专家规则，对外提供写入、删除、更新以及查询操作，供规则执行引擎查询全量规则使用。进一步优化本技术方案，所述规则执行引擎：根据规则库中的规则内容构建成rete网络进行模式匹配，其匹配速度与规则数目无关，执行引擎接受一些列事实作为输入，审核场景下是标签信息，如人物标签、场景标签、物体标签、时间信息，输入进过rete网络，得到推理结果，及图像的风险类别及风险系数。进一步优化本技术方案，所述分类器是深度学习模型推理服务，推理得出图片的多模标签信息，如场景、物体、人物。上述基于规则引擎的多模内容安全审核系统框架的审核方法，包括以下步骤：S1、原始图片数据进入到分类器中进行分类，分类器是深度学习模型推理服务，推理得出图片的多模标签信息，如场景、物体、人物；S2、原始图片经过分类器进行标签处理后进入到规则执行引擎模块中，规则执行引擎根据规则库中的规则内容构建成rete网络进行模式匹配，其匹配速度与规则数目无关，执行引擎接受一些列事实作为输入，审核场景下是标签信息，如人物标签、场景标签、物体标签、时间信息，输入进过rete网络，得到推理结果，及图像的风险类别及风险系数；S3、规则配置平台提供专家规则的编写、校验，配置平台实现两大类规则操作符，分别是逻辑操作符合比较操作符，这些信息通过所述规则库进行存储具体的专家规则，对外提供写入、删除、更新以及查询操作，供规则执行引擎查询全量规则使用；S4、图片标签信息通过与规则库存储信息对比，判断图片违规以及风险系数，即可完成安全审核。与现有技术相比，本专利技术具有以下有益效果：本专利技术基于规则引擎的多模内容安全审核系统框架及方法，充分利用深度学习算法模型推理出的多模标签信息，结合大量的专家规则，极大的提升图像的识别的灵活性，能够弥补深度学习算法模型在应对内容监管政策快速变化时无法及时响应的缺点，我们只需要更新规则库中相关规则信息，即可产出匹配最新监管政策的内容审核系统。附图说明图1为本专利技术提出的一种基于规则引擎的多模内容安全审核系统框架构成模块示意图；图2为本专利技术提出的一种基于规则引擎的多模内容安全审核系统框架及方法的处理流程示意图。具体实施方式下面将结合本专利技术的实施例，对本专利技术实施例中的技术方案进行清楚、完整地描述。一种基于规则引擎的多模内容安全审核系统框架，请参考图1所示，包括图片模块、分类器、规则配置平台模块、规则库模块以及规则执行引擎模块，所述图片模块的输出端电连接有分类器的输入端，所述分类器的输出端电连接有规则执行引擎模块的输入端，所述规则配置平台模块的输出端电连接有规则库模块的输入端，所述规则库模块的输出端电连接有规则执行引擎模块的输入端，所述规则执行引擎模块与图片模块相互电连接。具体的，所述规则配置平台提供专家规则的编写、校验，配置平台实现两大类规则操作符，分别是逻辑操作符合比较操作符，所述逻辑操作符对象的内部有多个约束连接，包括逻辑与&&、逻辑或，所述比较操作符：>,>＝,<,<＝,＝＝,！＝,contains,notcontains,memberof,notmemberof,matches,notmatches。具体的，所述规则库：存储具体的专家规则，对外提供写入、删除、更新以及查询操作功能，供规则配置平台实现规则持久化功能，供规则执行引擎查询全量规则使用。具体的，所述规则执行引擎：根据规则库中的规则内容构建成rete网络进行模式匹配，其匹配速度与规则数目无关，执行引擎接受一些列事实作为输入，审核场景下是标签信息，如人物标签、场景标签、物体标签、时间信息，输入进过rete网络，得到推理结果，及图像的风险类别及风险系数。具体的，所述分类器是深度学习模型推理服务，推理得出图片的多模标签信息，如场景、物体、人物。一种基于规则引擎的多模内容安全审核系统框架的审核方法，请参考图1-2所示，包括以下步骤：S1、原始图片数据进入到分类器中进行分类，分类器是深度学习模型推理服务，推理得出图片的多模标签信息，如场景、物体、人物；S2、原始图片经过分类器进行标签处理后进入到规则执行引擎模块中，规则执行引擎根据规则库中本文档来自技高网...

【技术保护点】
1.一种基于规则引擎的多模内容安全审核系统框架，包括图片模块、分类器、规则配置平台模块、规则库模块以及规则执行引擎模块，其特征在于，所述图片模块的输出端电连接有分类器的输入端，所述分类器的输出端电连接有规则执行引擎模块的输入端，所述规则配置平台模块的输出端电连接有规则库模块的输入端，所述规则库模块的输出端电连接有规则执行引擎模块的输入端，所述规则执行引擎模块与图片模块相互电连接。/n

【技术特征摘要】
1.一种基于规则引擎的多模内容安全审核系统框架，包括图片模块、分类器、规则配置平台模块、规则库模块以及规则执行引擎模块，其特征在于，所述图片模块的输出端电连接有分类器的输入端，所述分类器的输出端电连接有规则执行引擎模块的输入端，所述规则配置平台模块的输出端电连接有规则库模块的输入端，所述规则库模块的输出端电连接有规则执行引擎模块的输入端，所述规则执行引擎模块与图片模块相互电连接。


2.根据权利要求1所述的一种基于规则引擎的多模内容安全审核系统框架，其特征在于，所述规则配置平台提供专家规则的编写、校验，配置平台实现两大类规则操作符，分别是逻辑操作符合比较操作符。


3.根据权利要求2所述的一种基于规则引擎的多模内容安全审核系统框架，其特征在于，所述逻辑操作符对象的内部有多个约束连接，包括逻辑与&&、逻辑或，所述比较操作符：>,>＝,<,<＝,＝＝,！＝,contains,notcontains,memberof,notmemberof,matches,notmatches。


4.根据权利要求1所述的一种基于规则引擎的多模内容安全审核系统框架，其特征在于，所述规则库：存储具体的专家规则，对外提供写入、删除、更新以及查询操作，供规则执行引擎查询全量规则使用。


5.根据权利要求1所述的一种基于规则引擎的多模内容安全审核系统框架，其特征在于，所述规则执行引擎：根据规则库中的规则...

【专利技术属性】
技术研发人员：邢青，
申请(专利权)人：号百控股股份有限公司，
类型：发明
国别省市：上海;31