一种基于文字及图片的内容安全过滤方法及系统技术方案

本发明专利技术适用于数据处理技术领域，尤其涉及一种基于文字及图片的内容安全过滤方法及系统，所述方法包括：获取待传输数据；对待核验文字信息进行关键字核查，得到文字安全检测结果；进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；获取接收数据用户权限，对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。本发明专利技术通过对待核验文字信息进行文字核验，从而对文字内容进行检查，进而对图片进行内容识别，根据识别结果确定图片内容，从而完成对图片内容的核查，最终结合用户权限对待核验文字信息和待核验图片信息进行内容屏蔽，以保证数据传输的安全，避免出现信息泄漏的问题。现信息泄漏的问题。现信息泄漏的问题。

【技术实现步骤摘要】
一种基于文字及图片的内容安全过滤方法及系统


[0001]本专利技术属于数据处理
，尤其涉及一种基于文字及图片的内容安全过滤方法及系统。

技术介绍

[0002]信息安全的定义为：为数据处理系统建立和采用的技术、管理上的安全保护，为的是保护计算机硬件、软件、数据不因偶然和恶意的原因而遭到破坏、更改和泄露。
[0003]无论是在办公环境下，还是在平时人们的沟通过程中，均是通过沟通软件来实现的，在沟通软件上，用户可以发送任意图片和文字，并通过沟通软件进行传输和显示。
[0004]但是，对于具有保密要求的用户，不对发送内容进行限制，很容易出现信息泄漏的问题。

技术实现思路

[0005]本专利技术实施例的目的在于提供一种基于文字及图片的内容安全过滤方法，旨在解决对于具有保密要求的用户，不对发送内容进行限制，很容易出现信息泄漏的问题。
[0006]本专利技术实施例是这样实现的，一种基于文字及图片的内容安全过滤方法，其特征在于，所述方法包括：获取待传输数据，所述待传输数据包括待核验文字信息和待核验图片信息；对待核验文字信息进行关键字核查，得到文字安全检测结果；对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。
[0007]优选的，所述对待核验文字信息进行关键字核查，得到文字安全检测结果的步骤，具体包括：查询发送数据用户信息，获取与之对应的核验关键字；逐个调取核验关键字，并对待核验文字信息进行检索，得到检索结果；根据检索结果确定核验关键字出现的位置，确定过滤区间，生成文字安全检测结果。
[0008]优选的，所述对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果的步骤，具体包括：对待核验图片信息进行图像识别，得到图像识别结果；根据图像识别结果查询图像内容数据库，得到图像内容转化数据；对图像内容转化数据进行关键字核查，以得到图片安全监测结果。
[0009]优选的，所述获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理的步骤，具体包
括：获取接收数据用户权限，根据接收数据用户权限对待核验文字信息和待核验图片信息进行内容筛选，得到权限筛选结果；根据文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行内容筛选，得到安全筛选结果；根据权限筛选结果和安全筛选结果对待核验文字信息和待核验图片信息中的相应位置进行屏蔽处理。
[0010]优选的，进行屏蔽处理时，对文字部分以预设字符进行替换。
[0011]优选的，进行屏蔽处理时，对图片部分进行模糊处理。
[0012]本专利技术实施例的另一目的在于提供一种基于文字及图片的内容安全过滤系统，所述系统包括：数据获取模块，用于获取待传输数据，所述待传输数据包括待核验文字信息和待核验图片信息；文字核验模块，用于对待核验文字信息进行关键字核查，得到文字安全检测结果；图片核验模块，用于对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；局部过滤模块，用于获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。
[0013]优选的，所述文字核验模块包括：数据查询单元，用于查询发送数据用户信息，获取与之对应的核验关键字；数据检索单元，用于逐个调取核验关键字，并对待核验文字信息进行检索，得到检索结果；关键字定位单元，用于根据检索结果确定核验关键字出现的位置，确定过滤区间，生成文字安全检测结果。
[0014]优选的，所述图片核验模块包括：图像识别单元，用于对待核验图片信息进行图像识别，得到图像识别结果；内容转化单元，用于根据图像识别结果查询图像内容数据库，得到图像内容转化数据；关键字核验单元，用于对图像内容转化数据进行关键字核查，以得到图片安全监测结果。
[0015]优选的，所述局部过滤模块包括：权限筛选单元，用于获取接收数据用户权限，根据接收数据用户权限对待核验文字信息和待核验图片信息进行内容筛选，得到权限筛选结果；安全筛选单元，用于根据文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行内容筛选，得到安全筛选结果；信息拼比单元，用于根据权限筛选结果和安全筛选结果对待核验文字信息和待核验图片信息中的相应位置进行屏蔽处理。
[0016]本专利技术实施例提供的一种基于文字及图片的内容安全过滤方法，通过对待核验文字信息进行文字核验，从而对文字内容进行检查，进而对图片进行内容识别，根据识别结果
确定图片内容，从而完成对图片内容的核查，最终结合用户权限对待核验文字信息和待核验图片信息进行内容屏蔽，以保证数据传输的安全，避免出现信息泄漏的问题。
附图说明
[0017]图1为本专利技术实施例提供的一种基于文字及图片的内容安全过滤方法的流程图；图2为本专利技术实施例提供的对待核验文字信息进行关键字核查，得到文字安全检测结果的步骤的流程图；图3为本专利技术实施例提供的对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果的步骤的流程图；图4为本专利技术实施例提供的获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理的步骤的流程图；图5为本专利技术实施例提供的一种基于文字及图片的内容安全过滤系统的架构图；图6为本专利技术实施例提供的一种文字核验模块的架构图；图7为本专利技术实施例提供的一种图片核验模块的架构图；图8为本专利技术实施例提供的一种局部过滤模块的架构图。
具体实施方式
[0018]为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限定本专利技术。
[0019]可以理解，本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件，但除非特别说明，这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说，在不脱离本申请的范围的情况下，可以将第一xx脚本称为第二xx脚本，且类似地，可将第二xx脚本称为第一xx脚本。
[0020]无论是在办公环境下，还是在平时人们的沟通过程中，均是通过沟通软件来实现的，在沟通软件上，用户可以发送任意图片和文字，并通过沟通软件进行传输和显示。但是，对于具有保密要求的用户，不对发送内容进行限制，很容易出现信息泄漏的问题。
[0021]本专利技术通过对待核验文字信息进行文字核验，从而对文字内容进行检查，进而对图片进行内容识别，根据识别结果确定图片内容，从而完成对图片内容的核查，最终结合用户权限对待核验文字信息和待核验图片信息进行内容屏蔽，以保证数据传输的安全，避免出现信息泄漏本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于文字及图片的内容安全过滤方法，其特征在于，所述方法包括：获取待传输数据，所述待传输数据包括待核验文字信息和待核验图片信息；对待核验文字信息进行关键字核查，得到文字安全检测结果；对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。2.根据权利要求1所述的基于文字及图片的内容安全过滤方法，其特征在于，所述对待核验文字信息进行关键字核查，得到文字安全检测结果的步骤，具体包括：查询发送数据用户信息，获取与之对应的核验关键字；逐个调取核验关键字，并对待核验文字信息进行检索，得到检索结果；根据检索结果确定核验关键字出现的位置，确定过滤区间，生成文字安全检测结果。3.根据权利要求1所述的基于文字及图片的内容安全过滤方法，其特征在于，所述对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果的步骤，具体包括：对待核验图片信息进行图像识别，得到图像识别结果；根据图像识别结果查询图像内容数据库，得到图像内容转化数据；对图像内容转化数据进行关键字核查，以得到图片安全监测结果。4.根据权利要求1所述的基于文字及图片的内容安全过滤方法，其特征在于，所述获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理的步骤，具体包括：获取接收数据用户权限，根据接收数据用户权限对待核验文字信息和待核验图片信息进行内容筛选，得到权限筛选结果；根据文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行内容筛选，得到安全筛选结果；根据权限筛选结果和安全筛选结果对待核验文字信息和待核验图片信息中的相应位置进行屏蔽处理。5.根据权利要求4所述的基于文字及图片的内容安全过滤方法，其特征在于，进行屏蔽处理时，对文字部分以预设字符进行替换。6...

【专利技术属性】
技术研发人员：计建，
申请(专利权)人：上海天擎天拓软件技术有限公司，
类型：发明
国别省市：