检测方法、装置、系统及计算机可读存储介质制造方法及图纸

本申请实施例提供了一种检测方法、装置、系统及计算机可读存储介质，该方法包括：接收待测数据，并确定待测数据的数据类型；若待测数据的数据类型为文本或图像，根据文本或图像进行数据安全性检测，确定待测数据的安全信息；若待测数据的数据类型为视频，对视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定待测数据的安全信息。该方法实现了对待测数据的实时检测，或者对已经发布的待测数据的检测，大幅度降低了对待测数据进行安全检测的实施难度，提升了安全检测的工作效率。

Detection methods, devices, systems and computer-readable storage media

【技术实现步骤摘要】
检测方法、装置、系统及计算机可读存储介质
本申请涉及计算机
，具体而言，本申请涉及一种检测方法、装置、系统及计算机可读存储介质。
技术介绍
互联网的快速发展给人们带来更多选择和便利的同时，也带来了许多潜在的不安全因素。比如对于媒体工作者而言，在创作发布内容时，包括文字、图片、视频等内容，如何有效规避一些敏感词、敏感人物图片、敏感事件和内容，如何智能、快速的找到问题出处，为媒体工作者提供一个更高效的工作环境；另外纸媒、传媒机构等的已发布服务器，有大量的已发布稿源数据，由于特殊原因，以前安全的内容，现在可能就是有问题的，如何在大量的数据里找出问题稿源，给出问题稿源的位置、问题，解决传媒机构的难题。
技术实现思路
本申请针对现有的方式的缺点，提出一种检测方法、装置、设备及计算机可读存储介质，用以解决如何实现对待测数据进行实时检测，或者对已经发布的待测数据进行检测的问题。第一方面，本申请提供了一种检测方法，应用于第一服务器，包括：接收待测数据，并确定待测数据的数据类型；若待测数据的数据类型为文本或图像，根据文本或图像进行数据安全性检测，确定待测数据的安全信息；若待测数据的数据类型为视频，对视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定待测数据的安全信息。第二方面，本申请提供了一种检测方法，应用于浏览器插件，包括：根据预定的路径，确定待测数据，所述的路径包括待测数据所在网页对应的网址；发送待测数据给第一服务器，以用于第一服务器对待测数据进行数据安全性检测。第三方面，本申请提供了一种检测方法，应用于第二服务器，包括：通过预设的检测模块对第二服务器的目录进行遍历，确定目录对应的待测数据，第二服务器为流媒体发布服务器，目录包括待测数据对应的储存地址；发送待测数据给第一服务器，以用于第一服务器检测待测数据的安全性。第四方面，本申请提供了一种检测装置，应用于第一服务器，其特征在于，包括：第一处理模块，用于接收待测数据，并确定待测数据的数据类型；第二处理模块，用于若待测数据的数据类型为文本或图像，根据文本或图像进行数据安全性检测，确定待测数据的安全信息；第三处理模块，用于若待测数据的数据类型为视频，对视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定待测数据的安全信息。第五方面，本申请提供了一种检测装置，应用于浏览器插件，其特征在于，包括：第四处理模块，用于根据预定的路径，确定待测数据，所述预定的路径包括待测数据所在网页对应的网址；第五处理模块，用于发送待测数据给第一服务器，以用于第一服务器对待测数据进行数据安全性检测。第六方面，本申请提供了一种检测装置，应用于第二服务器，其特征在于，包括：第六处理模块，用于通过预设的检测模块对第二服务器的目录进行遍历，确定目录对应的待测第一数据，第二服务器为流媒体发布服务器，目录包括待测第一数据对应的储存地址；第七处理模块，用于发送待测数据给第一服务器，以用于第一服务器检测待测数据的安全性。第七方面，本申请提供了一种检测系统，其特征在于，包括：第一服务器和SaaS服务器；第一服务器，用于接收待测数据，并确定待测数据的数据类型；若待测数据的数据类型为文本或图像，根据文本或图像进行数据安全性检测，确定待测数据的安全信息；若待测数据的数据类型为视频，对视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定待测数据的安全信息；SaaS服务器，用于更新文本敏感信息库，得到文本敏感信息库的最新版本；将文本敏感信息库的最新版本发送给第一服务器。第八方面，本申请提供了一种计算机可读存储介质，存储有计算机程序，计算机程序被用于执行本申请第一方面、第二方面和第三方面的检测方法。本申请实施例提供的技术方案，至少具有如下有益效果：接收待测数据，并确定待测数据的数据类型；若待测数据的数据类型为文本或图像，根据文本或图像进行数据安全性检测，确定待测数据的安全信息；若待测数据的数据类型为视频，对视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定待测数据的安全信息；如此，实现了将待测数据分类为文本、图像和视频，对文本、图像和视频进行实时检测，或者对已经发布的文本、图像和视频进行检测，确定文本、图像和视频的安全信息，大幅度降低了对待测数据进行安全检测的实施难度，提升了安全检测的工作效率。本申请附加的方面和优点将在下面的描述中部分给出，这些将从下面的描述中变得明显，或通过本申请的实践了解到。附图说明为了更清楚地说明本申请实施例中的技术方案，下面将对本申请实施例描述中所需要使用的附图作简单地介绍。图1为本申请实施例提供的一种检测方法的流程示意图；图2为本申请实施例提供的一种检测系统的结构示意图；图3为本申请实施例提供的另一种检测方法的流程示意图；图4为本申请实施例提供的局域网内基于浏览器插件的数据安全检测的结构示意图；图5为本申请实施例提供的又一种检测方法的流程示意图；图6为本申请实施例提供的局域网内对服务器发布区的数据安全检测的结构示意图；图7为本申请实施例提供的公网上对服务器发布区的数据安全检测的结构示意图；图8为本申请实施例提供的又一种检测方法的流程示意图；图9为本申请实施例提供的又一种检测方法的流程示意图；图10本申请实施例提供的一种检测装置的结构示意图；图11为本申请实施例提供的另一种检测装置的结构示意图；图12为本申请实施例提供的又一种检测装置的结构示意图；图13为本申请实施例提供的一种检测系统的结构示意图。具体实施方式下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本申请，而不能解释为对本专利技术的限制。本
技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是，本申请的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解，当我们称元件被“连接”或“耦接”到另一元件时，它可以直接连接或耦接到其他元件，或者也可以存在中间元件。此外，这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。本
技术人员可以理解，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)，具有与本专利技术所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非像这里一样被特定定义，否则不会用理想化或过于正式的含义来解释。下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图，对本申本文档来自技高网...

【技术保护点】
1.一种检测方法，应用于第一服务器，其特征在于，包括：接收待测数据，并确定所述待测数据的数据类型；若所述待测数据的数据类型为文本或图像，根据所述文本或图像进行数据安全性检测，确定所述待测数据的安全信息；若所述待测数据的数据类型为视频，对所述视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定所述待测数据的安全信息。

【技术特征摘要】
1.一种检测方法，应用于第一服务器，其特征在于，包括：接收待测数据，并确定所述待测数据的数据类型；若所述待测数据的数据类型为文本或图像，根据所述文本或图像进行数据安全性检测，确定所述待测数据的安全信息；若所述待测数据的数据类型为视频，对所述视频进行关键帧提取以及语音识别，并根据提取到的关键帧图像和语音识别出的文本信息进行数据安全性检测，确定所述待测数据的安全信息。2.根据权利要求1所述的方法，其特征在于，在所述确定所述待测数据的安全信息之后，该方法还包括：当检测到所述待测数据存在不安全的数据，发送检测结果给相应终端，以使得所述检测结果在所述终端上以浏览器插件弹出的方式进行显示。3.根据权利要求1所述的方法，其特征在于，所述根据所述文本或图像进行数据安全性检测，确定所述待测数据的安全信息，包括：当所述待测数据为文本，根据所述文本、预置的文本敏感信息库和预设的安全算法，进行文本安全性检测；当所述待测数据为图像，根据所述图像、通过图像深度学习训练库所确定的图像检测模型，进行图像安全性检测。4.根据权利要求3所述的方法，其特征在于，该方法还包括：按照预定的频率，从软件即服务SaaS服务器获取文本敏感信息库的最新版本号；将所述第一服务器的文本敏感信息库的本地版本号与所述最新版本号进行比较，当所述本地版本号不是所述最新版本号，则将所述本地版本号对应的本地版本更新为所述最新版本号对应的最新版本。5.一种检测方法，应用于浏览器插件，其特征在于，包括：根据预定的路径，确定所述待测数据，所述预定的路径包括所述待测数据所在网页对应的网址；发送所述待测数据给第一服务器，以用于所述第一服务器对所述待测数据进行数据安全性检测。6.根据权利要求5所述的方法，其特征在于，在所述发送待测数据给第一服务器之后，该方法还包括：接收所述第一服务器发送的检测结果，将所述检测结果以弹出独立于主页面的子页面方式进行显示。7.一种检测方法，应用于第二服务器，其特征在于，包括：通过预设的检测模块对所述第二服务器的目录进行遍历，确定所述目录对应的待测数据，所述第二服务器为流媒体发布服务器，所述目...

【专利技术属性】
技术研发人员：刘冬，李燕爽，
申请(专利权)人：新华网北京科技有限公司，
类型：发明
国别省市：北京,11