恶意信息的处理方法和装置制造方法及图纸

本发明专利技术实施例提供一种恶意信息的处理方法和装置，该方法包括：接收发送端的第一终端设备发送的信息，根据预先获取的安全规则对信息进行安全检查，确定信息中是否包含恶意信息，恶意信息包括恶意的文字、图片、音频或者视频中的至少一种，若信息中不包含恶意信息，则将信息发送至接收端的第二终端设备，通过该方案可有效防止用户之间恶意的发送信息，减少恶意信息，提高用户体验。

【技术实现步骤摘要】
恶意信息的处理方法和装置
本专利技术涉及计算机
，尤其涉及一种恶意信息的处理方法和装置。
技术介绍
随着移动互联网的发展，移动端日渐成为人与人交流的平台，特别是近几年来聊天软件以及网络建设的飞速发展，网络的成本也越来越低，用户之间的沟通方式也由传统的短信/电话向微信、QQ等主流的聊天软件过渡，导致现在发消息的成本基本为零，与此同时恶意信息(包括各种恶意营销信息，骚扰信息等)也充斥着整个网络。目前存在的恶意信息包括文字、音频、视频、图片等类型的信息。以微信为例，目前存在一种“微信炸群”，具体操作就是用户向群或者个人发送含有恶意信息的消息，使得看到该信息的用户微信“卡死”或者直接崩溃。综上所述，在聊天软件或者其他应用程序中，充斥着恶意信息，已经严重的影响了用户的体验。
技术实现思路
本专利技术提供一种恶意信息的处理方法和装置，用于解决上述的在聊天软件或者其他应用程序中，充斥着恶意信息，已经严重的影响了用户的体验的问题。本专利技术第一方面提供一种恶意信息的处理方法，包括：接收发送端的第一终端设备发送的信息；根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息，所述恶意信息包括恶意的文字、图片、音频或者视频中的至少一种；若所述信息中不包含恶意信息，则将所述信息发送至接收端的第二终端设备。可选的，所述方法还包括：若所述信息包含恶意信息，则将所述信息拦截，并向所述第一终端设备发送警告信息。可选的，所述根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息之前，所述方法还包括：根据所述信息的类型，将所述信息发送至对应的服务器进行校验；接收所述服务器返回的URL；其中，若所述信息异常，则所述URL为空，否则所述URL为所述信息的资源的URL。可选的，所述方法还包括：若所述信息中包含的恶意信息是诈骗信息，则在所述信息中增加提示信息后发送至所述第二终端设备；其中所述提示信息用于提醒用户所述信息中包含诈骗信息。可选的，所述方法还包括：接收终端设备发送的恶意信息上报消息；根据所述恶意信息上报消息更新所述安全规则，所述安全规则中包括过滤文字、图片、音频或者视频中至少一种类型的恶意信息的规则。本专利技术第二方面提供一种恶意信息的处理装置，包括：接收模块，用于接收发送端的第一终端设备发送的信息；处理模块，用于根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息，所述恶意信息包括恶意的文字、图片、音频或者视频中的至少一种；发送模块，用于若所述信息中不包含恶意信息，则将所述信息发送至接收端的第二终端设备。可选的，所述处理模块还用于若所述信息包含恶意信息，则将所述信息拦截；所述发送模块还用于向所述第一终端设备发送警告信息。可选的，所述发送模块还用于根据所述信息的类型，将所述信息发送至对应的服务器进行校验；所述接收模块还用于接收所述服务器返回的统一资源定位符URL；其中，若所述信息异常，则所述URL为空，否则所述URL为所述信息的资源的URL。可选的，所述处理模块还用于若所述信息中包含的恶意信息是诈骗信息，则在所述信息中增加提示信息后通过所述发送模块发送至所述第二终端设备；其中所述提示信息用于提醒用户所述信息中包含诈骗信息。可选的，所述接收模块还用于接收终端设备发送的恶意信息上报消息；所述处理模块还用于根据所述恶意信息上报消息更新所述安全规则，所述安全规则中包括过滤文字、图片、音频或者视频中至少一种类型的恶意信息的规则。本专利技术第三方面提供一种服务器，包括：接收器、处理器、发送器、存储器以及计算机程序；所述计算机程序存储在所述存储器中，所述处理器执行所述计算机程序实现第一方面任一项所述的恶意信息的处理方法。本专利技术第四方面提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，服务器执行所述计算机程序实现第一方面任一项所述的恶意信息的处理方法。本专利技术实施例提供的恶意信息的处理方法和装置，服务器在接收到发送端的第一终端设备发送的信息，根据预先获取的安全规则对信息进行安全检查，确定信息中是否包含恶意信息，恶意信息包括恶意的文字、图片、音频或者视频中的至少一种，若信息中不包含恶意信息，则将信息发送至接收端的第二终端设备，通过该方案可有效防止用户之间恶意的发送信息，减少恶意信息，提高用户体验。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。图1为本专利技术实施例提供的恶意信息的处理方法实施例一的流程图；图2为本专利技术实施例提供的恶意信息的处理方法实施例二的流程图；图3为本专利技术实施例提供的恶意信息的处理方法实施例三的流程图；图4为本专利技术实施例提供的恶意信息的处理方法实施例四的流程图；图5为本专利技术实施例提供的恶意信息的处理方法的一实例的流程示意图；图6为本专利技术实施例提供的恶意信息的处理装置实施例的结构示意图；图7为本专利技术实施例提供的服务器实施例的结构示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本专利技术保护的范围。针对目前通信软件中，用户可能会向其他的用户发送包含协议信息的消息或者信息，给对方造成困扰或者危害，导致用户体验较差。本申请提供的恶意信息的处理方法，应用在应用程序的服务器中，对用户之前发送的信息进行安全检查，过滤其中包含恶意信息的信息，然后再发送给接收端的终端设备中，从而有效的防止用户之间恶意发送信息，减少恶意信息。下面通过几个具体实施方式，对本方案进行详细说明。图1为本专利技术实施例提供的恶意信息的处理方法实施例一的流程图，如图1所示，该恶意信息的处理方法应用在发送端的第一终端设备、应用程序的服务器以及接收端的第二终端设备之间，该恶意信息的处理方法包括以下步骤：S101：接收发送端的第一终端设备发送的信息。在本步骤中，用户根据需求在终端设备中安装能够实现即时通讯或者信息传输的应用程序，以便在需要的时候能够向其他的用户的终端设备通过该应用程序发送信息，然而，在具体应用的过程中，部分用户为了恶意的目的存在向其他用户发送恶意信息的行为，该恶意信息也称为垃圾信息，骚扰信息等。基于此，可在为该应用程序服务的服务器上可设置专门的安全检查过程，对传输的信息进行过滤，具体的，发送端的第一终端设备根据用户的操作，通过该应用程序的客户端发送信息，服务器接收到该第一终端设备发送的信息。S102：根据预先获取的安全规则对信息进行安全检查，确定信息中是否包含恶意信息，恶意信息包括恶意的文字、图片、音频或者视频中的至少一种。在本步骤中，服务器需要预先通过配置或者其他的方式获取到一定的安全规则，该安全规则用来过滤信息中的恶意的文字、恶意的图片、恶意的音频、恶意的视频中的至少一种，服务器在接收到信息之后，将该信息按照该安全规则进行检查过滤本文档来自技高网...

【技术保护点】
1.一种恶意信息的处理方法，其特征在于，包括：接收发送端的第一终端设备发送的信息；根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息，所述恶意信息包括恶意的文字、图片、音频或者视频中的至少一种；若所述信息中不包含恶意信息，则将所述信息发送至接收端的第二终端设备。

【技术特征摘要】
1.一种恶意信息的处理方法，其特征在于，包括：接收发送端的第一终端设备发送的信息；根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息，所述恶意信息包括恶意的文字、图片、音频或者视频中的至少一种；若所述信息中不包含恶意信息，则将所述信息发送至接收端的第二终端设备。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：若所述信息包含恶意信息，则将所述信息拦截，并向所述第一终端设备发送警告信息。3.根据权利要求1或2所述的方法，其特征在于，所述根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息之前，所述方法还包括：根据所述信息的类型，将所述信息发送至对应的服务器进行校验；接收所述服务器返回的统一资源定位符URL；其中，若所述信息异常，则所述URL为空，否则所述URL为所述信息的资源的URL。4.根据权利要求2所述的方法，其特征在于，所述方法还包括：若所述信息中包含的恶意信息是诈骗信息，则在所述信息中增加提示信息后发送至所述第二终端设备；其中所述提示信息用于提醒用户所述信息中包含诈骗信息。5.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：接收终端设备发送的恶意信息上报消息；根据所述恶意信息上报消息更新所述安全规则，所述安全规则中包括过滤文字、图片、音频或者视频中至少一种类型的恶意信息的规则。6.一种恶意信息的处理装置，其特征在于，包括：接收模块，用于接收发送端的第一终端设备发送的信息；处理模块，用于根据预先获取的安全规则对所述信息进行安全检查，确定所述信息中是否包含恶意信息，所述...

【专利技术属性】
技术研发人员：刘亚东，吕庆春，彭飞，
申请(专利权)人：北京五八信息技术有限公司，
类型：发明
国别省市：北京,11