消息审核方法、装置和电子设备制造方法及图纸

本申请公开了一种消息审核方法、装置和电子设备，属于通信技术领域。所述信息审核方法包括：监测至少一个发送方发送消息的行为特征；在监测到所述至少一个发送方中第一发送方的行为特征出现异常的情况下，从监测到所述行为特征异常对应的时刻开始对所述第一发送方发送的消息进行间隔采样；所述第一发送方是所述至少一个送方中的任意一个发送方；对采样得到的所述第一发送方的样本消息进行审核。到的所述第一发送方的样本消息进行审核。到的所述第一发送方的样本消息进行审核。

【技术实现步骤摘要】
消息审核方法、装置和电子设备


[0001]本申请属于通信
，具体涉及一种消息审核方法、装置和电子设备。

技术介绍

[0002]为了维护网络环境干净，需要对在网络中传输、待发表或已发表的消息内容进行管控，以防止不良消息对网络环境造成污染。因此，需要对消息内容进行审核。但是，当下消息呈爆炸式增长，难以做到对每条消息均进行审核。如何对网络中的消息进行有效审核已经成为亟待解决的问题。

技术实现思路

[0003]本申请实施例的目的是提供一种消息审核方法、装置、电子设备、可读存储介质、芯片和计算机可读程序产品，能够在一定程度上做到对网络中的消息进行有效审核。
[0004]第一方面，本申请实施例提供了一种消息审核方法，该方法包括：监测至少一个发送方发送消息的行为特征；在监测到所述至少一个发送方中第一发送方的行为特征出现异常的情况下，从监测到所述行为特征异常对应的时刻开始对所述第一发送方发送的消息进行间隔采样；所述第一发送方是所述至少一个送方中的任意一个发送方；对采样得到的所述第一发送方的样本消息进行审核。
[0005]第二方面，本申请实施例提供了一种消息审核装置，该装置包括：第一监测模块，用于监测至少一个发送方发送消息的行为特征；第一采样模块，用于在监测到所述至少一个发送方中第一发送方的行为特征出现异常的情况下，从监测到所述行为特征异常对应的时刻开始对所述第一发送方发送的消息进行间隔采样；所述第一发送方是所述至少一个送方中的任意一个发送方；第一审核模块，用于对采样得到的所述第一发送方的样本消息进行审核。
[0006]第三方面，本申请实施例提供了一种电子设备，该电子设备包括处理器和存储器，所述存储器存储可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。
[0007]第四方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。
[0008]第五方面，本申请实施例提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现如第一方面所述的方法。
[0009]第六方面，本申请实施例提供一种计算机程序产品，该程序产品被存储在存储介质中，该程序产品被至少一个处理器执行以实现如第一方面所述的方法。
[0010]首先，在本申请实施例中，对发送方发送消息的行为所表现出来的行为特征进行监测，对监测到行为特征异常的发送方(即发送的消息存在异常的概率较大的发送方)发送的消息进行审核，不仅做到了对网络中可能存在异常的消息进行了有效审核，同时有效降
低了消息审核量。
[0011]其次，在本申请实施例中，在对监测到行为特征异常的发送方发送的消息进行审核时，也不是对其发送的所有消息均进行审核，而是对其发送的消息进行间隔采样，对采样得到的样本消息进行审核。通过行为特征监测已知异常发送方发送的消息很可能存在异常，此时通过对异常发送方发送的消息抽样进行审核，以异常发送方的样本消息是否异常来进一步确认异常发送方发送的消息是否真的异常。从而不仅实现了对异常发送方发送的消息的有效审核，还在保证对异常发送方发送的消息进行有效审核的基础上有效降低了消息审核量。
附图说明
[0012]图1是根据本申请实施例提供的一种消息传输网络的示意图；
[0013]图2是根据本申请实施例提供的一种消息审核方法的流程图；
[0014]图3是根据本申请实施例提供的一种消息审核方法中一种可选的采样间隔的示意图；
[0015]图4是根据本申请实施例提供的一种消息审核方法的另一流程图；
[0016]图5是根据本申请实施例提供的一种消息审核装置的结构示意图；
[0017]图6是根据本申请实施例提供的一种服务器的结构示意图；
[0018]图7是根据本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
[0019]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员获得的所有其他实施例，都属于本申请保护的范围。
[0020]本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象，而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施，且“第一”、“第二”等所区分的对象通常为一类，并不限定对象的个数，例如第一对象可以是一个，也可以是多个。此外，说明书以及权利要求中“和/或”表示所连接对象的至少其中之一，字符“/”，一般表示前后关联对象是一种“或”的关系。
[0021]为了维护网络环境，有必要对网络中的消息进行审核。但是在数字经济时代，消息呈爆炸式增长，几乎不可能做到对每条消息均进行人工审核，人工审核效率也较低。为了提高审核效率，开始利用人工智能技术进行消息审核。例如，基于人工智能技术提取消息中的关键词，并在提取的关键词命中预设的关键词时，对该消息进行拦截或者对该消息进行进一步的人工审核。显然，即使利用人工智能技术进行审核，也需要提取每条消息的关键词，也就是说，仍然需要对每条消息均进行审核。
[0022]鉴于此，本申请实施例提供了一种消息审核方法，既不需要对网络中的每条消息进行审核，又能在一定程度上对网络中的消息进行有效审核，以维护网络环境干净。
[0023]需要说明的是，本申请实施例所提供的消息审核方法是专利技术人基于对人类行为学进行观察研究后提出的。经本申请的专利技术人对人类行为进行研究发现，人类个体的前后行
为是存在相关性；且，对于一个特定的人类个体而言，该人类个体的一个行为与另一个行为之间的相关度与这两个行为之间的时间间距呈反相关。换言之，如果某个人类个体在第一时刻作出了第一行为，那么该人类个体在第一时刻之后的所作的所有行为中，在距离第一时刻越短的时刻作出的第二行为与第一行为的相关度越高，在距离第一时刻越长的时刻作出的第二行为与第一行为的相关度越低。
[0024]举例而言，一个用户用其自身所拥有的电子设备向网络中发送消息，在T1时刻向网络中发送了第一条消息，第一条消息是不合规的异常消息，在T1时刻之后的T2时刻向网络中发送了第二条消息，在T2时刻之后的T3时刻向网络中发送了第三条消息，那么第二条消息与第一条消息的相关度大于第三条消息与第一条消息的相关度，即第二条消息也是异常消息的概率大于第三条消息也是异常消息的概率。
[0025]基于此，本申请实施例提供的消息审核方法，不是直接对发送方发送消息的内容本身进行审核，而是优先对发送方发送消息的行为所表现出来的行为特征进行监测，若监测到发送消息的行为特征异常，所述行为特征异常即发送消息的行为特征表征发送方发送的消息可疑(即可能是异常消息)，则对该行为特征异常的发送方发本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种消息审核方法，其特征在于，所述方法包括：监测至少一个发送方发送消息的行为特征；在监测到所述至少一个发送方中第一发送方的行为特征出现异常的情况下，从监测到所述行为特征异常对应的时刻开始对所述第一发送方发送的消息进行间隔采样；所述第一发送方是所述至少一个送方中的任意一个发送方；对采样得到的所述第一发送方的样本消息进行审核。2.根据权利要求1所述的方法，其特征在于，其中，所述间隔采样遵循采样间隔呈递增的规律，所述采样间隔是进行间隔采样时当前位采样点与上一位采样点之间间隔的消息条数。3.根据权利要求2所述的方法，其特征在于，所述间隔采样遵循采样间隔呈递增的规律，包括：所述间隔采样遵循采样间隔呈指数增长的规律；所述指数增长对应的幂函数的底数是根据所述第一发送方对应的信用分和/或所述第一发送方发送的消息的消息类型确定的。4.根据权利要求1所述的方法，其特征在于，所述监测到所述至少一个发送方中第一发送方的行为特征出现异常，包括以下至少之一：监测到所述至少一个发送方中的第一发送方在一个周期内发送消息的条数不小于预设条数；监测到所述第一发送方在所述周期内发送消息的条数在所述至少一个发送方中占据的名次在预设名次范围内。5.根据权利要求4所述的方法，其特征在于，所述对所述第一发送方发送的消息进行间隔采样，包括：从监测到行为特征异常所对应的周期的开始时刻对所述第一发送方发送的消息进行间隔采样。6.根据权利要求1至5中任意一项所述的方法，其特征在于，所述方法还包括：根据对所述第一发送方的样本消息进行审核得到的审核结果，确定所述第一发送方的管控策略，并按照所述管控策略管控所述第一发送方。7.根据权利要求6所述的方法，其特征在于，所述对采样得到的所述第一发送方的样本消息进行审核，包括：按照采样顺序对采样得到的所述第一发送方的样本消息进行审核。8.根据权利要求7所述的方法，其特征在于，所述根据对所述第一发送方的样本消息进行...

【专利技术属性】
技术研发人员：庄仁峰，胡文辉，郑敏，苏儒，龙斌，郝立波，张俊朋，刘特玮，郑迪，马德琳，张家晟，
申请(专利权)人：中国移动通信集团有限公司，
类型：发明
国别省市：