消息检测方法、装置及设备制造方法及图纸

本申请实施例提供一种消息检测方法、装置及设备，其中，方法包括：当终端接收到通信消息时，确定所述通信消息对应的消息源号码；将所述终端对应的终端号码确定为消息目标号码；将所述消息源号码和所述消息目标号码构建成一消息号码对；基于预先构建的号码关系图谱，确定所述消息号码对中的所述消息源号码与所述消息目标号码之间的号码关系；基于所述号码关系，对所述通信消息进行消息检测。对所述通信消息进行消息检测。对所述通信消息进行消息检测。

【技术实现步骤摘要】
消息检测方法、装置及设备


[0001]本申请实施例涉及安全
，涉及但不限于消息检测方法、装置及设备。

技术介绍

[0002]随着5G技术的发展以及行业应用的拓展，5G个人点对点消息、5G行业消息即将进入 高速增长轨道。5G消息呈现新的业务形态，通过5G消息(音视频、图片以及文本等)交往 将会变得频繁，所以5G消息量将会迎来爆发式增长，对5G消息的内容治理提出了更高的 要求。主流的5G多媒体消息(包括音视频、图片以及文本等)治理技术主要采用一些深度 学习算法，来检测消息内容的合规性。
[0003]相关技术中，在文本违规检测上，通常是基于FastText、隐马尔可夫模型(Hidden MarkovModel，HMM)、条件随机场(Conditional Random Fields，CRF)、Word2Vec等自然语言处 理(Natural Language Processing，NLP)技术构建的文本模型，来避免单一模型的误杀和漏 杀；在违规图片检测上，通常是采用深度融合Inception、ResNet、多任务卷积神经网络 (Multi
‑
task Cascaded Convolutional Networks，MTCNN)、InsightFace、EAST、CRNN等图 片模型，用于识别各类违规图片；在音频违规识别上，通常是将深度融合生成对抗网络 (Generative Adversarial Networks，GAN)、时延神经网络(Time
‑
Delay Neural Network， TDNN)、长短时记忆网络(Long Short Term Memory，LSTM)、循环神经网络(Recurrent NeuralNetwork，RNN)等音频模型，应用于音频违规识别上；在视频违规识别上，通常是将深度 融合卷积神经网络(Convolutional Neural Network，CNN)、RNN、CRNN、GAN、TDNN等 视频模型，应用于视频违规识别。
[0004]但是，文本模型、图片模型、音视频模型等均受限于复杂模型推理的时延，面对大流量 的多媒体消息时，存在检测时效性不及时的问题，如业界主流音频时延0.1
‑
0.2秒，主流视 频过滤最大响应时间1秒，处理实时率30％等时延问题。

技术实现思路

[0005]基于相关技术中的问题，本申请实施例提供一种消息检测方法、装置及设备。
[0006]本申请实施例的技术方案是这样实现的：
[0007]本申请实施例提供一种消息检测方法，所述方法包括：当终端接收到通信消息时，确定 所述通信消息对应的消息源号码；将所述终端对应的终端号码确定为消息目标号码；将所述 消息源号码和所述消息目标号码构建成一消息号码对；基于预先构建的号码关系图谱，确定 所述消息号码对中的所述消息源号码与所述消息目标号码之间的号码关系；基于所述号码关 系，对所述通信消息进行消息检测。
[0008]本申请实施例提供一种消息检测装置，所述装置包括确定模块，用于当终端接收到通信 消息时，确定所述通信消息对应的消息源号码；将所述终端对应的终端号码确定为消息目标 号码；构建模块，用于将所述消息源号码和所述消息目标号码构建成一消息号码对；所述确 定模块，还用于基于预先构建的号码关系图谱，确定所述消息号码对中的所述
消息源号码与 所述消息目标号码之间的号码关系；检测模块，用于基于所述号码关系，对所述通信消息进 行消息检测。
[0009]在一些实施例中，所述装置还包括：获取模块，用于从号码数据库中获取预设号码对之 间的信令数据、所述预设号码对中的目标号码的业务类型和所述目标号码的网关数据；所述 预设号码对中包括所述目标号码和源号码；所述确定模块，还用于分别基于所述信令数据、 所述业务类型和所述网关数据，确定所述目标号码的第一号码关系模型、第二号码关系模型 和第三号码关系模型；融合模块，用于对所述第一号码关系模型、所述第二号码关系模型和 所述第三号码关系模型进行模型融合处理，得到所述号码关系图谱。
[0010]在一些实施例中，第一号码关系模型中包括与所述目标号码匹配的至少一个第一类好友 关系对；所述第二号码关系模型中包括与所述目标号码匹配的至少一个第二类好友关系对； 所述第三号码关系模型中包括与所述目标号码匹配的至少一个第三类好友关系对；所述融合 模块，还用于将所述至少一个第一类好友关系对、所述至少一个第二类好友关系对和所述至 少一个第三类好友关系对添加至预设关系库中；所述预设关系库中包括多个好友关系对；将 所述预设关系库中属于误判为好友关系的好友关系对，确定为目标关系对；对所述预设关系 库中的目标关系对进行剔除处理，得到所述号码关系图谱。
[0011]在一些实施例中，所述装置还包括：模型确定模块，用于对所述信令数据进行特征提取， 得到所述目标号码的多个亲密度向量特征；将所述多个亲密度向量特征进行重要性比对，得 到与所述多个亲密度向量特征对应的重要性判断矩阵；对所述重要性判断矩阵进行向量计算， 得到每一所述亲密度向量特征的权重；基于每一所述亲密度向量特征的权重，对所述多个亲 密度向量特征进行加权求和，得到所述预设号码对的好友亲密度值；当所述好友亲密度值大 于亲密度阈值时，确定所述源号码与所述目标号码为具有第一类好友关系的号码对；将具有 所述第一类好友关系的号码对添加至第一号码关系集合中，形成所述第一号码关系模型。
[0012]在一些实施例中，所述装置还包括：检验模块，用于对所述重要性判断矩阵中的每一所 述亲密度向量特征的权重进行一致性检验；当所述重要性判断矩阵未通过所述一致性检验时， 再次对所述多个亲密度向量特征进行重要性比对，得到所述多个亲密度向量特征对应的新的 重要性判断矩阵；当所述重要性判断矩阵通过所述一致性检验时，则对所述多个亲密度向量 特征进行加权求和。
[0013]在一些实施例中，所述模型确定模块，还用于获取所述目标号码的业务类型对应的业务 数据；基于所述业务数据确定所述目标号码在所述业务类型下关联的多个关联号码；将每一 所述关联号码与所述目标号码确定为具有第二类好友关系的号码对；将具有所述第二类好友 关系的号码对添加至第二号码关系集合中，形成所述第二号码关系模型。
[0014]在一些实施例中，所述模型确定模块，还用于对所述网关数据进行解析处理，得到所述 网关数据对应的网关地址的映射关系表，所述映射关系表包括多个与所述目标号码在同一网 关地址下的映射号码；将每一所述映射号码与所述目标号码确定为具有第三类好友关系的号 码对；将具有所述第三类好友关系的号码对添加至第三号码关系集合中，形成所述第三号码 关系模型。
[0015]在一些实施例中，所述检测模块，还用于如果所述号码关系为所述好友关系，对所述通 信消息进行实时消息检测；如果所述号码关系为所述非好友关系，对所述通信消息进
行离线 消息检测。
[0016]本申请实施例提供一种消息检测设备，包括：存储器，用本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种消息检测方法，其特征在于，所述方法包括：当终端接收到通信消息时，确定所述通信消息对应的消息源号码；将所述终端对应的终端号码确定为消息目标号码；将所述消息源号码和所述消息目标号码构建成一消息号码对；基于预先构建的号码关系图谱，确定所述消息号码对中的所述消息源号码与所述消息目标号码之间的号码关系；基于所述号码关系，对所述通信消息进行消息检测。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：从号码数据库中获取预设号码对之间的信令数据、所述预设号码对中的目标号码的业务类型和所述目标号码的网关数据；所述预设号码对中包括所述目标号码和源号码；分别基于所述信令数据、所述业务类型和所述网关数据，确定所述目标号码的第一号码关系模型、第二号码关系模型和第三号码关系模型；对所述第一号码关系模型、所述第二号码关系模型和所述第三号码关系模型进行模型融合处理，得到所述号码关系图谱。3.根据权利要求2所述的方法，其特征在于，所述第一号码关系模型中包括与所述目标号码匹配的至少一个第一类好友关系对；所述第二号码关系模型中包括与所述目标号码匹配的至少一个第二类好友关系对；所述第三号码关系模型中包括与所述目标号码匹配的至少一个第三类好友关系对；所述对所述第一号码关系模型、所述第二号码关系模型和所述第三号码关系模型进行模型融合处理，得到所述号码关系图谱，包括：将所述至少一个第一类好友关系对、所述至少一个第二类好友关系对和所述至少一个第三类好友关系对添加至预设关系库中；所述预设关系库中包括多个好友关系对；将所述预设关系库中属于误判为好友关系的好友关系对，确定为目标关系对；对所述预设关系库中的目标关系对进行剔除处理，得到所述号码关系图谱。4.根据权利要求2所述的方法，其特征在于，所述第一号码关系模型通过以下方式确定：对所述信令数据进行特征提取，得到所述目标号码的多个亲密度向量特征；将所述多个亲密度向量特征进行重要性比对，得到与所述多个亲密度向量特征对应的重要性判断矩阵；对所述重要性判断矩阵进行向量计算，得到每一所述亲密度向量特征的权重；基于每一所述亲密度向量特征的权重，对所述多个亲密度向量特征进行加权求和，得到所述预设号码对的好友亲密度值；当所述好友亲密度值大于亲密度阈值时，确定所述源号码与所述目标号码为具有第一类好友关系的号码对；将具有所述第一类好友关系的号码对添...

【专利技术属性】
技术研发人员：钱湖海，周宇飞，褚灵璐，周旭莹，吴目宇，马洪晓，张豪，
申请(专利权)人：中国移动通信集团有限公司，
类型：发明
国别省市：