风险识别处理方法和装置制造方法及图纸

本说明书实施例公开了一种风险识别处理方法和装置，该方法包括：监控通讯消息；如果上述通讯消息中存在敏感信息，获取发送上述通讯消息的第一用户的历史通讯消息记录；基于历史通讯消息记录对第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

【技术实现步骤摘要】
风险识别处理方法和装置
本说明书实施例涉及即时通讯
，尤其涉及一种风险识别处理方法和装置。
技术介绍
随着通讯技术的飞速发展，即时通讯(InstantMessenger，IM)服务也得到了广泛的应用，用户可以把经常联系的其他用户加入到联系人(或好友)名单，随时与之发起实时对话，从而达到即时交流的目的。目前，通过即时通讯软件进行诈骗的案件时有发生，往往给受害者带来不小的经济和家庭损害。而现有防诈骗检查手段比较简单，通常是采用敏感词过滤方案，例如，第一用户通过即时通讯软件请求第二用户向其转账，即时通讯软件的后台服务器会监听到敏感词“转账”，然后就会提示第二用户，例如，向第二用户发送类似于“不要向陌生人转账、请电话确认对方身份”等风险提示信息。上述敏感词过滤方案能够起到一定的防骗作用，但缺点是判断手段太过简单，精度不高，久而久之会被用户忽略。
技术实现思路
本说明书实施例提供一种风险识别处理方法和装置，用于提高风险识别的精度。本说明书实施例采用下述技术方案：第一方面，提供了一种风险识别处理方法，包括：监控通讯消息；如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；基于所述历史通讯消息记录，对所述第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。第二方面，提供了一种风险识别处理装置，包括：消息监控模块，监控通讯消息；获取模块，如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；风险识别模块，基于所述历史通讯消息记录，对所述第一用户进行风险识别；处理模块，如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。第三方面，提供了一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如下操作：监控通讯消息；如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；基于所述历史通讯消息记录，对所述第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。第四方面，提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下操作：监控通讯消息；如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；基于所述历史通讯消息记录，对所述第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。本说明书实施例采用的上述至少一个技术方案，在监控到通讯消息中存在敏感信息时，基于历史通讯消息记录对第一用户进行风险识别，并且在识别到第一用户是风险用户时向第二用户发送风险提示信息，相对于现有技术中检测到敏感词即发送风险提示信息的方法，由于历史通讯消息记录的信息量远大于一条通讯消息，能够更加准确地识别出第一用户的风险结果，因此，提高了风险识别的精度。附图说明此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：图1为本说明书的一个实施例提供的风险识别处理方法流程示意图；图2为本说明书的另一个实施例提供的风险识别处理方法流程示意图；图3为本说明书的一个实施例提供的风险识别处理装置结构示意图；图4为实现本说明书各个实施例的电子设备硬件结构示意图。具体实施方式为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。如图1所示，本说明书的一个实施例提供一种风险识别处理方法100，包括如下步骤：S102：监控通讯消息。该步骤中提到的通讯消息，可以是第一用户(或称第一用户帐号，后续类同)发送给第二用户的。第一用户和第二用户通过即时通讯软件聊天时，第一用户输入的通讯消息会首先发送至即时通讯软件的服务器，然后，服务器将上述通讯消息转发至第二用户。需要说明的是，本说明书实施例提到的上述第一用户和第二用户，只是为了方便区分不同的用户，其中的“第一”和“第二”不代表其他具体的含义。另外，本说明书实施例提供的风险识别处理方法不仅可以应用在两个用户单独聊天的场景下，即第一用户是一个用户，第二用户是一个用户；也可以应用在群聊的场景下，即第一用户是一个用户，第二用户是多个用户。该步骤S102即可对第一用户向第二用户发送的通讯消息进行过滤，以判断通讯消息中是否包括有敏感信息，这些敏感信息例如包括与金融诈骗相关的敏感词、敏感图片以及敏感视频中的至少一种。上述敏感词，例如包括：转账、汇款、钱、人民币、美元等关键词。上述敏感图片，例如，包括有类似于上述敏感词文字的图片等，该实施例即可基于OCR文字识别技术对上述图片进行文字识别；然后对识别得到的文字进行敏感词过滤，以判断通讯消息中是否包括有敏感信息。上述敏感视频，例如，要求第二用户转账的视频等等，该实施例即可基于语音识别技术、视频字幕识别技术等进行文字识别；然后对识别得到的文字进行敏感词过滤，以判断通讯消息中是否包括有敏感信息。S104：如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；上述监控的通讯消息，通常针对的是第一用户发送的一条或若干条数量较少的通讯消息。该步骤中获取的历史通讯消息记录，可以是第一用户历史时刻发送的、数量较多的通讯消息，例如，第一用户历史时刻向第二用户发送的全部通讯消息等等。此外，该步骤中的历史通讯消息记录，不局限于第一用户历史时刻发送给第二用户的通讯消息，也可以包括第一用户历史时刻发送给其他用户的通讯消息等等。上述历史时刻，可以是从第一用户和第二用户建立好友关系开始，直至该实施例的执行过程中；可选地，上述历史时刻，也可以是距离当前时刻的前一天时间、两天时间或十天时间等等。可以理解，在一定条件下，获取的历史通讯消息记录的信息量越多，后续步骤中对第一用户进行风险识别，得到的识别结果的准确度也越高。S106：基于所述历史通讯消息记录，对所述第一用户进行风险识别。可选地，该步骤可以将上述历史通讯消息记录输入风险识别模型以得到第一用户的风险识别结果，其中，上述风险识别模型基于通讯消息记录样本数据和对应的风险标签训练得到。上述通讯消息记录样本数据，可以是大量用户的通讯消息记录；上述风险标签，例如，可以用来标识用户是正常用户，或者，标识用户是风险用户等。该实施例执行之前则可以基于通讯消息记录样本数据和对应的风险标签训练得到风险识别模型。当然，该步骤S106也可以采用其它的识别方式对第一用户进行风险识别，例如，检测到历史通讯消息记录中的敏感信息出现的频次高于预设阀值，则识别结果指示第一用户是风险用户；或者，历史通讯消息记录中的敏感信息出现的频次低于预设阀值，则识别结果指示第一用户是正常用户。可以理解，本说明书实施例在此示出了前述骤本文档来自技高网...

【技术保护点】
1.一种风险识别处理方法，包括：监控通讯消息；如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；基于所述历史通讯消息记录，对所述第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

【技术特征摘要】
1.一种风险识别处理方法，包括：监控通讯消息；如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；基于所述历史通讯消息记录，对所述第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。2.根据权利要求1所述的方法，如果所述第一用户是风险用户，则在向第二用户发送风险提示信息之前，所述方法还包括：获取与所述历史通讯消息记录相匹配的风险案例；所述向第二用户发送风险提示信息包括：向所述第二用户发送携带有所述风险案例的风险提示信息。3.根据权利要求2所述的方法，所述方法还包括：基于历史通讯消息记录中标记为风险事件的通讯消息记录生成风险案例；将所述风险案例添加到风险案例库中，其中，所述风险案例库用于存储风险案例。4.根据权利要求1至3任一项所述的方法，所述基于所述历史通讯消息记录，对所述第一用户进行风险识别包括：将所述历史通讯消息记录输入风险识别模型，以得到所述第一用户的风险识别结果，其中，所述风险识别模型基于通讯消息记录样本数据和对应的风险标签训练得到。5.根据权利要求1所述的方法，所述方法还包括：基于所述识别结果为所述第一用户添加风险标签，其中，所述风险标签用于标识正常用户或风险用户。6.根据权利要求5所述的方法，所述监控通讯消息包括：基于所述第一用户的风险标签监控通讯消息。7.根据权利要求6所述的方法，所述基于所述第一用户的风险标签监控通讯消息包括：基于所述第一用户的风险标签，选择与所述风险标签相匹配的敏感信息过滤策略；基于...

【专利技术属性】
技术研发人员：张洪涛，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY