【技术实现步骤摘要】
本专利技术涉及社交平台安全风控，具体涉及平台安全风控检测方法和系统。
技术介绍
1、现有的市面上的一些内容审核的产品能够对用户发送内容进行违规检测，但是对于社交应用自身而言，由于业务的差异性，市面成熟的产品无法完全满足业务的风控需求。因此，社交产品的风控依赖内部结合业务特性构建一整套风控体系。
2、互联网的发展，为用户带来了便利，尤其是在社交平台上，用户可以通过文本、图片、语音、视频等多方面内容形式交流，使得平台用户更便捷的进行信息交流，创造一个便利的交友氛围。同时，也有一些不法分子，利用这些内容媒介传输一些不良的信息，借助平台能力进行赌博或诈骗行为，势必会造成对平台以及平台用户的损伤。对于平台而言，有责任也有义务实现对不良信息传播者的识别，实现有效的拦截，降低对平台正常用户的伤害。对一些涉赌诈骗违法违规的行为的用户进行检测识别，及时阻止并进行有效封禁。
技术实现思路
1、本专利技术提供平台安全风控检测方法和系统，所采用的技术方案具体如下：
2、本专利技术一个实施例一种平台安全风控检测方法，该方法包括以下步骤：
3、用户发送内容系统页面，通过该系统页面可以全局视角评估用户发送的内容；
4、用户封禁记录数据，人工审核之后在平台内部进行用户封禁产生结果数据；
5、通过设备关联关系，构建用户设备之间的关系，实现风险用户之间的关联关系捕获；
6、人工工单审核系统页面，审核人员通过该页面审核用户内容；
7、用
8、进一步，将进入平台的每一个所述用户划分为三部分，第一部分为用户的设备特征，第二部分为用户在平台生成的内容，第三部分为用户在平台的行为特征分析。
9、进一步，所述第一部分为用户的设备特征，如用户的设备是android和ios的常规设备，或者是虚拟机，以及用户的ip归属地，用户是否开启了vpn等特征，基于用户的设备特征，给用户打上一定的风控标签，如用户的设备曾经是有个风险用户的设备，则该设备的用户有一定的风险会成为类似的风险用户，如检测用户设备为模拟器设备，则该用户有为黑灰产风险用户，基于这些设备特征，初步给予用户一定的风险标签和评分。
10、进一步，所述第二部分为用户在平台生成的内容，在平台娱乐社交过程中发送的内容，如文本、图片、音频和视频，用户发送的内容会经过内容检测平台对用户的内容进行检测，这里包括自研的检测平台和第三方的检测平台，依赖检测返回的违规类型，进行更新用户的风控标签，基于用户发送的内容，结合机审的结果，如果为待审核的内容，则进入工单系统进行人工审核；如果机审违规的内容，则更新用户的标签评分，累计用户相关违规类型的风险标签，用户在内容场景违规类型的次数越多，对应违规类型的风险标签越有价值，可评估该用户在对应违规类型层面风险较高，基于这些内容检测，可以很好的识别色情、谩骂、广告等违规用户。
11、进一步，所述第三部分为用户在平台的行为特征分析，结合用户在平台的行为统计数据，结合数据特征模型或者策略，对用户的特征进行评估，对用户打上相应的风控标签，平台用户，如新注册用户频繁添加异性好友，结合用户添加好友发送的聊天内容分析，可以快速识别该用户有诈骗或者导流的风险；如用户短时间内收集到大量的概率性的小礼物，极大概率有参与赌博的风险；通过这些用户在平台的行为分析，实现给用户打上相关的风控标签，如涉赌风险用户标签、诈骗用户标签、未成年人标签。
12、第二方面，本专利技术实施例还提供了一种平台安全风控检测系统，包括存储器、处理器以及存储在所述存储器中并在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现任意一项所述方法的步骤。
13、本专利技术的有益效果是：为了能够高效率的识别违规用户，我们构建了一整套内容检测的解决方案，实现高效率对平台违规的用户进行召回操作，实时拦截或者进入人工审核核实，如有违规行为就对相关用户进行封禁处理，将危害用户从平台内部清理。该方案的落地，实现了帮助社交平台精准召回违规用户，有效降低了平台的内容以及用户行为风险。
本文档来自技高网...【技术保护点】
1.一种平台安全风控检测方法，其特征在于，该方法包括以下步骤：
2.根据权利要求1所述的平台安全风控检测方法，其特征在于，将进入平台的每一个所述用户划分为三部分，第一部分为用户的设备特征，第二部分为用户在平台生成的内容，第三部分为用户在平台的行为特征分析。
3.根据权利要求1所述的平台安全风控检测方法，其特征在于，所述第一部分为用户的设备特征，如用户的设备是android和iOS的常规设备，或者是虚拟机，以及用户的IP归属地，用户是否开启了VPN等特征，基于用户的设备特征，给用户打上一定的风控标签，如用户的设备曾经是有个风险用户的设备，则该设备的用户有一定的风险会成为类似的风险用户，如检测用户设备为模拟器设备，则该用户有为黑灰产风险用户，基于这些设备特征，初步给予用户一定的风险标签和评分。
4.根据权利要求1所述的平台安全风控检测方法，其特征在于，所述第二部分为用户在平台生成的内容，在平台娱乐社交过程中发送的内容，如文本、图片、音频和视频，用户发送的内容会经过内容检测平台对用户的内容进行检测，这里包括自研的检测平台和第三方的检测平台，依赖检测返
5.根据权利要求1所述的平台安全风控检测方法，其特征在于，所述第三部分为用户在平台的行为特征分析，结合用户在平台的行为统计数据，结合数据特征模型或者策略，对用户的特征进行评估，对用户打上相应的风控标签，平台用户，如新注册用户频繁添加异性好友，结合用户添加好友发送的聊天内容分析，可以快速识别该用户有诈骗或者导流的风险；如用户短时间内收集到大量的概率性的小礼物，极大概率有参与赌博的风险；通过这些用户在平台的行为分析，实现给用户打上相关的风控标签，如涉赌风险用户标签、诈骗用户标签、未成年人标签。
6.一种平台安全风控检测系统，包括存储器、处理器以及存储在所述存储器中并在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-5任意一项所述方法的步骤。
...【技术特征摘要】
1.一种平台安全风控检测方法，其特征在于，该方法包括以下步骤：
2.根据权利要求1所述的平台安全风控检测方法，其特征在于，将进入平台的每一个所述用户划分为三部分，第一部分为用户的设备特征，第二部分为用户在平台生成的内容，第三部分为用户在平台的行为特征分析。
3.根据权利要求1所述的平台安全风控检测方法，其特征在于，所述第一部分为用户的设备特征，如用户的设备是android和ios的常规设备，或者是虚拟机，以及用户的ip归属地，用户是否开启了vpn等特征，基于用户的设备特征，给用户打上一定的风控标签，如用户的设备曾经是有个风险用户的设备，则该设备的用户有一定的风险会成为类似的风险用户，如检测用户设备为模拟器设备，则该用户有为黑灰产风险用户，基于这些设备特征，初步给予用户一定的风险标签和评分。
4.根据权利要求1所述的平台安全风控检测方法，其特征在于，所述第二部分为用户在平台生成的内容，在平台娱乐社交过程中发送的内容，如文本、图片、音频和视频，用户发送的内容会经过内容检测平台对用户的内容进行检测，这里包括自研的检测平台和第三方的检测平台，依赖检测返回的违规类型，进行更新用户的风控标签，基...
【专利技术属性】
技术研发人员：方波，唐路遥，李程，王文达，
申请(专利权)人：武汉微派网络科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。