【技术实现步骤摘要】
本申请涉及内容审核，尤其涉及一种语音流审核方法、装置、计算机设备和存储介质。
技术介绍
1、随着互联网高速发展，社交软件的语音聊天技术也越来越成熟，语音聊天的用户数量越来越多，其中用户语音聊天涉及的内容也是多种多样，其中可能会涉及违规内容，这些内容会对平台产生一定的舆论影响，甚至还可能出现底线内的安全问题。因此平台需要对用户麦上的实时语音流进行监控，对违规内容进行实时处置，给予平台一个绿色安全的环境，提升用户的使用体验。传统技术中会对全平台的语音流进行拉流监控，导致审核成本非常庞大，对过多的非违规语音流进行审核也是对审核资源的浪费，过大的数据量还会导致审核效率受到影响。
技术实现思路
1、本申请的目的旨在至少能解决上述的技术缺陷之一，特别是现有技术中对语音流进行监控存在的成本高、资源浪费和审核效率低的技术缺陷。
2、第一方面，本申请提供了一种语音流审核方法，包括：
3、响应于用户的上麦事件，获取用户的用户标签；用户标签用于反映用户在应用程序上的历史行为；
4、判断用户标签是否命中预设的拉流条件；
5、若是，则将用户的语音流推送至待拉流队列，以进行审核；
6、若否，则对本次上麦事件不进行拉流。
7、在其中一个实施例中，获取用户的用户标签，包括：
8、获取用户的元事件表；元事件表中包括与用户在应用程序上的历史行为有关的记录；
9、从元事件表中提取出多个预设字段对应的目标记录表；
11、在其中一个实施例中，在用户的语音流进行审核的过程中，还包括：
12、在第一预设时间内，监控语音流的审核结果；
13、根据审核结果，判断是否满足需要延长监控；
14、若是，则返回在第一预设时间内，监控语音流的审核结果的步骤；
15、若否，则将语音流断流，并在断流第二预设时间后，将语音流重新推送至待拉流队列，并返回在第一预设时间内，监控语音流的审核结果的步骤。
16、在其中一个实施例中，审核结果包括属性和严重等级，根据审核结果，判断是否满足需要延长监控，包括：
17、在第一预设时间内，分别统计属性为违规或疑似在各严重等级的触发次数；
18、当触发次数超过严重等级对应的阈值时，判定需要延长监控；否则，判定不需要延长监控。
19、在其中一个实施例中，在第一预设时间内，监控语音流的审核结果之前，还包括：
20、获取用户所处房间的房间属性和上麦事件的触发时间；
21、根据触发时间与各预设时间区间进行匹配，并将命中的预设时间区间作为目标时间区间；
22、选用房间属性和目标时间区间对应的第一预设时间和第二预设时间。
23、在其中一个实施例中，在将用户的语音流推送至待拉流队列后，还包括：
24、对于待拉流队列中的任意一个语音流，根据该语音流对应的用户身份和房间属性，确定该语音流对应的分流策略；分流策略包括目标机审方和分流比例；
25、对于任意一个分流策略，将该分流策略对应的所有语音流按照分流比例，分别请求目标机审方进行机审。
26、在其中一个实施例中，在将该分流策略对应的所有语音流按照分流比例，分别请求目标机审方进行机审过程中，还包括：
27、按照第一预设间隔，确定目标机审方的实际审核片段比例；
28、若实际审核片段比例与初始的分流比例存在差异，则根据差异调整当前的分流比例。
29、在其中一个实施例中，在将该分流策略对应的所有待拉语音流按照分流比例，分别请求目标机审方进行机审过程中，还包括：
30、根据各目标机审方的请求反馈信息，判断目标机审方是否出现异常；
31、若是，则将出现异常的目标机审方替换为对应的容灾机审方。
32、在其中一个实施例中，目标审核方接收到语音流后，将语音流分割为语音片段进行机审，并将各语音片段及其对应的机审结果反馈；在将该分流策略对应的所有待拉语音流按照分流比例，分别请求目标机审方进行机审之后，还包括：
33、获取各语音片段和对应的机审结果；
34、根据机审结果判断语音片段是否需要进行人工审核；
35、若是，则根据语音片段对应的机审结果、用户身份和/或房间属性，选择对应的人工审核队列作为目标队列；其中，不同人工审核队列仅允许具有对应资格的审核员进行人工审核；
36、将语音片段推送至对应的目标队列进行人工审核，并以人工审核结果作为语音片段的审核结果；
37、若否，则直接以机审结果作为审核结果。
38、在其中一个实施例中，还包括在将用户的语音流推送至待拉流队列之后，还包括：
39、在得到语音流的审核结果后；
40、将审核结果、语音流对应的用户身份和/或房间属性，与各预设处置条件进行匹配；
41、根据命中的预设处置条件对应的处置措施对用户进行处置。
42、第二方面，本申请提供了一种语音流审核装置，包括：
43、用户标签确定模块，用于响应用户的上麦事件，获取用户的用户标签；用户标签用于反映用户在应用程序上的历史行为；
44、第一判断模块，用于判断用户标签是否命中预设的拉流条件；
45、第一处理模块，用于在用户标签命中预设的拉流条件的情况下，将用户的语音流推送至待拉流队列，以进行审核；
46、第二处理模块，用于在用户标签未命中预设的拉流条件的情况下，对本次上麦事件不进行拉流。
47、第三方面，本申请提供了一种计算机设备，包括一个或多个处理器，以及存储器，存储器中存储有计算机可读指令，计算机可读指令被一个或多个处理器执行时，执行上述任一实施例中的语音流审核方法的步骤。
48、第四方面，本申请提供了一种存储介质，存储介质中存储有计算机可读指令，计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述任一实施例中的语音流审核方法的步骤。
49、从以上技术方案可以看出，本申请实施例具有以下优点：
50、基于本实施例中的语音流审核方法，当用户上麦时，系统首先获取该用户的用户标签，这可以反映用户的历史行为特点。然后系统判断该用户标签是否命中了预设的拉流条件，这些条件是通过分析大量用户数据总结出需要监控的用户特征设定的。如果命中拉流条件，则将该用户的语音流推送到待拉流队列，进行审核。如果没有命中，则不对该用户的语音流进行拉流处理。该方法通过用户标签和设定拉流条件，使拉流决策更加智能化和规则化，不再是全量拉流，而是实现语音流的精准拉取，只对真正存在风险的用户进行拉流，而不是全部用户，大大减少了拉流的数据量，降低了审核成本，也避免了数据量过大对审核效率的影响。
本文档来自技高网...【技术保护点】
1.一种语音流审核方法，其特征在于，包括：
2.根据权利要求1所述的语音流审核方法，其特征在于，所述获取所述用户的用户标签，包括：
3.根据权利要求1所述的语音流审核方法，其特征在于，在所述用户的语音流进行审核的过程中，还包括：
4.根据权利要求3所述的语音流审核方法，其特征在于，所述审核结果包括属性和严重等级，所述根据所述审核结果，判断是否满足需要延长监控，包括：
5.根据权利要求3所述的语音流审核方法，其特征在于，在所述在第一预设时间内，监控所述语音流的审核结果之前，还包括：
6.根据权利要求1所述的语音流审核方法，其特征在于，在所述将所述用户的语音流推送至待拉流队列后，还包括：
7.根据权利要求6所述的语音流审核方法，其特征在于，在所述将该所述分流策略对应的所有所述语音流按照所述分流比例，分别请求所述目标机审方进行机审过程中，还包括：
8.根据权利要求6所述的语音流审核方法，其特征在于，在所述将该所述分流策略对应的所有所述待拉语音流按照所述分流比例，分别请求所述目标机审方进行机审过程中，还包
9.根据权利要求6所述的语音流审核方法，其特征在于，所述目标审核方接收到所述语音流后，将所述语音流分割为语音片段进行机审，并将各所述语音片段及其对应的机审结果反馈；在所述将该所述分流策略对应的所有所述待拉语音流按照所述分流比例，分别请求所述目标机审方进行机审之后，还包括：
10.根据权利要求1所述的语音流审核方法，其特征在于，还包括在所述将所述用户的语音流推送至待拉流队列之后，还包括：
11.一种语音流审核装置，其特征在于，包括：
12.一种计算机设备，其特征在于，包括一个或多个处理器，以及存储器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述一个或多个处理器执行时，执行如权利要求1-10任一项所述的语音流审核方法的步骤。
13.一种存储介质，其特征在于，所述存储介质中存储有计算机可读指令，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行如权利要求1至10任一项所述的语音流审核方法的步骤。
...【技术特征摘要】
1.一种语音流审核方法，其特征在于，包括：
2.根据权利要求1所述的语音流审核方法，其特征在于，所述获取所述用户的用户标签，包括：
3.根据权利要求1所述的语音流审核方法，其特征在于，在所述用户的语音流进行审核的过程中，还包括：
4.根据权利要求3所述的语音流审核方法，其特征在于，所述审核结果包括属性和严重等级，所述根据所述审核结果，判断是否满足需要延长监控，包括：
5.根据权利要求3所述的语音流审核方法，其特征在于，在所述在第一预设时间内，监控所述语音流的审核结果之前，还包括：
6.根据权利要求1所述的语音流审核方法，其特征在于，在所述将所述用户的语音流推送至待拉流队列后，还包括：
7.根据权利要求6所述的语音流审核方法，其特征在于，在所述将该所述分流策略对应的所有所述语音流按照所述分流比例，分别请求所述目标机审方进行机审过程中，还包括：
8.根据权利要求6所述的语音流审核方法，其特征在于，在所述将该所述分流策略对应的所有所述待拉语音流按照所述分流...
【专利技术属性】
技术研发人员：赵康成，刘鹏华，罗辉艺，林盛，郑华聪，曾宪浩，彭伟峰，武筠霏，张毅，
申请(专利权)人：广州趣研网络科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。