【技术实现步骤摘要】
本专利技术涉及视频处理，具体涉及一种基于多因子的视频自动审核方法。
技术介绍
1、传统的用户直播间审核采用截帧及人工巡检结合的方式，严重依赖截帧检测结果，工作量巨大，且审核时效滞后，无法对违规行为及时进行处置。无多因子（历史违规、举报、罚单等维度）的组合研判策略，单纯的机器审核误杀率和漏审率高，容易影响用户产品体验或者导致内容不合规问题。因此，急需一种自动化、且实时的视频流自动审核方法。
技术实现思路
1、本专利技术为一种基于多因子的视频自动审核方法，该基于多因子的视频自动审核方法可快速对违规次数≥阈值、因子得分z≥阈值且用户特征符合的直播进入自动处置阶段，进行关播或禁播，因子得分z＜阈值的直播才会进入人工审核环节，可大幅降低人工审核的工作量，并及时处置明显违规的直播，可帮助平台有效过滤和审核视频内容，确保用户接触到安全、合规的内容，提高用户体验和平台的生态安全，达到降低审核成本和提高审核效率的目标。
2、为实现上述目的，本专利技术采用以下技术方案：
3、一种基于多因子的视频自动审核方法，包括以下步骤：
4、s1、对视频的流程与处置规则进行配置；
5、s2、对视频直播进行开播处理，并推送检测服务；
6、s3、根据检测结果，进行截帧回调处理；
7、s4、对视频进行多因子标签处理；
8、步骤s4包括以下步骤：
9、s41、根据观众、连麦主播对当前直播场次进行举报，并添加举报原因，若直播房间被
10、s42、当主播行为出现违规，并被人工开具罚单，则增加罚单因子值p；
11、s43、大数据基于用户行为、交易、私信、礼物从多维度进行异常规则策略判定，若用户被判定异常，则增加行为因子值x；
12、s44、定义当日、近三日、近七日用户违规标签，当用户存在此标签，则增加违规因子值q；
13、s5、根据多因子标签处理结果，对视频进行自动审核处理；
14、步骤s5包括以下步骤：
15、s51、根据场景加载自动匹配规则策略，获取违规次数；
16、s52、当违规次数≥第一阈值，则进入自动处置，处置包括关播或禁播；其中，当是关播时，直接掐断视频流推送；当是禁播时，除掐断视频流推送，同时将主播加入异常名单列表，使主播无法再次开播；
17、s53、当违规次数＜第一阈值，进入多因子匹配流程，具体为利用多因子值匹配“风险”阈值的流程，获取步骤s41、s42、s43和s44得到的各项因子值；
18、s54、对因子值进行权重分配，因子得分z的计算公式为：
19、z=(n+p+x+q)×权重，
20、其中，n为举报因子值，p为罚单因子值，x为行为因子值，q为违规因子值；
21、s55、若因子得分z≥第二阈值，且用户特征符合预设特征范围，则进入处置流程，其中，用户特征为进行直播的用户的特征，用户特征符合预设特征范围为用户特征符合预设在系统上的特征范围条件；若因子得分z＜第二阈值，进入人工审核环节，等待下一次检测服务截帧回调；若因子得分z＜第二阈值，但因子得分z＞y时，则属于高风险直播，实时推送到工作群或管理后台，进行人工审核环节和监控告警，其中y为第三阈值。
22、优选地，所述人工审核环节采用多标签、风险分类、风险排序和智能分配模式；所述多标签指举报等级>处罚等级>短通话等级>机器检测违规>机器检测无违规；所述智能分配指数据分配采用线性分配算法，分配后的数据即为锁定状态，且按得分排序，当数据再次释放回审核池子，则得分重新生成，即放入队尾，可重复获取。
23、优选地，步骤s2还包括首帧丢失处理和空视频回放处理；所述首帧丢失处理为等待流存储服务通知推流成功后，才可将开播通知推送检测服务；所述空视频回放处理为用户直播结束后采用延迟关闭的形式，保证所有ts文件都已生成，而后再去生成视频回放。
24、优选地，所述空视频回放处理中的延迟时间为5秒。
25、优选地，步骤s1包括以下步骤：
26、s11、新增接入流程配置，配置内容包括场景编码、检测类型、检测渠道和截帧间隔，其中，截帧间隔配置为y秒；
27、s12、预设自动匹配规则，自动匹配规则包括规则id、场景编码、内容类型、机审标签、维度、命中次数、白名单账号，其中，内容类型包括图片和音频，机审标签为三级标签；
28、s13、预设命中后规则，命中后规则包括是否自动处置、处置罚单id和权重标签。
29、优选地，步骤s2包括以下步骤：
30、s21、用户开启视频直播，通过旁路推流方式，将数据推送检测；
31、s22、根据场景编码调用检测流程，并将渠道、视频流地址、截帧间隔和透传参数推送检测服务；
32、s23、每“y”秒对视频进行截帧，对音频流进行片段截取，根据预设的风险模型，并结合深度学习，检测图片、音频是否违规以及违规类型程度，输出三级违规标签，得到检测结果。
33、优选地，步骤s3包括以下步骤：
34、s31、每“y”秒推送一次音频片段和截帧图片，推送的内容包括透传参数、检测结果、风险类型和机翻结果；其中，检测结果为通过或拒绝，三级标签为违规人员；
35、s32、按直播场次和三级标签结果作为唯一值，进行计数和过期时间标记。
36、采用上述技术方案后，本专利技术与
技术介绍
相比，具有如下优点：
37、本专利技术提供一种基于多因子的视频自动审核方法，首先根据场景加载自动匹配规则策略，获取违规次数，若违规次数≥第一阈值，则进入自动处置，若违规次数＜第一阈值，则通过多因子从多维度对视频违规进行综合判定，若因子得分z≥第二阈值，且用户特征符合，则进入处置流程，若因子得分z＜第二阈值，进入人工审核环节，等待下一次检测服务截帧回调，若因子得分z＜第二阈值，但因子得分z＞y时，则属于高风险直播，实时推送到工作群或管理后台，进行人工审核环节和监控告警；可快速对违规次数≥第一阈值、因子得分z≥第二阈值且用户特征符合的直播进入自动处置阶段，进行关播或禁播，因子得分z＜第二阈值的直播才会进入人工审核环节，可大幅降低人工审核的工作量，并及时处置明显违规的直播，可帮助平台有效过滤和审核视频内容，确保用户接触到安全、合规的内容，提高用户体验和平台的生态安全，达到降低审核成本和提高审核效率的目标。
本文档来自技高网...【技术保护点】
1.一种基于多因子的视频自动审核方法，其特征在于，包括以下步骤：
2.如权利要求1所述的基于多因子的视频自动审核方法，其特征在于：所述人工审核环节采用多标签、风险分类、风险排序和智能分配模式；所述多标签指举报等级>处罚等级>短通话等级>机器检测违规>机器检测无违规；所述智能分配指数据分配采用线性分配算法，分配后的数据即为锁定状态，且按得分排序，当数据再次释放回审核池子，则得分重新生成，即放入队尾，可重复获取。
3.如权利要求2所述的基于多因子的视频自动审核方法，其特征在于：步骤S2还包括首帧丢失处理和空视频回放处理；所述首帧丢失处理为等待流存储服务通知推流成功后，才可将开播通知推送检测服务；所述空视频回放处理为用户直播结束后采用延迟关闭的形式，保证所有ts文件都已生成，而后再去生成视频回放。
4.如权利要求3所述的基于多因子的视频自动审核方法，其特征在于：所述空视频回放处理中的延迟时间为5秒。
5.如权利要求4所述的基于多因子的视频自动审核方法，其特征在于，步骤S1包括以下步骤：
6.如权利要求5
7.如权利要求6所述的基于多因子的视频自动审核方法，其特征在于，步骤S3包括以下步骤：
...【技术特征摘要】
1.一种基于多因子的视频自动审核方法，其特征在于，包括以下步骤：
2.如权利要求1所述的基于多因子的视频自动审核方法，其特征在于：所述人工审核环节采用多标签、风险分类、风险排序和智能分配模式；所述多标签指举报等级>处罚等级>短通话等级>机器检测违规>机器检测无违规；所述智能分配指数据分配采用线性分配算法，分配后的数据即为锁定状态，且按得分排序，当数据再次释放回审核池子，则得分重新生成，即放入队尾，可重复获取。
3.如权利要求2所述的基于多因子的视频自动审核方法，其特征在于：步骤s2还包括首帧丢失处理和空视频回放处理；所述首帧丢失...
【专利技术属性】
技术研发人员：黄俊杰，黄天财，吕金松，黄海波，王腾龙，陈镇国，刘佳彬，李阳，王庭杰，张争旭，
申请(专利权)人：厦门她趣信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。