一种视频审核系统及方法技术方案

本发明专利技术涉及一种视频审核系统及方法，其中，一种视频审核系统包括：第一终端、第二终端和第三终端；第一终端，用于向第二终端发送控制指令，控制指令用于指示第二终端上传种子视频，种子视频包括违规视频；第二终端，用于按照控制指令上传种子视频；第三终端，用于展示种子视频，接收对种子视频进行人工审核得到的视频审核结果，向第一终端上传视频审核结果；第一终端，还用于接收视频审核结果，获取与种子视频对应的预设审核结果，基于视频审核结果和预设审核结果确定测验结果。本申请实施例可以自动检验审核一线团队的风险识别能力，也可以有针对性的提升团队审核能力，进一步磨练使用第三终端的人工审核人员(即红方)的审核机制。第三终端的人工审核人员(即红方)的审核机制。第三终端的人工审核人员(即红方)的审核机制。

【技术实现步骤摘要】
一种视频审核系统及方法


[0001]本申请涉及计算机
，尤其涉及一种视频审核系统及方法。

技术介绍

[0002]目前内容安全管控标准数量非常多且复杂，为了保持较高人效，内容随机分配给人员进行审核，人员审核到的内容类型有限，且线上用户实际上传内容，违规占比较少，人员难以得到实战训练，也无法捕捉人员对标准的掌握情况；审核标准繁多且复杂，众多标准下又有很多细则，较长时间未遇到违规内容，会导致人员忘记标准，导致审核不准确。

技术实现思路

[0003]为了解决上述技术问题或者至少部分地解决上述技术问题，本申请提供了一种视频审核系统及方法。
[0004]第一方面，本申请提供了一种视频审核系统，包括：第一终端、第二终端和第三终端；
[0005]所述第一终端，用于向所述第二终端发送控制指令，所述控制指令用于指示所述第二终端上传种子视频，所述种子视频包括违规视频；
[0006]所述第二终端，用于按照所述控制指令上传所述种子视频；
[0007]所述第三终端，用于展示所述种子视频，接收对所述种子视频进行人工审核得到的视频审核结果，向所述第一终端上传所述视频审核结果；
[0008]所述第一终端，还用于接收所述视频审核结果，获取与所述种子视频对应的预设审核结果，基于所述视频审核结果和所述预设审核结果确定测验结果。
[0009]可选地，所述第一终端，还用于获取钓鱼账号信息，向所述第二终端发送所述钓鱼账号信息，以使所述第二终端利用所述钓鱼账号上传所述种子视频；
[0010]所述第三终端，还用于获取与所述种子视频对应的上传账号信息，向所述第一终端发送所述上传账号信息；
[0011]所述第一终端，还用于基于所述上传账号信息及所述钓鱼账号信息确定所述种子视频的上传账号是否为钓鱼账号，若所述种子视频的上传账号为钓鱼账号，将所述种子视频标记为钓鱼内容；
[0012]所述第一终端，还用于在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
[0013]可选地，所述第一终端，还用于获取钓鱼任务时刻，向所述第二终端发送所述钓鱼任务时刻，以使所述第二终端在所述钓鱼任务时刻上传所述种子视频；
[0014]所述第三终端，还用于获取与所述种子视频对应的上传时刻，向所述第一终端发送所述上传时刻；
[0015]所述第一终端，还用于基于所述上传时刻和所述钓鱼任务时刻确定当前审核任务是否为钓鱼任务，若所述种子视频对应的审核任务为钓鱼任务，将所述种子视频标记为钓
鱼内容；
[0016]所述第一终端，还用于在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
[0017]可选地，所述第一终端，还用于获取钓鱼账号信息及钓鱼任务时刻，向所述第二终端发送所述钓鱼账号信息及钓鱼任务时刻，以使所述第二终端利用所述钓鱼账号在所述钓鱼任务时刻上传所述种子视频；
[0018]所述第三终端，还用于获取与所述种子视频对应的上传账号信息及上传时刻，向所述第一终端发送所述上传账号信息及所述上传时刻；
[0019]所述第一终端，还用于基于所述上传账号信息及所述钓鱼账号信息，以及，所述上传时刻和所述钓鱼任务时刻，确定所述种子视频的上传账号是否为钓鱼账号，若所述种子视频的上传账号为钓鱼账号，将所述种子视频标记为钓鱼内容；
[0020]所述第一终端，还用于在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
[0021]可选地，所述第一终端，还用于统计每个上传账号上传的种子视频为违规视频的次数，若所述次数超过预设阈值，为所述种子视频的上传账号设置禁言；将与所述上传账号对应的钓鱼账号信息设置为无效账号信息。
[0022]第二方面，本申请提供了一种视频审核方法，应用于如第一方面任一所述的第一终端，该方法包括：
[0023]向第二终端发送控制指令，所述控制指令用于指示所述第二终端上传种子视频，所述种子视频包括违规视频；
[0024]接收第三终端上传的视频审核结果，所述视频审核结果为对所述种子视频进行人工审核得到的；
[0025]获取与所述种子视频对应的预设审核结果；
[0026]基于所述视频审核结果和所述预设审核结果确定测验结果。
[0027]可选地，所述方法还包括：
[0028]获取钓鱼账号信息，向所述第二终端发送所述钓鱼账号信息，以使所述第二终端利用所述钓鱼账号上传所述种子视频；
[0029]接收第三终端发送的与所述种子视频对应的上传账号信息；
[0030]基于所述上传账号信息及所述钓鱼账号信息确定所述种子视频的上传账号是否为钓鱼账号，若所述种子视频的上传账号为钓鱼账号，将所述种子视频标记为钓鱼内容；
[0031]在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
[0032]可选地，所述方法还包括：
[0033]获取钓鱼任务时刻，向所述第二终端发送所述钓鱼任务时刻，以使所述第二终端在所述钓鱼任务时刻上传所述种子视频；
[0034]接收所述第三终端发送的与所述种子视频对应的上传时刻；
[0035]基于所述上传时刻和所述钓鱼任务时刻确定当前审核任务是否为钓鱼任务；
[0036]若所述种子视频对应的审核任务为钓鱼任务，将所述种子视频标记为钓鱼内容；
[0037]在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
[0038]可选地，所述方法还包括：
[0039]获取钓鱼账号信息及钓鱼任务时刻，向所述第二终端发送所述钓鱼账号信息及钓鱼任务时刻，以使所述第二终端利用所述钓鱼账号在所述钓鱼任务时刻上传所述种子视频；
[0040]接收所述第三终端发送的与所述种子视频对应的所述上传账号信息及所述上传时刻；
[0041]基于所述上传账号信息及所述钓鱼账号信息，以及，所述上传时刻和所述钓鱼任务时刻，确定所述种子视频的上传账号是否为钓鱼账号；
[0042]若所述种子视频的上传账号为钓鱼账号，将所述种子视频标记为钓鱼内容；
[0043]在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
[0044]可选地，所述方法还包括：
[0045]统计每个上传账号上传的种子视频为违规视频的次数，若所述次数超过预设阈值，为所述种子视频的上传账号设置禁言；
[0046]将与所述上传账号对应的钓鱼账号信息设置为无效账号信息。
[0047]本申请实施例提供的上述技术方案与现有技术相比具有如下优点：
[0048]本申请实施例通过利用第二终端和第三终端模拟红蓝方攻防功能，第二终端(即蓝方)模仿外界攻击上传违规的种子视频，在流转到审核系统后，第三终端的人工审核人员(即红方)按照以往以来长期审核的经验及接受到的培训的知识，对种子视频进行审核，最终由第一终端基于第三终端的视频审核结果和预设审核结果得到测验结果，可以自动检验审核一线团队的风险识别能力，也可以有针对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种视频审核系统，其特征在于，包括：第一终端、第二终端和第三终端；所述第一终端，用于向所述第二终端发送控制指令，所述控制指令用于指示所述第二终端上传种子视频，所述种子视频包括违规视频；所述第二终端，用于按照所述控制指令上传所述种子视频；所述第三终端，用于展示所述种子视频，接收对所述种子视频进行人工审核得到的视频审核结果，向所述第一终端上传所述视频审核结果；所述第一终端，还用于接收所述视频审核结果，获取与所述种子视频对应的预设审核结果，基于所述视频审核结果和所述预设审核结果确定测验结果。2.根据权利要求1所述的视频审核系统，其特征在于，所述第一终端，还用于获取钓鱼账号信息，向所述第二终端发送所述钓鱼账号信息，以使所述第二终端利用所述钓鱼账号上传所述种子视频；所述第三终端，还用于获取与所述种子视频对应的上传账号信息，向所述第一终端发送所述上传账号信息；所述第一终端，还用于基于所述上传账号信息及所述钓鱼账号信息确定所述种子视频的上传账号是否为钓鱼账号，若所述种子视频的上传账号为钓鱼账号，将所述种子视频标记为钓鱼内容；所述第一终端，还用于在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。3.根据权利要求1所述的视频审核系统，其特征在于，所述第一终端，还用于获取钓鱼任务时刻，向所述第二终端发送所述钓鱼任务时刻，以使所述第二终端在所述钓鱼任务时刻上传所述种子视频；所述第三终端，还用于获取与所述种子视频对应的上传时刻，向所述第一终端发送所述上传时刻；所述第一终端，还用于基于所述上传时刻和所述钓鱼任务时刻确定当前审核任务是否为钓鱼任务，若所述种子视频对应的审核任务为钓鱼任务，将所述种子视频标记为钓鱼内容；所述第一终端，还用于在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。4.根据权利要求1所述的视频审核系统，其特征在于，所述第一终端，还用于获取钓鱼账号信息及钓鱼任务时刻，向所述第二终端发送所述钓鱼账号信息及钓鱼任务时刻，以使所述第二终端利用所述钓鱼账号在所述钓鱼任务时刻上传所述种子视频；所述第三终端，还用于获取与所述种子视频对应的上传账号信息及上传时刻，向所述第一终端发送所述上传账号信息及所述上传时刻；所述第一终端，还用于基于所述上传账号信息及所述钓鱼账号信息，以及，所述上传时刻和所述钓鱼任务时刻，确定所述种子视频的上传账号是否为钓鱼账号，若所述种子视频的上传账号为钓鱼账号，将所述种子视频标记为钓鱼内容；所述第一终端，还用于在确定所述种子视频被标记为钓鱼内容时，禁止所述种子视频上线。
5.根据权利要求1所述的视频审核系统，其特征...

【专利技术属性】
技术研发人员：林娜，田驰，向贵军，
申请(专利权)人：北京奇艺世纪科技有限公司，
类型：发明
国别省市：