【技术实现步骤摘要】
本专利技术涉及视频风控，特别是涉及一种敏感视频片段的确定方法、装置及电子设备。
技术介绍
1、用户在观看视频时，可以针对视频当前播放进度下的视频内容发布评论，由于用户所发布的评论可能会存在负面的敏感信息，且用户所发布的评论会随着时间不断增加，这就需要视频提供方不断地对用户发布的评论进行检测，以删除存在敏感信息的敏感评论，降低评论的风险，而且视频提供方所要检测的视频的数量巨大，需要占用大量的人力资源和计算资源进行检测，并且效率较低。
技术实现思路
1、本专利技术实施例的目的在于提供一种敏感视频片段的确定方法、装置及电子设备，以提高确定敏感视频片段的效率。具体技术方案如下：
2、在本专利技术实施的第一方面，首先提供了一种敏感视频片段的确定方法，所述方法包括：
3、针对当前待检测的目标视频所包含的每一视频片段，从针对该视频片段所发布的评论中，确定存在敏感信息的评论，作为该视频片段的敏感评论；
4、基于该视频片段的敏感评论，确定用于表征该视频片段的敏感程度的敏感属性值，作为该视频片段的待利用属性值；
5、基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段；其中，每一视频片段的目标敏感属性值为：基于该视频片段的待利用属性值所确定的。
6、可选地，所述基于该视频片段的敏感评论，确定用于表征该视频片段的敏感程度的敏感属性值，作为该视频片段的待利用属性值，包括：
7、从该视频片段的敏感评论中，确定不包含敏感词且存
8、确定所述第一敏感评论中属于每一敏感类别的敏感评论的数目，并计算该数目与针对该视频片段所发布的评论的总数目的比值，作为每一敏感类别对应的第一比值；
9、确定所述第二敏感评论中属于每一敏感程度的敏感词的数目，并计算该数目与所有第二敏感评论包含的所有敏感词的总数目的比值，作为每一敏感程度对应的第二比值；
10、针对每一敏感类别，按照该敏感类别的预设权重，计算该敏感类别对应的第一比值的加权和，得到类别属性值；
11、针对每一敏感程度，按照该敏感程度的预设权重，计算该敏感程度对应的第二比值的加权和，得到程度属性值；
12、计算所得到的类别属性值和程度属性值的总和值，得到用于表征该视频片段的敏感程度的敏感属性值。
13、可选地，所述基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段，包括：
14、基于各视频片段的目标敏感属性值，对所述目标视频的播放进度和敏感属性值进行关系拟合，得到所述目标视频的播放进度和敏感属性值的映射关系；
15、根据所述映射关系确定所述目标视频中敏感属性值大于第一敏感阈值的播放进度的范围，得到所述目标视频中的敏感视频片段。
16、可选地，所述方法还包括：
17、获取历史时刻对所确定的敏感视频片段进行检测时所确定出的存在敏感信息的评论，作为参考评论；
18、计算所确定的敏感视频片段中的待检测评论与所述参考评论的文本相似度；其中，所述待检测评论为该视频片段中除所确定的敏感评论以外的评论；
19、将所述待检测评论中与所述参考评论的文本相似度大于预设相似度阈值的评论，确定为包含敏感信息的评论。
20、可选地，在所述基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段之前，所述方法还包括：
21、计算该视频片段的待利用属性值，与至少一历史敏感属性值的平均值，得到该视频片段的目标敏感属性值；其中，每一历史敏感属性值为：历史时刻所确定的，用于表征该视频片段的敏感程度的敏感属性值。
22、可选地，所述方法还包括：
23、计算所确定的各个视频片段的目标敏感属性值的平均值；
24、判断所得到的平均值是否大于第二敏感阈值；
25、若大于，则确定所述目标视频为敏感视频。
26、在本专利技术实施的第二方面，还提供了一种敏感视频片段的确定装置，所述装置包括：
27、敏感评论确定模块，用于针对当前待检测的目标视频所包含的每一视频片段，从针对该视频片段所发布的评论中，确定存在敏感信息的评论，作为该视频片段的敏感评论；
28、属性值确定模块，用于基于该视频片段的敏感评论，确定用于表征该视频片段的敏感程度的敏感属性值，作为该视频片段的待利用属性值；
29、敏感片段确定模块，用于基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段；其中，每一视频片段的目标敏感属性值为：基于该视频片段的待利用属性值所确定的。
30、在本专利技术实施的又一方面还提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序时，实现上述任一所述的敏感视频片段的确定方法。
31、在本专利技术实施的又一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一所述的敏感视频片段的确定方法。
32、在本专利技术实施的又一方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一所述的敏感视频片段的确定方法。
33、本专利技术实施例提供的敏感视频片段的确定方法，通过针对当前待检测的目标视频所包含的每一视频片段，从针对该视频片段所发布的评论中，确定存在敏感信息的评论，作为该视频片段的敏感评论，进而基于该视频片段的敏感评论的数目，确定用于表征该视频片段的敏感程度的敏感属性值，作为该视频片段的待利用属性值；其中，所确定的敏感属性值所表征的敏感程度与该视频片段的敏感评论的数目正相关，以及基于各视频片段的目标敏感属性值，从目标视频中确定敏感视频片段；其中，每一视频片段的目标敏感属性值为：基于该视频片段的待利用属性值所确定的。可见，本方案中，可以自动化地基于各视频片段中包含敏感信息的敏感评论，确定各视频片段的目标敏感属性值，进而基于各视频片段的目标敏感属性值，从目标视频中确定敏感视频片段，可以快速地确定出敏感视频片段，因此，本方案可以作为前置检测的方案，后续检测阶段可以对所确定的敏感视频片段进行针对性检测，而不必耗费大量资源对整段视频进行检测，从而能够减少检测资源的占用，并且提高检测效率。
本文档来自技高网...【技术保护点】
1.一种敏感视频片段的确定方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述基于该视频片段的敏感评论，确定用于表征该视频片段的敏感程度的敏感属性值，作为该视频片段的待利用属性值，包括：
3.根据权利要求1所述的方法，其特征在于，所述基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段，包括：
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
5.根据权利要求1所述的方法，其特征在于，在所述基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段之前，所述方法还包括：
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
7.一种敏感视频片段的确定装置，其特征在于，所述装置包括：
8.根据权利要求7所述的装置，其特征在于，所述属性值确定模块，包括：
9.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
10.一种计算机可读存储介质，其
...【技术特征摘要】
1.一种敏感视频片段的确定方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述基于该视频片段的敏感评论，确定用于表征该视频片段的敏感程度的敏感属性值，作为该视频片段的待利用属性值，包括：
3.根据权利要求1所述的方法，其特征在于，所述基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段，包括：
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
5.根据权利要求1所述的方法，其特征在于，在所述基于各视频片段的目标敏感属性值，从所述目标视频中确定敏感视频片段...
【专利技术属性】
技术研发人员：向贵军，黄真，于嘉慧，唐子腾，刘红林，
申请(专利权)人：北京奇艺世纪科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。