播放内容审核方法、装置及电子设备制造方法及图纸

本发明专利技术实施例提供了播放内容审核方法、装置及电子设备，应用于内容管理技术领域。该方法包括：确定直播视频流中待审核的目标视频帧；其中，目标视频帧的播放时间迟于基准视频帧，基准视频帧为直播视频流中已确定出未违规的视频帧；识别目标视频帧的图像内容信息，得到目标信息；基于目标信息和基准信息的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更；基准信息为基准视频帧的图像内容信息；当判定目标视频帧的播放内容相对于基准视频帧发生变更时，则输出通知消息，通知消息用于指示审核人员对目标视频帧进行人工审核。通过本方案，可以降低审核人员的工作量。可以降低审核人员的工作量。可以降低审核人员的工作量。

【技术实现步骤摘要】
播放内容审核方法、装置及电子设备


[0001]本专利技术涉及内容管理
，特别是涉及播放内容审核方法、装置及电子设备。

技术介绍

[0002]随着互联网技术的快速发展，网络直播也越来越广泛地应用到人们的日常生活中。直播平台为了规范主播的播放内容，往往需要对播放内容进行审核。
[0003]考虑到播放内容的多样性和随机性，相关技术中，采用人工审核的方式对播放内容进行审核。具体的，审核后台在接收到主播的直播视频流后，将直播视频流推送至审核人员；审核人员通过观看直播视频流判断主播的播放内容是否违规，若判断播放内容违规，则审核人员采取相应的处理措施对违规的播放内容进行处理。
[0004]上述过程中，针对每一直播视频流，审核人员均需要持续或周期性多频次的观看该直播视频流，从而导致审核人员的工作量较大，且审核效率较低，限制直播行业发展。

技术实现思路

[0005]本专利技术实施例的目的在于提供一种播放内容审核方法、装置及电子设备，以降低审核人员工作量。具体技术方案如下：
[0006]在本专利技术实施的第一方面，首先提供了一种播放内容审核方法，包括：
[0007]确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；
[0008]识别所述目标视频帧的图像内容信息，得到目标信息；
[0009]基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；
[0010]当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核。
[0011]在本专利技术实施的第二方面，还提供了一种播放内容审核装置，包括：
[0012]视频帧确定模块，用于确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；
[0013]信息识别模块，用于识别所述目标视频帧的图像内容信息，得到目标信息；
[0014]变更判断模块，用于基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；
[0015]消息输出模块，用于当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核。
[0016]在本专利技术实施的第三方面，还提供了一种计算机可读存储介质，所述计算机可读
存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一所述的播放内容审核方法。
[0017]在本专利技术实施的第四方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一所述的播放内容审核方法。
[0018]本专利技术实施例提供的播放内容审核方法、装置及电子设备，由于可以基于目标视频帧的目标信息以及基准视频帧的基准信息，判断目标视频帧的播放内容相对于基准视频帧是否发生变更，且仅在在发生变更的情况下，输出指示审核人员对所述目标视频帧进行人工审核的通知消息，当未违规时，则不需要审核人员进行审核，可见，审核人员不需要持续地或周期性观看直播视频流，而只需要在检测到目标视频帧相对于基准视频帧的播放内容发生变更后才需要对目标视频帧进行审核，从而可以降低审核人员的工作量。
[0019]同时，本专利技术实施例在检测到目标视频帧相对于基准视频帧的播放内容发生变更后，指示审核人员对所述目标视频帧进行人工审核，可见，本专利技术所提供的方案是自动检测与人工审核的结合，在降低了审核人员的工作量的同时，也通过指示人工审核的方式确保了审核结果的准确性，实现了降低工作流与审核结果准确性之间的平衡。
[0020]进一步的，对于直播场景而言，其所获取的视频帧为连续获取的，画面内容的变化也是连续的，其意味着，在检测到相对于基准视频帧播放内容发生变更的目标视频帧之前，目标视频帧之前的视频帧播放内容发生变更的可能性较低，因此，仅在判定目标视频帧的播放内容相对于基准视频帧发生变更时，指示审核人员对所述目标视频帧进行人工审核直播场景而言是合理的。
附图说明
[0021]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
[0022]图1为本专利技术实施例中提供的播放内容审核方法的流程示意图。
[0023]图2为本专利技术实施例中提供的播放内容审核方法的另一流程示意图。
[0024]图3为本专利技术实施例中提供的播放内容审核方法的另一流程示意图。
[0025]图4为本专利技术实施例中提供的与场景结合的播放内容审核方法的流程图。
[0026]图5为本专利技术实施例中提供的播放内容审核装置的结构示意图。
[0027]图6为本专利技术实施例中提供的电子设备的结构示意图。
具体实施方式
[0028]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0029]为了降低审核人员的工作量，本专利技术实施例提供了播放内容审核方法、装置及电子设备。
[0030]下面首先对本专利技术实施例所提供的一种播放内容审核方法进行介绍。
[0031]本专利技术实施例可以应用于直播场景中的审核后台。上述直播场景还包括直播端和
播放端。其中，直播端用于生成供播放端播放的直播视频流，在播放端接收直播视频流并进行播放的同时，审核后台需要对直播视频流进行审核，以在播放内容出现违规时，及时作出处理。
[0032]需要说明的是，本专利技术实施例可以应用于审核后台中各类电子设备，例如，电脑、服务器、手机以及其他具有数据处理能力的设备。并且，本专利技术实施例提供的播放内容审核方法可以通过软件、硬件或软硬件结合的方式实现。
[0033]相关技术中，采用人工审核的方式对播放内容进行审核。具体的，审核后台在接收到直播视频流后，将直播视频流推送至审核人员。由审核人员通过观看直播视频流判断播放内容是否出现违规。若判断播放内容违规，则审核人员采取相应的处理措施对违规的播放内容进行处理。上述过程中，审核人员需要持续地或周期性地观看播放内容，从而导致审核人员的工作量较大。
[0034]由于审核人员在实际工作场景中，需要在同一屏幕上同时观察多路直播视频流，而屏幕上的直播视频流大多数的时间都是相同的场景和事件，例如，同一个人在唱同一首歌，或同一个人表演同一个节目。对于此类场景和事件不会频繁发生变化的直播视频流，在同一场景和事件下，在其整个直播过程中本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种播放内容审核方法，其特征在于，包括：确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；识别所述目标视频帧的图像内容信息，得到目标信息；基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核。2.根据权利要求1所述的方法，其特征在于，所述图像内容信息至少包括以下信息中的一种：视频帧的颜色信息、视频帧的梯度值、视频帧的物品信息。3.根据权利要求2所述的方法，其特征在于，所述颜色信息包括：视频帧的主体颜色和/或各主体颜色的颜色占比信息；其中，任一主体颜色的颜色占比信息包括该主体颜色在所属视频帧中的颜色占比；所述识别所述目标视频帧的图像内容信息，得到目标信息，包括：对所述目标视频帧中各像素点的像素值进行聚类，得到多个聚类中心；确定各聚类中心对应的聚类颜色，得到所述目标视频帧的主体颜色；和/或，确定各主体颜色对应的聚类中心像素点占所述目标视频帧内各像素点的比例，得到各主体颜色的颜色占比信息。4.根据权利要求3所述的方法，其特征在于，当所述目标信息包括各个主体颜色和各主体颜色的颜色占比信息时；所述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，包括：判断所述目标视频帧的各主体颜色是否与所述基准视频帧的各主体颜色相同；当判断结果为是时，判断所述目标视频帧中各主体颜色的占比，相对于所述基准视频帧中各主体颜色的占比的变化值是否大于预设阈值；若任一主体颜色的变化值大于所述预设阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；若各主体颜色的变化值均不大于所述预设阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧未发生变更。5.根据权利要求2所述的方法，其特征在于，所述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，包括：计算所述目标视频帧的梯度值与所述基准视频帧的梯度值之间的梯度差；若所述梯度差大于预设梯度阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；若所述梯度差不大于所述预设梯度阈值，则所述目标视...

【专利技术属性】
技术研发人员：张峰，
申请(专利权)人：北京奇艺世纪科技有限公司，
类型：发明
国别省市：