视频发布方法、装置、电子设备及存储介质制造方法及图纸

本申请公开了一种视频发布方法、装置、电子设备及存储介质，涉及互联网技术领域。其中，该方法包括：获取待发布的视频；根据预设规则判断所述视频是否具有违规风险；若判断结果为否，将所述视频上传至播放列表进行发布，并将从所述视频中选取的视频帧发送至初级审核客户端进行初级审核；若判断结果为是，则将所述视频发送至二级审核客户端进行二级审核，并接收所述二级审核客户端返回的二审结果，若所述二审结果为所述视频不包括违规内容，将所述视频上传至播放列表进行发布，使高危视频先审后发，低危视频先发后审，兼顾视频的及时发布以及有效审核。

Video Publishing Method, Device, Electronic Equipment and Storage Media

The application discloses a video publishing method, device, electronic device and storage medium, which relates to the technical field of Internet. The method includes: acquiring the video to be released; judging whether the video is at risk of violation according to the preset rules; uploading the video to the playlist for publication if the judgment result is not, and sending the video frame selected from the video to the primary auditing client for primary auditing; and sending the video to the secondary auditing if the judgment result is yes. The client carries out the second-level auditing and receives the second-level auditing result returned by the client. If the second-level auditing result is that the video does not include illegal content, the video is uploaded to the playlist for publication, so that the high-risk video is first audited, and the low-risk video is first audited, taking into account the timely release and effective auditing of the video.

【技术实现步骤摘要】
视频发布方法、装置、电子设备及存储介质
本申请涉及互联网
，更具体地，涉及一种视频发布方法、装置、电子设备及存储介质。
技术介绍
随着互联网技术的不断发展，网络平台中各种形式的视频内容越来越丰富，如各种短视频、长视频等。在这些视频中，可能存在一些包括违规内容的视频，如视频中包括有违社会公德的内容、违反法律法规的内容、对青少年具有不良影响的内容以及其他需要禁止播放的内容。为了避免违规视频向用户开放，可以对视频进行审核，但是视频的有效审核以及视频的及时发布难以兼顾。
技术实现思路
鉴于上述问题，本申请提出了一种视频发布方法、装置、电子设备及存储介质，以改善上述问题。第一方面，本申请实施例提供了一种视频发布方法，该方法包括：获取待发布的视频；根据预设规则判断所述视频是否具有违规风险；若判断结果为否，将所述视频上传至播放列表进行发布，并将从所述视频中选取的视频帧发送至初级审核客户端进行初级审核；若判断结果为是，则将所述视频发送至二级审核客户端进行二级审核，并接收所述二级审核客户端返回的二审结果，若所述二审结果为所述视频不包括违规内容，将所述视频上传至播放列表进行发布。第二方面，本申请实施例提供了一种视频发布装置，所述装置包括：视频获取模块，用于获取待发布的视频；判断模块，用于根据预设规则判断所述视频是否具有违规风险；处理模块，用于若判断结果为否，将所述视频上传至播放列表进行发布，并将从所述视频中选取的视频帧发送至初级审核客户端进行初级审核；若判断结果为是，将所述视频发送至二级审核客户端进行二级审核，并接收所述二级审核客户端返回的二审结果，若所述二审结果为所述视频不包括违规内容，将所述视频上传至播放列表进行发布。第三方面，本申请实施例提供了一种电子设备，包括：一个或多个处理器；存储器；一个或多个程序。其中所述一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序配置用于执行上述的方法。第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有程序代码，所述程序代码可被处理器调用执行上述的方法。本申请实施例提供的视频发布方法、装置、电子设备及存储介质，在视频进行发布之前，先根据预设规则对视频进行违规审核。在该审核的结果为判定视频不具有违规风险的情况下将视频上传至播放列表进行发布，并发送至初级审核客户端进行初级审核。在该审核的结果为判定视频具有违规风险的时候直接将视频发送至二级审核客户端进行二级审核，当二级审核的结果为视频不包括违规内容时，才将视频发布。该方案中，使危险性较高的视频先审核，再发布；危险性较低的视频可以先发布，再审核，兼顾视频的及时发布以及有效审核。附图说明为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1示出了本申请实施例提供的审核终端和服务器的交互示意图。图2示出了本申请一实施例提供的视频发布方法的流程图。图3示出了本申请另一实施例提供的视频发布方法的流程图。图4示出了本申请实施例提供的初级审核客户端的一种审核界面图。图5示出了本申请实施例提供的二级审核客户端的一种审核界面图。图6示出了本申请又一实施例提供的视频发布方法的流程图。图7示出了本申请实施例提供的视频发布装置的功能模块图。图8示出了本申请实施例提供的电子设备的结构框图。图9是本申请实施例的用于保存或者携带实现根据本申请实施例的视频发布方法的程序代码的存储介质。具体实施方式为了使本
的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。随着移动终端普及和网络的提速，各种各样的视频越来越多。例如，以短视频为例，短视频以其短平快的特点逐渐获得各大平台、粉丝和资本的青睐。短视频制作简单，发布方便，表现形式多样，内容丰富，是适合在移动状态和短时休闲状态下观看的、高频推送的视频内容。因此，越来越多的人参与到短视频的制作、分享以及观看中来，从而短视频的数量越来越多，内容越来越丰富，观众也越来越多。但是在众多的视频中，有些视频可能是违规视频，即该视频中包括违规内容。若将这些违规视频向用户开放，则不仅可能传递负面信息、违法信息等被禁止的信息，甚至可能违反法律法规。因此，需要避免违规视频的发布，从而避免违规视频向用户开放。为了避免包括违规视频的视频上架，可以对视频进行审核，确定其是否违规。通常的，为了保证视频的及时发布，降低对视频发布速度的影响，可以通过机器对视频进行图像分析或者来源分析，确定视频中是否包括违规内容。但是，机器的识别能力不足，如由于机器的样本库不完善，或者视频中的违规内容与机器的样本库中匹配度不高等，可能导致机器判断错误，使某些本来包括违规内容的视频被机器判断为不违规。并且通过验证，机器无法发现所有包括违规内容的视频。通常的，人工审核可以保证视频审核的准确性，有效识别视频中的违规内容。但是人工审核需要审核人员对每一个视频进行审核，确定视频是否违规，审核速度较慢，严重影响视频的发布速度。专利技术人通过研究发现，机器判断错误的几率较低，即大部分的机器判断结果还是正确的。另外，虽然机器判断为不违规的视频可能包括违规内容，但这些违规内容的危险性较低。因此，专利技术人提出了本申请实施例中的视频发布方法、装置、电子设备及存储介质，用于如图1所示网络连接的服务器以及审核终端中的服务器。该审核终端可以是手机、计算机、平板电脑以及其他可以通过视频审核客户端进行视频审核的智能设备，与服务器网络连接的审核终端的数量可以为多个，图1中仅以2个为例进行说明。另外，该服务器可以是单个的服务器，也可以是服务器集群，在本申请实施例中并不限定。该视频发布方法、装置、电子设备及存储介质对待发布的视频先通过机器根据预设规则判断是否有违规风险。若机器判断具有违规风险，则该视频通常都包括违规内容，可以直接发送至二级审核客户端进行二级审核，在二级审核客户端审核结果为视频不包括违规内容的情况下再发布；若机器判断没有违规风险，即机器判断该视频中不包括违规内容，则该视频被判断错误的可能性较小，或者该视频即使包括违规内容，可能危险性也较低，可以先将该视频上架，使视频及时发布，再通过初级审核客户端对该视频进行审核。该视频发布方法、装置、电子设备及存储介质使危险性较高的视频先审核后发布，使危险性较低的视频先发布再审核，兼顾视频审核的准确性。下面将通过具体实施例对本申请实施例提供的视频发布方法、装置、电子设备及存储介质进行详细说明。请参阅图2，示出了本申请实施例提供的视频发布方法的流程图。该视频发布方法在服务器判定视频不具有违规风险时将视频上传至播放列表，并且将视频中的视频帧发送至初级审核客户端进行初级审核；在服务器判定视频具有违规风险时，直接由审核客户端进行审核，审核不违规时再发布。在具体的实施例中，该视频发布方法可以应用于如图7所示的视频发布装置400以及配置有所述视频发布装置400的电子设备500(图8)。下面将以电子设备为例，说明本实施例的具体流程。其中，本实施例所应用的电子设备可本文档来自技高网...

【技术保护点】
1.一种视频发布方法，其特征在于，所述方法包括：获取待发布的视频；根据预设规则判断所述视频是否具有违规风险；若判断结果为否，将所述视频上传至播放列表进行发布，并将从所述视频中选取的视频帧发送至初级审核客户端进行初级审核；若判断结果为是，则将所述视频发送至二级审核客户端进行二级审核，并接收所述二级审核客户端返回的二审结果，若所述二审结果为所述视频不包括违规内容，将所述视频上传至播放列表进行发布。

【技术特征摘要】
1.一种视频发布方法，其特征在于，所述方法包括：获取待发布的视频；根据预设规则判断所述视频是否具有违规风险；若判断结果为否，将所述视频上传至播放列表进行发布，并将从所述视频中选取的视频帧发送至初级审核客户端进行初级审核；若判断结果为是，则将所述视频发送至二级审核客户端进行二级审核，并接收所述二级审核客户端返回的二审结果，若所述二审结果为所述视频不包括违规内容，将所述视频上传至播放列表进行发布。2.根据权利要求1所述的方法，其特征在于，所述将从所述视频中选取的视频帧发送至初级审核客户端进行初级审核之后，所述方法还包括：接收所述初级审核客户端返回的初审结果；若所述初审结果为所述视频包括违规内容，将所述视频发送至二级审核客户端进行二级审核。3.根据权利要求2所述的方法，其特征在于，所述将所述视频发送至二级审核客户端进行二级审核之后，所述方法还包括：若所述二审结果为所述视频包括违规内容，将所述视频从所述播放列表删除。4.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：将所述视频发送至二级审核客户端的同时，将从所述视频中选取的视频帧发送到二级审核客户端进行二级审核，以用于二级审核客户端通过所述视频或者选取的视频帧进行审核。5.根据权利要求1所述的方法，其特征在于，所述根据预设规则判断视频是否具有违规风险，包括：通过图像分析判断所述视频是否包括违规内容；若是，判定所述视频具有违规风险，若否，判定视频不具有违规风险。6.根据权利要求5所述的方法，其特征在于，所述通过图像分析判断所述视频是否包括违规内容，包括：从所述视频中按照第一间隔时间选取一帧或多帧视频帧，作为第一目标视频帧；对所述第一目标视频帧进行图像分析，判断所述第一目标视频帧中...

【专利技术属性】
技术研发人员：黄梓宁，李锦春，邱泽潮，邓力铭，
申请(专利权)人：广州华多网络科技有限公司，
类型：发明
国别省市：广东,44