一种针对不同应用场景的内容审核方法及装置制造方法及图纸

本发明专利技术涉及视频信息技术领域，尤其涉及一种针对不同应用场景的内容审核方法及装置，方法包括：获取多个不同应用场景的数据；根据多个不同应用场景的数据和通用内容审核模型，确定多个不同应用场景的场景模型；根据用户需求和多个不同应用场景的场景模型，确定多个不同应用场景的审核策略；根据多个不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果。本发明专利技术提供的方法可以针对不同的应用场景提供不同的审核尺度，提高内容审核的效率。

【技术实现步骤摘要】
一种针对不同应用场景的内容审核方法及装置
本专利技术涉及视频信息
，尤其涉及一种针对不同应用场景的内容审核方法及装置。
技术介绍
目前内容审核的需求主要集中于UGC、直播、视频网站等应用场景，然而不同的应用场景对审核尺度的要求不尽一致，这就对内容审核造成了不便，严重影响审核效率。
技术实现思路
本专利技术所要解决的技术问题是针对现有技术的不足，提供一种针对不同应用场景的内容审核方法及装置。本专利技术解决上述技术问题的技术方案如下：一种针对不同应用场景的内容审核方法，包括：获取多个不同应用场景的数据；根据多个所述不同应用场景的数据和通用内容审核模型，确定多个所述不同应用场景的场景模型；根据用户需求和多个所述不同应用场景的场景模型，确定多个所述不同应用场景的审核策略，多个所述不同应用场景的审核策略分别对应不同的审核尺度；根据多个所述不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果。本专利技术的有益效果是：通过获取的多个不同应用场景的数据和通用内容审核模型，确定多个不同应用场景的场景模型后，基于用户需求和这多个不同应用场景的场景模型，确定多个不同应用场景的审核策略，而这多个不同应用场景的审核策略分别对应不同的审核尺度，再根据这多个不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果，从而可以针对不同的应用场景提供不同的审核尺度，提高内容审核的效率。在上述技术方案的基础上，本专利技术还可以做如下改进。进一步地，根据多个所述不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果，包括：确定所述待审核应用场景所属的应用场景；从多个所述不同应用场景的审核策略中确定所述待审核应用场景所属应用场景对应的审核策略；根据所述待审核应用场景所属应用场景对应的审核策略，对所述待审核应用场景的内容进行审核，并返回审核结果。采用上述进一步方案的有益效果是：通过确定待审核应用场景所属的应用场景以及与之相对应的审核策略，可以更加方便快速的对待审核应用场景进行内容审核。进一步地，所述方法还包括：根据所述审核结果调整所述审核策略；根据调整后的所述审核策略更新多个所述不同应用场景的审核策略。采用上述进一步方案的有益效果是：通过审核结果去调整原有的审核策略并将其更新为调整之后的审核策略，可以不断的调整不同应用场景对应的审核策略，使得对内容审核的工作更加快捷有效。进一步地，所述审核结果包括：拒绝、通过，或者，拒绝、审核、通过。本专利技术为了解决上述技术问题还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现上述任一项实施例中的针对不同应用场景的内容审核方法。本专利技术为了解决上述技术问题还提供一种针对不同应用场景的内容审核设备，其特征在于，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述任一项实施例中的针对不同应用场景的内容审核方法的步骤。本专利技术解决上述技术问题的另一种技术方案如下：一种针对不同应用场景的内容审核装置，包括：获取模块，用于获取多个不同应用场景的数据；处理模块，用于根据所述获取模块获取的多个所述不同应用场景的数据和通用内容审核模型，确定多个所述不同应用场景的场景模型，根据用户需求和多个所述不同应用场景的场景模型，确定多个所述不同应用场景的审核策略，多个所述不同应用场景的审核策略分别对应不同的审核尺度；审核模块，用于根据所述处理模块确定的多个所述不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果。本专利技术的有益效果是：处理模块通过获取模块获取的多个不同应用场景的数据和通用内容审核模型，确定多个不同应用场景的场景模型后，基于用户需求和这多个不同应用场景的场景模型，确定多个不同应用场景的审核策略，而这多个不同应用场景的审核策略分别对应不同的审核尺度，审核模块再根据这多个不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果，从而可以针对不同的应用场景提供不同的审核尺度，提高内容审核的效率。在上述技术方案的基础上，本专利技术还可以做如下改进。进一步地，所述审核模块具体用于确定所述待审核应用场景所属的应用场景，从多个所述不同应用场景的审核策略中确定所述待审核应用场景所属应用场景对应的审核策略，并根据所述待审核应用场景所属应用场景对应的审核策略，对所述待审核应用场景的内容进行审核，并返回审核结果。进一步地，所述处理模块还用于，根据所述审核结果调整所述审核策略，并根据调整后的所述审核策略更新多个所述不同应用场景的审核策略。进一步地，所述审核结果包括：拒绝、通过，或者，拒绝、审核、通过。本专利技术附加的方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本专利技术实践了解到。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对本专利技术实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面所描述的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术实施例提供的一种针对不同应用场景的内容审核方法的示意性流程图；图2为本专利技术另一实施例提供的一种针对不同应用场景的内容审核方法的示意性流程图；图3为本专利技术另一实施例提供的一种针对不同应用场景的内容审核方法的示意性流程图；图4为本专利技术实施例提供的一种针对不同应用场景的内容审核装置的示意性结构框图。具体实施方式下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术的一部分实施例，而不是全部实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都应属于本专利技术保护的范围。如图1所示，一种针对不同应用场景的内容审核方法100，包括：110、获取多个不同应用场景的数据。120、根据多个不同应用场景的数据和通用内容审核模型，确定多个不同应用场景的场景模型。130、根据用户需求和多个不同应用场景的场景模型，确定多个不同应用场景的审核策略。其中，多个不同应用场景的审核策略分别对应不同的审核尺度。140、根据多个不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果。具体的，在该实施例中，多个不同的应用场景的内容可以包括：游戏、动漫、表情包和真人秀中的一种或者多种。而不同的应用场景对相同内容的审核尺度是不同的，而审核结果可以包括：拒绝、通过，或者，拒绝、审核、通过。在本实施例中，通过获取的多个不同应用场景的数据和通用内容审核模型，确定多个不同应用场景的场景模型后，基于用户需求和这多个不同应用场景的场景模型，确定多个不同应用场景的审核策略，而这多个不同应用场景的审核策略分别对应不同的审核尺度，再根据这多个不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果，从而可以针对不同的应用场景提供不同的审核尺度，提高内容审核的效率。需要说明的是，在该实施例中，有多个不同的应用场景，每个应用场景包括多个内容，每个内容对应一个审核策略，每个审核策略对应一个审核尺度。另外，在该实施例中，步骤110中的应用场景的数据是指应用场景的内容，也就是说，场景的本文档来自技高网...

【技术保护点】
1.一种针对不同应用场景的内容审核方法，其特征在于，包括：获取多个不同应用场景的数据；根据多个所述不同应用场景的数据和通用内容审核模型，确定多个所述不同应用场景的场景模型；根据用户需求和多个所述不同应用场景的场景模型，确定多个所述不同应用场景的审核策略，多个所述不同应用场景的审核策略分别对应不同的审核尺度；根据多个所述不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果。

【技术特征摘要】
1.一种针对不同应用场景的内容审核方法，其特征在于，包括：获取多个不同应用场景的数据；根据多个所述不同应用场景的数据和通用内容审核模型，确定多个所述不同应用场景的场景模型；根据用户需求和多个所述不同应用场景的场景模型，确定多个所述不同应用场景的审核策略，多个所述不同应用场景的审核策略分别对应不同的审核尺度；根据多个所述不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果。2.根据权利要求1所述的方法，其特征在于，根据多个所述不同应用场景的审核策略对待审核应用场景的内容进行审核，并返回审核结果，包括：确定所述待审核应用场景所属的应用场景；从多个所述不同应用场景的审核策略中确定所述待审核应用场景所属应用场景对应的审核策略；根据所述待审核应用场景所属应用场景对应的审核策略，对所述待审核应用场景的内容进行审核，并返回审核结果。3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：根据所述审核结果调整所述审核策略；根据调整后的所述审核策略更新多个所述不同应用场景的审核策略。4.根据权利要求1或2所述的方法，其特征在于，所述审核结果包括：拒绝、通过，或者，拒绝、审核、通过。5.一种针对不同应用场景的内容审核装置，其特征在于，包括：获取模块，用于获取多个不同应用场景的数据；处理模块，用于根据所述获取模块获取的多个所述不同应用场景的数据和通用内容审核模型，确定多个所述不同应用...

【专利技术属性】
技术研发人员：曹腾，唐会军，刘拴林，陈云阔，
申请(专利权)人：北京数美时代科技有限公司，
类型：发明
国别省市：北京,11