一种内容审核系统、方法、装置、设备及介质制造方法及图纸

本发明专利技术公开了一种内容审核系统、方法、装置、设备及介质。由于该第一设备可以接收多个业务服务器发送的携带有目标数据的重审请求，并将接收到的重审请求发送至第二设备进行审核，从而实现帮助多个业务服务器监控待审核内容的重审过程，降低了多个业务服务器的工作压力。第一设备对于接收到的每个重审请求，均根据预设的一个推审协议，实现分别将每个重审请求发送至第二设备进行重审，即不同业务均对应相同的一个推审协议，使得后续即使第二设备上的接收接口出现问题，也只需修改该一个推审协议，大大减少了第二设备的接收接口发送变化时，修改每个业务分别对应的推审协议需耗费的工作量，提高了内容审核的灵活性以及通用性。提高了内容审核的灵活性以及通用性。提高了内容审核的灵活性以及通用性。

【技术实现步骤摘要】
一种内容审核系统、方法、装置、设备及介质


[0001]本专利技术涉及数据处理
，尤其涉及一种内容审核系统、方法、装置、设备及介质。

技术介绍

[0002]随着互联网技术的发展和技术革新，信息传播的速度大幅度增快，数据量呈指数级暴增，同时数据质量参差不齐，给用户带来不好的影响。为了加强网络文明建设，用户通过智能设备上运行的应用所发布的内容，需要被内容审核服务器进行审核。
[0003]现有的内容审核方式为，业务服务器会向内容审核服务器发送对目标内容进行审核的请求，以获取内容审核服务器对目标内容的审核结果。业务服务器根据该审核结果，对该目标内容进行处理。在该审核方式中，如果由于网络故障、内容审核服务器故障等原因，比如，由于网络原因导致无法将业务服务器的请求发送至内容审核服务器，或，无法将内容审核服务器的反馈结果发送至业务服务器，使得业务服务器无法获取到目标内容的审核结果，则业务服务器会向该内容审核服务器发送对目标内容进行重审的重审请求。图1为现有的一种内容审核的过程示意图。如图1所示，如果后续业务服务器仍获取不到内容审核服务器对该目标内容的重审结果，则该业务服务器会再次发送重审请求，直至获取到该目标内容的重审结果，从而避免将一些违规内容一直在网络上传播，影响网络健康环境。在该种方式下，每个业务服务器需要自行向内容审核服务器发送重审请求，且在未接收到该重审请求对应的审核结果之前会一直向内容审核服务器发送该重审请求，增加了每个业务服务器的工作压力和负载。且针对每个业务服务器，该业务服务器需要与审核内容服务器预先约定好该业务服务器所提供的每种业务分别对应的推审协议，才能实现后续根据该业务服务器所提供的某一业务对应的推审协议，将业务的重审请求发送至审核内容服务器，但如果出现审核内容服务器上用于接收重审请求的接口发生变化时，需要将所有业务分别对应的推审协议进行修改，使得该方式不具有通用性，内容审核服务器的接收接口发送变化时，修改每个业务分别对应的推审协议需耗费大量的工作量，降低了内容审核过程的灵活性。

技术实现思路

[0004]本专利技术实施例提供了一种内容审核系统、方法、装置、设备及介质，用以解决现有审核方式中的业务服务器的负载高、且现有审核方式的通用性差的问题。
[0005]本专利技术实施例提供了一种内容审核系统，所述系统包括：第一设备以及第二设备；
[0006]所述第一设备，用于获取多个业务服务器发送的携带有目标数据的重审请求；其中，所述目标数据中包含有目标业务类型以及待审核内容；根据预设的一个推审协议，分别将每个所述重审请求发送至所述第二设备；接收所述第二设备发送的任一重审请求对应的审核结果并返回给该重审请求对应的业务服务器；
[0007]所述第二设备，用于根据所述推审协议，接收每个所述重审请求；针对每个所述重审请求，根据预先配置的业务类型与审核方式的对应关系，确定该重审请求携带的目标业
务类型对应的目标审核方式；根据所述目标审核方式，对该重审请求携带的待审核内容进行审核，获取该重审请求对应的审核结果并发送至所述第一设备。
[0008]本专利技术实施例提供了一种内容审核方法，所述方法包括：
[0009]获取多个业务服务器发送的携带有目标数据的重审请求；其中，所述目标数据中包含有目标业务类型以及待审核内容；
[0010]根据预设的一个推审协议，分别将每个所述重审请求发送至第二设备；
[0011]接收所述第二设备发送的任一重审请求对应的审核结果并返回给该重审请求对应的业务服务器。
[0012]本专利技术实施例提供了一种内容审核装置，所述装置包括：
[0013]获取单元，用于获取多个业务服务器发送的携带有目标数据的重审请求；其中，所述目标数据中包含有目标业务类型以及待审核内容；
[0014]发送单元，用于根据预设的一个推审协议，分别将每个所述重审请求发送至第二设备；
[0015]所述获取单元，还用于接收所述第二设备发送的任一重审请求对应的审核结果；
[0016]所述发送单元，还用于将该重审请求对应的审核结果返回给该重审请求对应的业务服务器。
[0017]本专利技术实施例提供了一种电子设备，所述电子设备包括处理器，所述处理器用于执行存储器中存储的计算机程序时实现如上述所述内容审核方法的步骤。
[0018]本专利技术实施例提供了一种计算机可读存储介质，其存储有计算机程序，所述计算机程序被处理器执行时实现如上述所述内容审核方法的步骤。
[0019]由于内容审核系统中设置有第一设备，该第一设备可以接收多个业务服务器发送的携带有目标数据的重审请求，并将接收到的重审请求发送至第二设备进行审核，从而实现通过第一设备代理多个业务服务器在内容重审过程所执行的工作，帮助多个业务服务器监控待审核内容的重审过程，减少了多个业务服务器的工作量，降低了多个业务服务器的工作压力。并且，第一设备对于接收到的每个重审请求，均根据预设的一个推审协议，实现分别将每个重审请求发送至第二设备进行重审，即不同业务均对应相同的一个推审协议，使得后续即使第二设备上的接收接口出现问题，也只需修改该一个推审协议，减少了第二设备的接收接口发送变化时，修改每个业务分别对应的推审协议需耗费的工作量，提高了内容审核的灵活性以及通用性，减少第二设备的接收接口发生变化对内容审核过程的影响。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简要介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1为现有的一种内容审核的过程示意图；
[0022]图2为本专利技术实施例提供的一种内容审核系统的结构示意图；
[0023]图3为本专利技术实施例提供的内容审核系统的工作交互示意图；
[0024]图4为本专利技术实施例提供的一种重审请求的示意图；
[0025]图5为本专利技术实施例提供的一种内容审核过程示意图；
[0026]图6为本专利技术实施例提供的具体的内容审核流程示意图；
[0027]图7为本专利技术实施例提供的一种内容审核装置的结构示意图；
[0028]图8为本专利技术实施例提供的一种电子设备结构示意图。
具体实施方式
[0029]下面将结合附图对本专利技术作进一步地详细描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本专利技术保护的范围。
[0030]本领域技术人员知道，本专利技术的实施方式可以实现为一种系统、装置、设备、方法或计算机程序产品。因此，本专利技术可以具体实现为以下形式，即：完全的硬件、完全的软件(包括固件、驻留软件、微代码等)，或者硬件和软件结合的形式。
[0031]在本文中，需要理解的是，附图中的任何元素数量均用于示例而非限制，以及任何本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种内容审核系统，其特征在于，所述系统包括：第一设备以及第二设备；所述第一设备，用于获取多个业务服务器发送的携带有目标数据的重审请求；其中，所述目标数据中包含有目标业务类型以及待审核内容；根据预设的一个推审协议，分别将每个所述重审请求发送至所述第二设备；接收所述第二设备发送的任一重审请求对应的审核结果并返回给该重审请求对应的业务服务器；所述第二设备，用于根据所述推审协议，接收每个所述重审请求；针对每个所述重审请求，根据预先配置的业务类型与审核方式的对应关系，确定该重审请求携带的目标业务类型对应的目标审核方式；根据所述目标审核方式，对该重审请求携带的待审核内容进行审核，获取该重审请求对应的审核结果并发送至所述第一设备。2.如权利要求1所述的系统，其特征在于，所述第一设备，还用于若在将任一重审请求发送至所述第二设备之后的第一预设时间段内，未接收到该重审请求对应的审核结果，则确定该重审请求重审失败，并根据所述推审协议，将该重审请求发送至所述第二设备。3.如权利要求2所述的系统，其特征在于，所述第一设备，还用于获取在当前时间之前的第二预设时间段内，重审失败的重审请求的第一数量；若确定所述第一数量大于预设的第一数量阈值，则输出第一告警信息。4.如权利要求1
‑
3任一所述的系统，其特征在于，所述第一设备，具体用于统计已发送该重审请求的目标发送次数；根据预先配置的发送次数与预设周期的对应关系，确定所述目标发送次数对应的目标预设周期；按照所述目标预设周期，根据所述推审协议，将该重审请求发送至所述第二设备。5.如权利要求4所述的系统，其特征在于，所述第一设备，还用于针对每个所述预设周期，...

【专利技术属性】
技术研发人员：莫汉辉，
申请(专利权)人：百果园技术新加坡有限公司，
类型：发明
国别省市：