举报信息处理方法、设备及计算机可读介质技术

本申请提供了一种举报信息处理方案，该方案中服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记，而后所述服务端设备可以从所述决策用户的用户设备获取所述决策用户对所述举报信息的第一标记信息，并根据所述第一标记信息，确定所述举报信息的举报处理结果。由此，可以将平台方人工审核的人力人本转移至用户方，从用户中选取一部分决策用户，替代平台方对举报信息进行处理，利用用户自助审核的方式降低成本。

【技术实现步骤摘要】
举报信息处理方法、设备及计算机可读介质
本申请涉及信息
，尤其涉及一种举报信息处理方法、设备及计算机可读介质。
技术介绍
随着互联网技术的不断发展，互联网公司提供各种各样的社交应用产品，用户通过所述社交应用产品可以与其它用户沟通，以实现各类社交需求。但是在各个社交平台中，也会存在一些恶意用户，此类用户会在社交过程中进行一些干扰其它用户正常使用的社交行为，例如语言骚扰、诈骗等行为。目前能准确、有效的打击此类恶意用户的方法主要是由其它用户的举报，通过对这些举报进行审核，在举报核实之后，对这些恶意用户采取相应的措施，例如禁言、封号等。对于社交平台而言，为了确保审核的准确性，审核过程中需要投入大量的人力来进行人工审核，因此会使得运营成本大大提升。
技术实现思路
本申请的一个目的是提供一种举报信息处理方法、设备及计算机可读介质。为实现上述目的，本申请的一些实施例提供了一种举报信息处理方法，该方法包括：服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记；所述服务端设备从所述决策用户的用户设备获取所述决策用户对所述举报信息的第一标记信息；所述服务端设备根据所述第一标记信息，确定所述举报信息的举报处理结果。本申请实施例提供了另一种举报信息处理方法，该方法包括：用户设备获取服务端设备发送的举报信息；所述用户设备根据用户的标记操作，对所述举报信息进行标记，生成第一标记信息；所述用户设备将所述第一标记信息发送给所述服务端设备，以使所述服务端设备根据所述第一标记信息，确定所述举报信息的举报处理结果。本申请实施例还提供了一种举报信息处理方法，该方法包括：用户设备获取服务端设备发送的申诉信息，所述申诉信息由违规用户提交至所述服务端设备，所述违规用户为举报处理结果为违规的举报信息所对应的被举报用户；所述用户设备根据用户的标记操作，对所述申诉信息进行标记，生成第二标记信息；所述用户设备将所述第二标记信息发送给所述服务端设备，以使所述服务端设备根据所述第二标记信息，确定所述申诉信息的申诉处理结果。此外，本申请实施例还提供了一种举报信息处理设备，该设备包括用于存储计算机程序指令的存储器和用于执行计算机程序指令的处理器，其中，当该计算机程序指令被该处理器执行时，触发所述设备执行所述举报信息处理方法。本申请实施例还提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机可读指令可被处理器执行以实现所述举报信息处理方法。本申请的一些实施例提供了一种举报信息处理方案，该方案中服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记，而后所述服务端设备可以从所述决策用户的用户设备获取所述决策用户对所述举报信息的第一标记信息，并根据所述第一标记信息，确定所述举报信息的举报处理结果。由此，可以将平台方人工审核的人力人本转移至用户方，从用户中选取一部分决策用户，替代平台方对举报信息进行处理，利用用户自助审核的方式降低成本。附图说明通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：图1为本申请实施例提供的一种举报信息处理方法的处理流程图；图2为本申请实施例提供的另一种举报信息处理方法的处理流程图；图3为本申请实施例中对举报处理结果进行申诉时的处理流程示意图图4为本申请实施例的方案应用于社交应用场景时的处理逻辑示意图；图5为本申请实施中实现举报信息处理的计算设备的结构示意图；附图中相同或相似的附图标记代表相同或相似的部件。具体实施方式为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。在本申请一个典型的配置中，终端、服务网络的设备均包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flashRAM)。内存是计算机可读介质的示例。计算机可读介质包括永久性和非永久性、可移动和非可移动媒体，可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。本申请实施例提供了一种举报信息处理方法，该方法可以将平台方人工审核的人力人本转移至用户方，从用户中选取一部分决策用户，替代平台方对举报信息进行处理，利用用户自助审核的方式降低成本。在实际场景中，该方法可以由服务端设备执行，所述服务端设备可以包括但不限于网络主机、单个网络服务器、多个网络服务器集或基于云计算的计算机集合等实现，在此，云由基于云计算(CloudComputing)的大量主机或网络服务器构成，其中，云计算是分布式计算的一种，由一群松散耦合的计算机集组成的一个虚拟计算机。在所述服务端设备中可以运行有可实现社交功能的服务端程序，以完成相应的处理以及其它设备之间的交互逻辑。图1示出了本申请实施例提供的一种在服务端设备中实现的举报信息处理方法，该方法至少包括以下的处理步骤：步骤S101，服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记。其中，举报信息可以来自于举报用户对应的用户设备，用以请求对被举报用户的行为是否违规进行判定，举报用户和被举报用户分别为不同的用户。例如，当用户A和用户B通过即时通信应用聊天时，用户B向用户A发送了一些违规言论，此时用户A可以通过相应的举报操作对用户B进行举报。还如，当用户C在UGC(UserGeneratedContent，用户生成内容)类应用中发布一些违规内容之后，任意查看到这些违规内容的用户也可以通过相应的举报操作对该用户C进行举报。当检测到用户的举报操作之后，用户所使用的用户设备可以生成相应的举报信息，并发送给服务端设备。所述用户设备可以包括但不限于计算机、手机、平板电脑、智能手表等各类终端设备，这些终端设备上可运行有具有社交功能本文档来自技高网...

【技术保护点】
1.一种举报信息处理方法，其中，该方法包括：/n服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记；/n所述服务端设备从所述决策用户的用户设备获取所述决策用户对所述举报信息的第一标记信息；/n所述服务端设备根据所述第一标记信息，确定所述举报信息的举报处理结果。/n

【技术特征摘要】
1.一种举报信息处理方法，其中，该方法包括：
服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记；
所述服务端设备从所述决策用户的用户设备获取所述决策用户对所述举报信息的第一标记信息；
所述服务端设备根据所述第一标记信息，确定所述举报信息的举报处理结果。


2.根据权利要求1所述的方法，其中，服务端设备在接收到举报信息之后，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记，包括：
服务端设备在接收到举报信息之后，采用识别模型对所述举报信息进行自动识别，获取初步处理结果；
将初步处理结果为违规的举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述举报信息进行标记。


3.根据权利要求1所述的方法，其中，在将所述举报信息发送至预设数量的决策用户对应的用户设备之前，还包括：
根据用户的历史行为信息，将符合决策条件的用户确定为决策用户。


4.根据权利要求1所述的方法，其中，所述服务端设备根据所述第一标记信息，确定所述举报信息的举报处理结果，包括：
若表示违规的第一标记信息的比例达到第一预设值，所述服务端设备确定所述举报信息的举报处理结果为违规；
若表示违规的第一标记信息的比例未达到第一预设值，所述服务端设备确定所述举报信息的举报处理结果为未违规。


5.根据权利要求1所述的方法，其中，该方法还包括：
所述服务端设备将举报处理结果为违规的举报信息所对应的被举报用户确定为违规用户。


6.根据权利要求5所述的方法，其中，该方法还包括：
所述服务端设备获取违规用户的申诉信息，将所述举报信息发送至预设数量的决策用户对应的用户设备，以使所述决策用户对所述申诉信息进行标记；
所述服务端设备从所述决策用户的用户设备获取所述决策用户对所述申诉信息的第二标记信息；
所述服务端设备根据所述第二标记信息，确定所述申诉信息的申诉处理结果；
所述服务端设备将申诉处理结果为未违规的申诉信息所对应的违规用户变更为未违规用户。


7.根据权利要求6所述的方法，其中，服...

【专利技术属性】
技术研发人员：高超，郭忠祥，
申请(专利权)人：上海连尚网络科技有限公司，
类型：发明
国别省市：上海;31