用于识别滥用内容项的方法、系统和介质技术方案

提供了用于识别滥用内容项的方法、系统和介质。在一些实施例中，该方法包括：在服务器从与用户相关联的用户设备接收在媒体内容平台上提供用户生成的内容的请求；响应于接收到请求，基于一个或多个绕过准则来确定用户生成的内容是否要由一个或多个审查用户审查；响应于基于一个或多个绕过准则确定用户生成的内容要被审查，将审查请求添加到审查用户的队列，其中审查请求包括用户生成的内容和与对应于用户的用户账户相关联的信息；以及确定响应于审查请求的决策是否指示用户生成的内容将在媒体内容平台上被提供，其中：响应于确定决策指示用户生成的内容项违反与媒体内容平台相关联的至少一个策略，(i)第一消息被传送到用户设备的用户，该第一消息指示至少一个违反的策略和要被施加到与用户相对应的用户账户的惩罚，以及(ii)采取了禁止在媒体内容平台上提供用户生成的内容的对应动作；以及响应于确定决策指示用户生成的内容项没有违反与媒体内容平台相关联的至少一个策略，第二消息被传送到用户设备的用户，该第二消息指示用户生成的内容有资格在媒体内容平台上被提供。内容有资格在媒体内容平台上被提供。内容有资格在媒体内容平台上被提供。

【技术实现步骤摘要】
【国外来华专利技术】用于识别滥用内容项的方法、系统和介质


[0001]所公开的主题涉及用于识别滥用内容项(abusive content item)的方法、系统和介质。更具体地，所公开的主题涉及基于一个或多个准则来确定用户生成的内容是否应当由一个或多个审查者手动地审查或者用户生成的内容的手动审查是否能够被绕过，以及确定用户生成的内容是否是滥用内容，使得能够对用户生成的内容采取对应的动作。

技术介绍

[0002]媒体内容平台已经成为用户发现和共享数字媒体内容的主要机制。例如，内容创建者可以将内容创建者已经创建的视频或其他内容项上传到媒体内容平台，媒体内容平台然后能够(例如，通过流传输内容项、通过下载内容项等)使所上传的内容项对观看者可用。
[0003]虽然媒体内容平台上的许多用户生成的频道包含原始的、非滥用的内容，但是可能存在违反媒体内容平台的策略的滥用内容，诸如误导的、重复的、悲伤的、色情的、侵权的和/或“标题党(clickbait)”内容，并且其以毫无戒心的用户为目标。例如，特定内容项可以包括媒体内容平台可能想要移除或以其他方式阻止其用户访问的令人反感的本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于识别滥用内容项的方法，所述方法包括：在服务器处从与用户相关联的用户设备接收在媒体内容平台上提供用户生成的内容的请求；响应于接收到所述请求，基于一个或多个绕过准则来确定所述用户生成的内容是否要由一个或多个审查用户审查；响应于基于所述一个或多个绕过准则确定所述用户生成的内容要被审查，将审查请求添加到审查用户的队列，其中，所述审查请求包括所述用户生成的内容和与对应于所述用户的用户账户相关联的信息；以及确定响应于所述审查请求的决策是否指示所述用户生成的内容要在所述媒体内容平台上被提供，其中：响应于确定所述决策指示所述用户生成的内容项违反与所述媒体内容平台相关联的至少一个策略，(i)第一消息被传送到所述用户设备的所述用户，所述第一消息指示所述至少一个违反的策略和要被施加到与所述用户相对应的所述用户账户的惩罚，以及(ii)采取了禁止在所述媒体内容平台上提供所述用户生成的内容的对应动作；以及响应于确定所述决策指示所述用户生成的内容项没有违反与所述媒体内容平台相关联的所述至少一个策略，第二消息被传送到所述用户设备的所述用户，所述第二消息指示所述用户生成的内容有资格在所述媒体内容平台上被提供。2.根据权利要求1所述的方法，其中，所述用户是内容创建者，并且其中，提供用户生成的内容的所述请求包括将所述用户生成的内容存储在与所述媒体内容平台相关联的存储设备上的上传请求。3.根据权利要求1所述的方法，其中，所述用户是内容创建者，并且其中，提供用户生成的内容的所述请求包括使用所述媒体内容平台开始直播流的初始请求。4.根据权利要求1所述的方法，其中，所述用户是观看者，并且其中，提供用户生成的内容的所述请求包括与内容创建者交互的内容特征。5.根据权利要求1所述的方法，还包括通过以下操作来确定所述用户是否有资格在所述媒体内容平台上提供所述用户生成的内容：基于先前已经被提供给所述媒体内容平台的其他用户生成的内容来计算指示与所述用户的所述用户账户相关联的风险的风险分数；以及将所述风险分数与对应于所述用户生成的内容的内容类型的阈值风险分数进行比较，其中，基于所述风险分数与所述阈值风险分数的所述比较，所述用户被认为有资格提供所述用户生成的内容。6.根据权利要求1所述的方法，还包括基于与所述用户的所述用户账户相关联的受众信息来确定所述用户是否有资格在所述媒体内容平台上提供所述用户生成的内容。7.根据权利要求1所述的方法，还包括基于与所述用户的所述用户账户相关联的位置信息来确定所述用户是否有资格在所述媒体内容平台上提供所述用户生成的内容。8.根据权利要求1所述的方法，还包括基于与所述用户账户相关联的先前策略违反的强制实施动作来确定所述用户是否有资格在所述媒体内容平台上提供所述用户生成的内容。9.根据权利要求1所述的方法，还包括通过向所述审查用户的所述队列传送第二审查
请求来确定所述用户是否有资格在所述媒体内容平台上提供所述用户生成的内容，其中，所述第二审查请求包括与对应于所述用户的所述用户账户相关联的信息并且提示所述审查用户确定与所述用户账户相关联的所述信息是否违反与所述媒体内容平台相关联的至少一个策略。10.根据权利要求1所述的方法，还包括响应于接收到在所述媒体内容平台上提供所述用户生成的内容的所述请求，使得指示响应于所述审查请求的所述决策何时将被提供的定时指示被呈现。11.根据权利要求1所述的方法，还包括：从所述媒体内容平台上的所述用户生成的内容的观看者接收标志，其中，所述标志指示潜在的策略违反；以及响应于接收到后续审查请求，将所述后续审查请求添加到先前审查所述用户生成的内容的所述审查用户的所述队列，其中，所述后续审查请求包括所述用户生成的内容和来自所述观看者的所述标志，并且其中，所述用户生成的内容被限制在所述媒体内容平台上被提供，直到接收到响应于所述后续审查请求的决策为止。12.根据权利要求1所述的方法，其中，基于一个或多个绕过准则来确定所述用户生成的内容是否要由一个或多个审查用户审查还包括：识别与所述用户生成的内容相似的第二用户生成的内容，其中，所述第二用户生成的内容先前已经被审查；以及基于所述用户生成的内容与所述第二用户生成的内容的相似度，确定所述用户生成的内容将不被所述一个或多个审查用户审查。13.根据权利要求12所述的方法，还包括：确定所述第二用户生成的内容先前被限制在所述媒体内容平台上被使得可用；以及响应于确定所述第二用户生成的内容先前...

【专利技术属性】
技术研发人员：亨利，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：