内容安全处理系统技术方案

本申请实施例公开了内容安全处理系统，所述系统包括：应用系统，用于提供分别由目标会话的多个参与者用户的客户端产生的多路上行音频流；内容审核辅助系统，用于分别根据所述多路上行音频流，获取所述多个参与者用户与声纹特征之间的对应关系，并将所述多路上行音频流合并成混合音频流，以用于发送到内容安全审核系统进行内容安全审核；内容安全审核系统，用于基于所述混合音频流进行内容安全审核，并生成审核结果；所述内容审核辅助系统，还用于接收到所述内容安全审核系统返回的审核结果后，确定违规内容及其所在的位置，并从所述混合音频流中截取出所述违规内容所在位置处的目标音频片段；所述审核结果用于表示所述目标会话在会话粒度上是否存在违规；将所截取出的目标音频片段分别与所述多个参与者用户的声纹特征进行匹配判断，根据匹配结果，将所述违规内容定位到其中至少一个目标参与者用户。通过本申请实施例，能够在同一会话关联多个参与者用户的情况下，以更低的成本，将违规内容定位到具体的参与者个人。

【技术实现步骤摘要】

本申请涉及内容审核，特别是涉及内容安全处理系统。

技术介绍

1、ugc(user generated content，用户生成内容)，也称用户原创内容，即用户将自己原创的内容通过互联网平台进行展示或者提供给其他用户。随着互联网、智能设备及各种新生服务的飞速发展，互联网上的数据呈现爆炸式增长，图片、视频、发文、聊天、直播等各种形式的ugc内容已经成为人们表达感情、记录事件和日常工作不可或缺的组成部分。但是，这些日益增长的内容中也充斥着各种不可控的风险因素，例如色情视频和图片、涉政暴恐内容、各种垃圾广告等等。随着相关部门监管的日渐严格，这些都是各网站及平台亟待认真对待和管理的工作。因此，内容安全审核系统便应运而生了。这种内容安全审核系统就可以对互联网中ugc内容的相关风险的安全工作进行管控。

2、具体而言，内容安全审核系统主要是对用户在社交平台上上传、发布或共享的内容(文字，图片，音频，视频)进行审查。其主要目的是对低质庸俗等违规内容进行过滤筛选，从而生产高质量的内容、防止降低用户体验、保持良好的内容调性。例如，其中一种审核场景就是对直播过程中的音本文档来自技高网...

【技术保护点】

1.一种内容安全处理系统，其特征在于，包括：

2.根据权利要求1所述的系统，其特征在于，

3.根据权利要求1所述的系统，其特征在于，

4.根据权利要求2或3所述的系统，其特征在于，

5.根据权利要求1所述的系统，其特征在于，

6.根据权利要求5所述的系统，其特征在于，

7.根据权利要求5所述的系统，其特征在于，

8.一种内容安全处理系统，其特征在于，包括：

9.一种内容安全处理系统，其特征在于，包括：

【技术特征摘要】

1.一种内容安全处理系统，其特征在于，包括：

2.根据权利要求1所述的系统，其特征在于，

3.根据权利要求1所述的系统，其特征在于，

4.根据权利要求2或3所述的系统，其特征在于，

5.根据权利要求1所...

【专利技术属性】
技术研发人员：张悦涵，陈萌，钟伟，张磊，陈超，
申请(专利权)人：元境生生北京科技有限公司，
类型：发明
国别省市：