内容审核辅助处理方法、装置及电子设备制造方法及图纸

本申请实施例公开了内容审核辅助处理方法、装置及电子设备，所述方法包括：获取目标会话中产生的多路上行音频流；获取所述多个参与者用户与声纹特征之间的对应关系；将所述多路上行音频流合并成混合音频流，以用于发送到审核系统进行内容安全审核；接收到所述审核系统返回的审核结果后，确定违规内容及其所在的位置，并截取出所述违规内容所在位置处的目标音频片段；将所截取出的目标音频片段分别与所述多个参与者用户的声纹特征进行匹配判断，根据匹配结果，将所述违规内容定位到其中至少一个目标参与者用户。通过本申请实施例，能够在同一会话关联多个参与者用户的情况下，以更低的成本，将违规内容定位到具体的参与者个人。将违规内容定位到具体的参与者个人。将违规内容定位到具体的参与者个人。

【技术实现步骤摘要】
内容审核辅助处理方法、装置及电子设备


[0001]本申请涉及内容审核
，特别是涉及内容审核辅助处理方法、装置及电子设备。

技术介绍

[0002]UGC(User Generated Content，用户生成内容)，也称用户原创内容，即用户将自己原创的内容通过互联网平台进行展示或者提供给其他用户。随着互联网、智能设备及各种新生服务的飞速发展，互联网上的数据呈现爆炸式增长，图片、视频、发文、聊天、直播等各种形式的UGC内容已经成为人们表达感情、记录事件和日常工作不可或缺的组成部分。但是，这些日益增长的内容中也充斥着各种不可控的风险因素，例如色情视频和图片、涉政暴恐内容、各种垃圾广告等等。随着相关部门监管的日渐严格，这些都是各网站及平台亟待认真对待和管理的工作。因此，内容安全审核系统便应运而生了。这种内容安全审核系统就可以对互联网中UGC内容的相关风险的安全工作进行管控。
[0003]具体而言，内容安全审核系统主要是对用户在社交平台上上传、发布或共享的内容(文字，图片，音频，视频)进行审查。其主要目的是对低质庸俗等违规内容进行过滤筛选，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种内容审核辅助处理方法，其特征在于，包括：获取目标会话中产生的多路上行音频流，所述上行音频流分别由所述目标会话的多个参与者用户的客户端产生；分别根据所述多路上行音频流，获取所述多个参与者用户与声纹特征之间的对应关系；将所述多路上行音频流合并成混合音频流，以用于发送到审核系统进行内容安全审核；接收到所述审核系统返回的审核结果后，确定违规内容及其所在的位置，并截取出所述违规内容所在位置处的目标音频片段；将所截取出的目标音频片段分别与所述多个参与者用户的声纹特征进行匹配判断，根据匹配结果，将所述违规内容定位到其中至少一个目标参与者用户。2.根据权利要求1所述的方法，其特征在于，还包括：分别对所述多路上行音频流进行录制，并保存录制记录与所述目标会话的标识、所述参与者用户的标识、产生时间之间的对应关系，以用作后续处理的依据。3.根据权利要求2所述的方法，其特征在于，还包括：在将所述违规内容定位到其中一目标参与者用户之后，将所述审核结果、定位结果以及所述目标参与者用户在对应时间段的录制记录，提供给人工审核客户端，以便通过人工审核的方式，对定位结果进行进一步确认。4.根据权利要求2或3所述的方法，其特征在于，还包括：在将所述违规内容定位到其中一目标参与者用户之后，将所述审核结果、定位结果以及所述目标参与者用户在对应时间段的录制记录，提供给对应的应用系统，以便所述应用系统确定是否对所述目标参与者用户进行处理。5.根据权利要求1所述的方法，其特征在于，所述将所述多路上行音频流合并成混合音频流后，还包括：将所述混合音频流切分为多个音频段落，以便所述审核系统以所述音频段落为单位进行内容安全审核；所述审核系统返回的审核结果包括：存在违规内容的目标音频段落；所述确定违规内容及其所在的位置，并截取出所述违规内容所在位置处的目标音频数据，包括：确定违规内容，以及所述违规内容在所述目标音频段落中的位置；根据所述违规内容在所述目标音频段落中的位置，从所述目标音频段落中对应的...

【专利技术属性】
技术研发人员：张悦涵，陈萌，钟伟，张磊，陈超，
申请(专利权)人：阿里巴巴中国有限公司，
类型：发明
国别省市：