一种房间违规审核方法、装置、设备、存储介质及产品制造方法及图纸

本申请实施例提供了一种房间违规审核方法、装置、设备、存储介质及产品。本申请实施例提供的技术方案通过根据黑名单列表确定待审核房间中的在线黑名单用户，根据在线黑名单用户从待审核房间中确定嫌疑房间，并获取嫌疑房间的房间音频信息，从各个嫌疑房间的房间音频信息中确定嫌疑音频，并基于嫌疑音频对嫌疑房间进行违规审核，通过在线黑名单用户对待审核房间进行初步筛选确定嫌疑房间，并根据嫌疑房间的房间音频信息进行二次筛选，确定嫌疑音频，可基于嫌疑音频准确对嫌疑房间进行违规审核，从直播房间的语音信息中确定存在违规可能的嫌疑音频，有效提高对房间的审核准确度，提高房间审核效果。高房间审核效果。高房间审核效果。

【技术实现步骤摘要】
一种房间违规审核方法、装置、设备、存储介质及产品


[0001]本申请实施例涉及直播
，尤其涉及一种房间违规审核方法、装置、设备、存储介质及产品。

技术介绍

[0002]直播间、语音房是当下社交应用的主流娱乐方式，但是部分直播房间往往存在一些违规行为，为了保证用户的直播体验，需要对违规房间进行审核并对违规房间进行限制。
[0003]传统违规房间审核一般通过审核模型对房间中产生的音频、图像、文字信息进行判断，确定房间是否违规。这些违规房间审核方式一般是使用一个分类模型对输入的信息进行分类，根据分类结果判断房间是否违规。这类方法通常只是对单个用户产生的单条数据进行审核，房间审核效果较差。

技术实现思路

[0004]本申请实施例提供一种房间违规审核方法、装置、设备、存储介质及产品，以解决相关技术中针对单个用户产生的单条数据进行审核，房间审核效果较差的技术问题，有效提高对房间的审核准确度，提高房间审核效果。
[0005]在第一方面，本申请实施例提供了一种房间违规审核方法，包括：
[0006]基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间；
[0007]获取所述嫌疑房间的房间音频信息，并从所述房间音频信息中确定嫌疑音频；
[0008]基于所述嫌疑音频对所述嫌疑房间进行违规审核。
[0009]在第二方面，本申请实施例提供了一种房间违规审核装置，包括房间确定模块、音频确定模块和房间审核模块，其中：
[0010]所述房间确定模块，配置为基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间；
[0011]所述音频确定模块，配置为获取所述嫌疑房间的房间音频信息，并从所述房间音频信息中确定嫌疑音频；
[0012]所述房间审核模块，配置为基于所述嫌疑音频对所述嫌疑房间进行违规审核。
[0013]在第三方面，本申请实施例提供了一种房间违规审核设备，包括：存储器以及一个或多个处理器；
[0014]所述存储器，用于存储一个或多个程序；
[0015]当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面所述的房间违规审核方法。
[0016]在第四方面，本申请实施例提供了一种存储计算机可执行指令的非易失性存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如第一方面所述的房间违规审核方法。
[0017]在第五方面，本申请实施例提供了一种计算机程序产品，该计算机程序产品包括计算机程序，该计算机程序存储在计算机可读存储介质中，设备的至少一个处理器从计算机可读存储介质读取并执行计算机程序，使得设备执行如第一方面所述的房间违规审核方法。
[0018]本申请实施例通过根据黑名单列表确定待审核房间中的在线黑名单用户，根据在线黑名单用户从待审核房间中确定嫌疑房间，并获取嫌疑房间的房间音频信息，从各个嫌疑房间的房间音频信息中确定嫌疑音频，并基于嫌疑音频对嫌疑房间进行违规审核，通过在线黑名单用户对待审核房间进行初步筛选确定嫌疑房间，并根据嫌疑房间的房间音频信息进行二次筛选，确定嫌疑音频，可基于嫌疑音频准确对嫌疑房间进行违规审核，从直播房间的语音信息中确定存在违规可能的嫌疑音频，有效提高对房间的审核准确度，提高房间审核效果。
附图说明
[0019]图1是本申请实施例提供的一种房间违规审核方法的流程图；
[0020]图2是本申请实施例提供的一种黑名单列表生成流程示意图；
[0021]图3是本申请实施例提供的另一种房间违规审核方法的流程图；
[0022]图4是本申请实施例提供的一种音频嫌疑分数确定流程示意图；
[0023]图5是本申请实施例提供的一种房间违规审核装置的结构示意图；
[0024]图6是本申请实施例提供的一种房间违规审核设备的结构示意图。
具体实施方式
[0025]为了使本申请的目的、技术方案和优点更加清楚，下面结合附图对本申请具体实施例作进一步的详细描述。可以理解的是，此处所描述的具体实施例仅仅用于解释本申请，而非对本申请的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本申请相关的部分而非全部内容。在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时上述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。上述处理可以对应于方法、函数、规程、子例程、子程序等等。
[0026]本申请提供的房间违规审核方法可应用于直播场景，例如语音直播、视频直播等，旨在通过在线黑名单用户对待审核房间进行初步筛选确定嫌疑房间，并根据嫌疑房间的房间音频信息进行二次筛选并确定嫌疑音频，可基于嫌疑音频准确对嫌疑房间进行违规审核，有效提高对房间的审核准确度以及房间审核效果。对于传统的房间违规审核方案，一般是通过管理人员人工巡查、人工智能模型自动检测等进行。人工巡查的方式一般是管理人员对各个直播房间的直播内容进行人工审查，审查效率较低。人工智能模型自动检测一般是利用分类模型对各个直播房间的音频、图像、文字等进行违规判断，人工智能模型一般只能针对单个用户产生的单条数据进行审核，只能对小范围违规用户进行打击，并且人工智能模型需要依次对每个直播房间进行违规审核，违规审核效率较低。并且但一般线上违规行为往往隐藏在海量的直播间或语聊房中，而且违规用户之间交流也经常比较隐晦，难以
通过人工或自动的方式进行有效的打击。基于此，提供本申请实施例的一种房间违规审核方法，以解决现有房间违规审核方案违规审核效果较差的技术问题。
[0027]图1给出了本申请实施例提供的一种房间违规审核方法的流程图，本申请实施例提供的房间违规审核方法可以由房间违规审核装置来执行，该房间违规审核装置可以通过硬件和/或软件的方式实现，并集成在房间违规审核设备中。
[0028]下述以房间违规审核装置执行房间违规审核方法为例进行描述。参考图1，该房间违规审核方法包括：
[0029]S110：基于黑名单列表确定待审核房间中的在线黑名单用户，并基于在线黑名单用户从待审核房间中确定嫌疑房间。
[0030]本方案提供的黑名单列表中记录有多个黑名单用户，其中，黑名单用户可理解为在设定时间段内出现违规动作的用户，或者是频繁出入或长时间停留判定为违规的直播间的用户，也可以是判定为违规的直播间的主播。
[0031]需要进行解释的是，存在于黑名单列表中的黑名单用户进入存在违规可能的直播间的可能性更高，可根据房间中在线的黑名单用户的数量初步筛选存在违规可能的直播间，实现对嫌疑房间的初步审核。
[0032]示例性的，确定每个待审核房间中的在线用户，并根据黑名单列表确定每个待审本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种房间违规审核方法，其特征在于，包括：基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间；获取所述嫌疑房间的房间音频信息，并从所述房间音频信息中确定嫌疑音频；基于所述嫌疑音频对所述嫌疑房间进行违规审核。2.根据权利要求1所述的房间违规审核方法，其特征在于，所述基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间，包括：确定各个待审核房间中的在线用户；基于黑名单列表从所述在线用户中确定各个所述待审核房间中的在线黑名单用户，以及各个所述在线黑名单用户的用户权重；基于所述在线用户的在线用户数量以及所述用户权重确定各个所述待审核房间的房间嫌疑分数；基于所述房间嫌疑分数以及设定的第一阈值从所述待审核房间中确定嫌疑房间。3.根据权利要求2所述的房间违规审核方法，其特征在于，所述房间嫌疑分数基于所述待审核房间中各个所述在线黑名单用户的用户权重之和与所述在线用户的在线用户数量的比值确定。4.根据权利要求1所述的房间违规审核方法，其特征在于，所述获取所述嫌疑房间的房间音频信息，包括：获取所述嫌疑房间中各个在线用户的用户音频信息；对所述用户音频信息进行排序得到房间音频信息。5.根据权利要求1所述的房间违规审核方法，其特征在于，所述从所述房间音频信息中确定嫌疑音频，包括：确定所述房间音频信息的音频嫌疑分数；基于所述音频嫌疑分数以及设定的第二阈值从所述房间音频信息中确定嫌疑音频。6.根据权利要求5所述的房间违规审核方法，其特征在于，所述确定所述房间音频信息的音频嫌疑分数，包括：获取所述房间音频信息以及所述嫌疑房间的在线用户对应的用户信息；将所述房间音频...

【专利技术属性】
技术研发人员：常恒毅，马东鹏，项伟，
申请(专利权)人：百果园技术新加坡有限公司，
类型：发明
国别省市：