一种用于视频直播的标题敏感词控制方法及装置制造方法及图纸

本发明专利技术涉及一种敏感词控制方法及装置，属于网络直播信息处理领域，具体是涉及一种用于视频直播的标题敏感词控制方法及装置。包括：步骤1，接收管理员输入的敏感词样本，根据敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库；步骤2，接收用户输入的标题，根据标题的词性确定敏感词过滤规则；步骤3，基于选择的敏感词过滤规则判断标题中是否包含了存储于敏感词库中的敏感词；如果，标题中是包含敏感词，则判定标题违规，否则，判断标题未违规；步骤4，向用户反馈标题违规判断结果。总体而言，本发明专利技术所构思的以上技术方案与现有技术相比，能够及时对直播视频的标题进行审核和管理，防止带有敏感词的标题带来不良影响。

【技术实现步骤摘要】

本专利技术涉及一种敏感词控制方法及装置，属于网络直播信息处理领域，具体是涉及一种用于视频直播的标题敏感词控制方法及装置。
技术介绍
随时网络通信技术的进步和宽带网络的提速，网络视频应用在各个行业得到了越来越广泛的开展。直观而生动的高清视频应用，可以极大地拉近用户之间的距离，并达到最好的交流效果，而且成本相对最低，所以得到了各行业用户的普遍欢迎。互联网用户已经达到5亿，互联网的蓬勃发展，受众面很大。以前,我们搞活动往往通过电视台进行直播，占用卫星通道，费用高昂。然而，通过互联网进行直播活动发布，可以有效节省运营费用，并且可以覆盖到全国互联网用户，而且可以实时发布，方便灵活。视频直播时往往需要创建房间标题。房间标题由用户进行创建，因而具有一定的不可控性。标题中往往会出现一些涉及政治、色情、不文明用语的敏感词语。但是，现有技术中还不存在专门针对直播视频标题的敏感词处理方法及装置。
技术实现思路
针对现有技术的以上缺陷或改进需求，本专利技术提供了一种用于视频直播的标题敏感词控制方法及装置。其目的在于对直播视频的标题进行审核和管理，防止带有敏感词的标题带来不良影响。为了解决上述问题，根据本专利技术的一个方面，提供了一种用于视频直播的标题敏感词控制方法，包括：步骤1，接收管理员输入的敏感词样本，根据所述敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库步骤2，接收用户输入的用作标题的词语，根据所述用作标题的词语的词性选择敏感词过滤规则；所述词性是指词语的种类，包括但不限于：字母、字符、汉字及其组合；步骤3，基于选择的敏感词过滤规则判断所述标题中是否包含了存储于敏感词库中的敏感词；如果标题中包含敏感词，则判定所述标题违规，否则，判断所述标题未违规；步骤4，向用户反馈所述标题违规判断结果。优选的，上述的一种用于视频直播的标题敏感词控制方法，所述敏感词包括以下词语中的一种或多种：带有敏感政治倾向、暴力倾向、色情词、不文明用语。优选的，上述的一种用于视频直播的标题敏感词控制方法，所述过滤规则包括：用于对英语中涉嫌侮辱、情色、暴力、政治的词汇进行过滤的字母过滤规则；用于对多种字符组合的违规标题进行过滤的符号过滤规则；用于对汉字的违规词语进行过滤的汉字过滤规则。优选的，上述的一种用于视频直播的标题敏感词控制方法，在判断所述标题未违规后，将未违规的标题发送至后台管理员，由管理员对标题进行审核，将未审核通过的标题判定为违规标题，并向通过审核的标题创建者发送标题设置成功信息。为了解决上述问题，根据本专利技术的另一方面，提供了一种用于视频直播的标题敏感词控制装置，包括：词库创建模块，接收管理员输入的敏感词样本，根据所述敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库标题创建模块，接收用户输入的用作标题的词语，根据所述用作标题的词语的词性选择敏感词过滤规则；所述词性是指词语的种类，包括但不限于：字母、字符、汉字及其组合；标题审核模块，基于选择的敏感词过滤规则判断所述标题中是否包含了存储于敏感词库中的敏感词；如果标题中包含敏感词，则判定所述标题违规，否则，判断所述标题未违规；结果反馈模块，向用户反馈所述标题违规判断结果。优选的，上述的一种用于视频直播的标题敏感词控制装置，所述敏感词包括以下词语中的一种或多种：带有敏感政治倾向、暴力倾向、色情词、不文明用语。优选的，上述的一种用于视频直播的标题敏感词控制装置，所述过滤规则包括：用于对英语中涉嫌侮辱、情色、暴力、政治的词汇进行过滤的字母过滤规则；用于对多种字符组合的违规标题进行过滤的符号过滤规则；用于对汉字的违规词语进行过滤的汉字过滤规则。优选的，上述的一种用于视频直播的标题敏感词控制装置，在判断所述标题未违规后，将未违规的标题发送至后台管理员，由管理员对标题进行审核，将未审核通过的标题判定为违规标题，并向通过审核的标题创建者发送标题设置成功信息。总体而言，本专利技术所构思的以上技术方案与现有技术相比，能够及时对直播视频的标题进行审核和管理，防止带有敏感词的标题带来不良影响。附图说明附图1是本专利技术的一种流程图。附图2是本专利技术的一种结构框图。具体实施方式下面通过实施例，并结合附图，对本专利技术的技术方案作进一步具体的说明。一种用于视频直播的标题敏感词控制方法，包括：步骤1，接收管理员输入的敏感词样本，根据所述敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库；所述敏感词包括以下词语中的一种或多种：带有敏感政治倾向、暴力倾向、色情词、不文明用语。步骤2，接收用户输入的标题，根据所述标题的词性选择敏感词过滤规则；所述过滤规则包括：用于对英语中涉嫌侮辱、情色、暴力、政治的词汇进行过滤的字母过滤规则；用于对多种字符组合的违规标题进行过滤的符号过滤规则；用于对汉字的违规词语进行过滤的汉字过滤规则。步骤3，基于确定的敏感词过滤规则判断所述标题中是否包含了存储于敏感词库中的敏感词；如果，标题中是包含敏感词，则判定所述标题违规，否则，判断所述标题未违规；在判断所述标题未违规后，将未违规的标题发送至后台管理员，由管理员对标题进行审核，将未审核通过的标题判定为违规标题，将通过审核的标题判断为未违规标题。步骤4，向用户反馈所述标题违规判断结果。一种用于视频直播的标题敏感词控制装置，包括：词库创建模块，用于接收管理员输入的敏感词样本，根据所述敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库；所述敏感词包括以下词语中的一种或多种：带有敏感政治倾向、暴力倾向、色情词、不文明用语。标题创建模块，用于接收用户输入的标题，根据所述标题的词性选择敏感词过滤规则；所述过滤规则包括：用于对英语中涉嫌侮辱、情色、暴力、政治的词汇进行过滤的字母过滤规则；用于对多种字符组合的违规标题进行过滤的符号过滤规则；用于对汉字的违规词语进行过滤的汉字过滤规则。标题审核模块，用于基于选择的敏感词过滤规则判断所述标题中是否包含了存储于敏感词库中的敏感词；如果，标题中是包含敏感词，则判定所述标题违规，否则，判断所述标题未违规；在判断所述标题未违规后，将未违规的标题发送至后台管理员，由管理员对标题进行审核，将未审核通过的标题判定为违规标题，将通过审核的标题判断为未违规标题。结果反馈模块，用于向用户反馈所述标题违规判断结果。实施例1：如图1所示，描述了一种视频网站针对视频标题敏感词控制方法。针对视频标题审核的方法。视频标题敏感词控制需要达到如下目的：视频标题敏感词控制方法。详细步骤如下：(1)创建敏感词库：创建房间标题的敏感词库。敏感词库：一般是指带有敏感政治倾向、暴力倾向、不健康色彩的词或不文明语，也有一些网站根据自身实际情况，设定一些只适用于本网站的特殊敏感词。（2）输入常规名词：输入常规的名词。（3）设置敏感词过滤规则：设置敏感词过滤的规则。（4）字母过滤规则：设置字母敏感词过滤规则。（5）视频标题中不能连续出现例如:SB\\FUCK等字母单词：对英语中涉嫌侮辱、情色、暴力、政治的词汇进行过滤。对场景的SB 等词汇进行过滤。（6）符号过滤规则：对组合的符合设置过滤规则。（7）不能设置出现竖中指等组合符合：对多种字符组合的违规标题进行过滤。例如：组合的竖中指进行过滤。（8）汉字过滤规则：设置汉字过滤规则。（9）政治、宗教、淫秽等汉字：汉字涉嫌违规本文档来自技高网...

【技术保护点】
一种用于视频直播的标题敏感词控制方法，其特征在于，包括：步骤1，接收管理员输入的敏感词样本，根据所述敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库；步骤2，接收用户输入的用作标题的词语，根据所述用作标题的词语的词性选择敏感词过滤规则；所述词性是指词语的种类，包括但不限于：字母、字符、汉字及其组合；步骤3，基于选择的敏感词过滤规则判断所述标题中是否包含了存储于敏感词库中的敏感词；如果标题中包含敏感词，则判定所述标题违规，否则，判断所述标题未违规；步骤4，向用户反馈所述标题违规判断结果。

【技术特征摘要】
1.一种用于视频直播的标题敏感词控制方法，其特征在于，包括：步骤1，接收管理员输入的敏感词样本，根据所述敏感词样本创建用于保存敏感词样本及其过滤规则的敏感词库；步骤2，接收用户输入的用作标题的词语，根据所述用作标题的词语的词性选择敏感词过滤规则；所述词性是指词语的种类，包括但不限于：字母、字符、汉字及其组合；步骤3，基于选择的敏感词过滤规则判断所述标题中是否包含了存储于敏感词库中的敏感词；如果标题中包含敏感词，则判定所述标题违规，否则，判断所述标题未违规；步骤4，向用户反馈所述标题违规判断结果。2.根据权利要求1所述的一种用于视频直播的标题敏感词控制方法，其特征在于，所述敏感词包括以下词语中的一种或多种：带有敏感政治倾向、暴力倾向、色情词、不文明用语。3.根据权利要求1所述的一种用于视频直播的标题敏感词控制方法，其特征在于，所述过滤规则包括：用于对英语中涉嫌侮辱、情色、暴力、政治的词汇进行过滤的字母过滤规则；用于对多种字符组合的违规标题进行过滤的符号过滤规则；用于对汉字的违规词语进行过滤的汉字过滤规则。4.根据权利要求1所述的一种用于视频直播的标题敏感词控制方法，其特征在于，在判断所述标题未违规后，将未违规的标题发送至后台管理员，由管理员对标题进行审核，将未审核通过的标题判定为违规标题，并向通过审核的标题创建者发送标题设置成功信息。5.一种用...

【专利技术属性】
技术研发人员：姚金明，
申请(专利权)人：武汉斗鱼网络科技有限公司，
类型：发明
国别省市：湖北;42