一种对用户发布的文本内容审核处理的方法及其装置制造方法及图纸

本发明专利技术公开了一种对用户发布的文本内容审核处理的方法及其装置，该方法包括步骤，接收用户发布的文本内容，根据名单规则数据库判断用户信息；如果用户信息既不属于白名单或白规则，也不属于黑名单或黑规则，则计算用户的文本内容的第一特征向量和预先建立的垃圾样本内容的第二特征向量的第一相似度，根据第一相似度判断用户发布的文本内容是否为合格内容，如果是合格内容，则公布用户发布的文本内容；否则将用户发布的文本内容发送给人工进行审核。本发明专利技术可以对用户信息和用户发布的文本内容进行审核过滤处理，这样对用户发布的信息不用全部经由人工进行审核，可以省去大量的人工审核时间，节省了人力资源，相应的也提高了审核效率。

【技术实现步骤摘要】

本专利技术涉及通信领域，一种对用户发布的文本内容审核处理的方法及其装置。
技术介绍
目前，问问社区(网址：http://wenwen.soso.com)是类似于百度知道、新浪爱问等的一项问答型服务，用户可以在页面提问题或回答其他人提出的问题，很大程度上方便了用户对信息的获取。现在，问问社区每天大约会有二十多万个新问题产生，问问社区中用户提交的信息全部经由人工进行审核，需要消耗大量的人工审核时间，浪费人力资源，并且审核效率比较低。
技术实现思路
本专利技术提供了一种对用户发布的文本内容审核处理的方法及其装置，其能够节省大量的人工审核时间，提高了审核效率。本专利技术的技术方案是：一种对用户发布的文本内容审核处理的方法，包括步骤：接收用户发布的文本内容，根据名单规则数据库判断用户信息，所述名单规则数据库包括黑名单、黑规则、白名单和白规则；如果所述用户信息既不属于白名单或白规则，也不属于黑名单或黑规则，则对所述用户的文本内容进行格式转换，提取所述文本内容中的实词；计算提取的各个实词在预先建立的文档数据库中的逆文档频率权重值，得到由所述逆文档频率权重值组成的第一特征向量；计算所述第一特征向量和预本文档来自技高网...

【技术保护点】
一种对用户发布的文本内容审核处理的方法，其特征在于，包括步骤：　接收用户发布的文本内容，根据名单规则数据库判断用户信息，所述名单规则数据库包括黑名单、黑规则、白名单和白规则；　如果所述用户信息既不属于白名单或白规则，也不属于黑名 单或黑规则，则对所述用户发布的文本内容进行格式转换，提取所述文本内容中的实词；　计算提取的各个实词在预先建立的文档数据库中的逆文档频率权重值，得到由所述逆文档频率权重值组成的第一特征向量；　计算所述第一特征向量和预先建立的垃圾样 本内容的第二特征向量的第一相似度，根据所述第一相似度判断所述用户发布的文本内容是否为合格内容，如...

【技术特征摘要】
1、一种对用户发布的文本内容审核处理的方法，其特征在于，包括步骤：接收用户发布的文本内容，根据名单规则数据库判断用户信息，所述名单规则数据库包括黑名单、黑规则、白名单和白规则；如果所述用户信息既不属于白名单或白规则，也不属于黑名单或黑规则，则对所述用户发布的文本内容进行格式转换，提取所述文本内容中的实词；计算提取的各个实词在预先建立的文档数据库中的逆文档频率权重值，得到由所述逆文档频率权重值组成的第一特征向量；计算所述第一特征向量和预先建立的垃圾样本内容的第二特征向量的第一相似度，根据所述第一相似度判断所述用户发布的文本内容是否为合格内容，如果是合格内容，则公布所述用户发布的文本内容。2、根据权利要求1所述的对用户发布的文本内容审核处理的方法，其特征在于：在所述用户信息既不属于白名单或白规则，也不属于黑名单或黑规则时，还包括步骤，检测所述用户发布的文本内容和预先建立的包括电话号码格式、网页格式及火星文格式的特征库的第二相似度，根据所述第二相似度和第一相似度判断所述用户发布的文本内容是否为合格内容。3、根据权利要求2所述的对用户发布的文本内容审核处理的方法，其特征在于：在所述用户信息既不属于白名单或白规则，也不属于黑名单或黑规则时，还包括步骤，统计所述用户发布的文本内容的字符数，根据该字符数、第一相似度和第二相似度判断所述用户发布的文本内容是否为合格内容。4、根据权利要...

【专利技术属性】
技术研发人员：刘怀军，刘昌毅，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：94[中国|深圳]