【技术实现步骤摘要】
一种内容审核方法及装置
本申请涉及计算机
，尤其涉及一种内容审核方法及装置。
技术介绍
在自媒体越来越多的今天，资讯类APP(Application，应用程序)内容变得丰富多彩，与此同时也产生了很多有害信息，严重影响了用户的阅读体验。为了有效的过滤掉这些有害信息，需要对每天产生的内容进行审核。检验文章是否存在问题，一般是基于规则进行审核或利用分类模型进行审核。但是这些审核方式，一般都是对整篇文章进行判断，将文章区分成正常文章或有问题文章，这种方法的审核精确度较低，容易出现遗漏，且审核人员进行复核的时候，需要通篇阅读文章，严重影响了审核效率。
技术实现思路
为解决相关技术中存在的技术问题，本申请实施例提供一种内容审核方法及装置，可以提高内容审核的效率和精确度。为达到上述目的，本申请实施例的技术方案是这样实现的：一方面，本申请实施例提供一种内容审核方法，所述方法包括：获取待审核内容中的待审核文本单元；根据所述待审核文本单元的语义信息，以及语义信息与审核结果的对应关...
【技术保护点】
1.一种内容审核方法，其特征在于，所述方法包括：/n获取待审核内容中的待审核文本单元；/n根据所述待审核文本单元的语义信息，对所述待审核文本单元的语义信息进行质量分析，确定所述待审核文本单元的审核结果；/n根据所述待审核文本单元的审核结果，确定所述待审核文本单元的审核标记；/n在所述待审核文本单元中添加审核标记。/n
【技术特征摘要】
1.一种内容审核方法，其特征在于，所述方法包括：
获取待审核内容中的待审核文本单元；
根据所述待审核文本单元的语义信息，对所述待审核文本单元的语义信息进行质量分析，确定所述待审核文本单元的审核结果；
根据所述待审核文本单元的审核结果，确定所述待审核文本单元的审核标记；
在所述待审核文本单元中添加审核标记。
2.根据权利要求1所述的方法，其特征在于，所述根据所述待审核文本单元的语义信息，对所述待审核文本单元的语义信息进行质量分析，确定所述待审核文本单元的审核结果，包括：
将所述待审核文本单元分词，得到待审核分词集合；
确定所述待审核分词集合中每一个目标分词文本的语义信息，以及所述待审核文本单元中每一个目标单字文本的语义信息；
根据所述待审核文本单元中每一个目标单字文本的语义信息、所述目标单字文本所在的目标分词文本的语义信息，确定所述待审核文本单元的审核结果。
3.根据权利要求2所述的方法，其特征在于，
所述根据所述待审核文本单元中每一个目标单字文本的语义信息、所述目标单字文本所在的目标分词文本的语义信息，确定所述待审核文本单元的审核结果之前，还包括：
针对每一个目标分词文本，确定所述目标分词文本在所述待审核文本单元中的词权重；所述词权重反应了所述目标分词文本对所述待审核文本单元的重要程度；
根据目标分词文本的词权重，确定所述目标分词文本中每一个目标单字文本的字权重；
根据所述待审核文本单元中每一个目标单字文本的语义信息、所述目标单字文本所在的目标分词文本的语义信息，确定所述待审核文本单元的审核结果，包括：
根据所述待审核文本单元中每一个目标单字文本与目标单字文本对应的字权重，以及所述目标单字文本所在的目标分词文本与所述目标分词文本对应的词权重，确定所述待审核文本单元的审核结果。
4.根据权利要求3所述的方法，其特征在于，
所述将所述待审核文本单元分词，得到待审核分词集合，包括：
将所述待审核文本单元输入分词模型中进行分词，得到目标分词文本；
所述确定所述目标分词文本在所述待审核文本单元中的词权重，包括：
将所述待审核文本单元以及所述待审核文本单元中的目标分词文本输入权重确定模型，根据每一个目标分词文本在文本数据库中的出现频率以及所述目标分词文本在所述待审核文本单元中的出现频率，确定每一个目标分词文本的词权重；
所述根据所述待审核文本单元中每一个目标单字文本与目标单字文本对应的字权重，以及所述目标单字文本所在的目标分词文本与所述目标分词文本对应的词权重，确定所述待审核文本单元的审核结果，包括：
根据所述待审核文本单元中的每一个目标单字文本，与目标单字文本对应的字权重，以及所述目标单字文本所在的目标分词文本与所述目标分词文本对应的词权重，确定文本审核模型的输入特征；
将所有输入特征输入已训练的文本审核模型，确定所述待审核文本单元的审核结果；
所述文本审核模型为根据训练文本单元以及所述训练文本单元的审核标签进行训练，学习得到模型参数，所述训练文本单元包括审核标签为正标签的正训练样本和审核标签为负标签的负训练样本。
5.根据权利要求4所述的方法，其特征在于，所述分词模型、所述权重确定模型以及所...
【专利技术属性】
技术研发人员：刘飞，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。