一种富媒体内容的审核方法、装置、服务器及存储介质制造方法及图纸

本发明专利技术实施例涉及信息管理领域，公开了一种富媒体内容的审核方法、装置、服务器及存储介质，本发明专利技术中，一种富媒体内容的审核方法，包括：对待审核的富媒体内容进行场景分类，得到富媒体内容的场景类型；根据场景类型对富媒体内容进行与场景类型对应的审核；若富媒体内容包含违规内容，则输出内容违规的审核结果。本发明专利技术通过对富媒体内容进行场景分类，根据不同的场景采用对应的审核方法进行富媒体内容的审核，在保证了准确性的同时，极大的提高了效率，降低了人工成本。

An audit method, device, server and storage medium for rich media content

【技术实现步骤摘要】
一种富媒体内容的审核方法、装置、服务器及存储介质
本专利技术实施例涉及信息管理领域，特别涉及一种富媒体内容的审核方法、装置与服务器及存储介质。
技术介绍
随着互联网技术的蓬勃发展，富媒体内容的展示与分享也越来越丰富。对富媒体内容进行审核，过滤掉其中的涉黄、涉政、暴恐和广告信息等垃圾内容，净化网络环境的需求也越来越迫切。由于深度学习在图像和文本领域取得了良好的应用效果，用深度学习对富媒体进行内容审核较为可行，同时可以节约大量的人工成本，对于如何进行神经网络训练也已经提出了相应的概念。然而，本专利技术的专利技术人发现：目前的方法只是笼统的提出了深度学习识别审核的方法，以及如何进行神经网络训练，但是在审核的过程中，依旧存在运算压力大，审核的速度慢的问题。
技术实现思路
本专利技术实施方式的目的在于提供一种富媒体内容的审核方法、装置、服务器及存储介质，提高富媒体内容的识别效率。为解决上述技术问题，本专利技术的实施方式提供了一种富媒体内容的审核方法，包括以下步骤：对待审核的富媒体内容进行场景分类，得到所述富媒体内容的场本文档来自技高网...

【技术保护点】
1.一种富媒体内容的审核方法，其特征在于，包括：/n对待审核的富媒体内容进行场景分类，得到所述富媒体内容的场景类型；/n根据所述场景类型对所述富媒体内容进行与所述场景类型对应的审核；/n若所述富媒体内容包含违规内容，则输出内容违规的审核结果。/n

【技术特征摘要】
1.一种富媒体内容的审核方法，其特征在于，包括：
对待审核的富媒体内容进行场景分类，得到所述富媒体内容的场景类型；
根据所述场景类型对所述富媒体内容进行与所述场景类型对应的审核；
若所述富媒体内容包含违规内容，则输出内容违规的审核结果。


2.根据权利要求1所述的富媒体内容的审核方法，其特征在于，所述场景类型包括普通场景、文本场景和生活场景；
所述根据所述场景类型对所述富媒体内容进行与所述场景类型对应的审核，包括：
若所述场景类型为普通场景，则判定所述富媒体内容不包含违规内容；
若所述场景类型为文本场景，则采用文本神经网络对所述富媒体内容进行内容识别，判断所述富媒体内容是否包含违规内容；
若所述场景类型为生活场景，则采用图片神经网络对所述富媒体内容进行内容识别，判断所述富媒体内容是否包含违规内容。


3.根据权利要求2所述的富媒体内容的审核方法，其特征在于，所述图片神经网络包括N个神经子网络，所述N为大于1的自然数，各神经子网络分别对应一优先级；
所述采用图片神经网络对所述富媒体内容进行内容识别，包括：
按所述神经子网络的优先级从大到小的顺序，依次采用各所述神经子网络对所述富媒体内容进行内容识别；其中，若任意一个所述神经子网络的识别结果为包含违规内容，则判定所述富媒体内容包含违规内容。


4.根据权利要求3所述的富媒体内容的审核方法，其特征在于，所述N个神经子网络，包括：涉政神经子网络、涉黄神经子网络、暴恐神经子网络和广告神经子网络。


5.根据权利要求4所述的富媒体内容的审核方法，其特征在于，采用所述涉政神经子网络对所述富媒体内容进行内容识别，包括：
将所述富媒体内容输入所述涉政神经子网络，得到所述涉政神经子网络输出的涉政概率；
当所述涉政概率大于预设的第一预设阈值时，判定所述富媒体内容包含违规内容；
当所述涉政概率小于预设的第二预设阈值时，判定所述富媒体内容不包含违规内容；其中，所述第一预设阈值大于所述第二预设阈值；
当所述涉政概率大于所述第二预设阈值，且小于所述第一预设阈值时，进行人工审核，根据所述人工审核结果判断所述富媒体内容是否包含违规内容。


6.根据权利要求4所述的富媒体内容的审核方法，其特征在于，所述...

【专利技术属性】
技术研发人员：谢小燕，程宝平，程耀，黄敏峰，
申请(专利权)人：中移杭州信息技术有限公司，中国移动通信集团有限公司，
类型：发明
国别省市：浙江;33