基于人工智能的多媒体文件的检测方法和装置制造方法及图纸

本申请公开了一种基于人工智能的多媒体文件的检测方法和装置，属于互联网技术领域。该方法包括：对目标多媒体文件进行内容检测，得到目标多媒体文件的内容预测结果，基于参与传播目标多媒体文件的至少一个目标用户，确定目标多媒体文件的传播预测结果，基于内容预测结果与传播预测结果，确定目标多媒体文件是否属于限制性内容。本申请实施例中，由于不同用户可以对应不同的传播情况，该传播情况可以体现用户经常传播的多媒体文件的类型，因此在预测目标多媒体文件时，可以根据参与传播目标多媒体文件的多个用户的传播情况来进行预测，能够很好的利用目标用户在传播过程中产生的相关信息，实现了对多媒体文件的有效检测。

【技术实现步骤摘要】
基于人工智能的多媒体文件的检测方法和装置
本申请涉及互联网
，特别涉及一种基于人工智能的多媒体文件的检测方法和装置。
技术介绍
随着互联网的不断发展，人们可以通过互联网发布多媒体文件，该多媒体文件可以为视频。但是，个别用户或平台却利用互联网发布不合规的多媒体文件，例如，含有敏感内容的视频。不合规的多媒体文件的传播，严重影响了互联网的秩序。为净化互联网环境，需要对多媒体文件进行检测，识别出不合规的多媒体文件，从而减小不合规的多媒体文件的传播。目前，多媒体文件的检测方法通常为：利用图像识别技术和文本识别技术，对多媒体文件的视频内容和文本描述分别进行检测，识别出包含有不合规内容的多媒体文件，从而检测出不合规的多媒体文件。上述技术中根据视频内容和文本描述来检测多媒体文件时，若被检测的文件是经过打包、压缩、转换文件格式等操作的多媒体文件，则无法进行检测，因此，上述技术无法实现对多媒体文件的有效检测。
技术实现思路
本申请实施例提供了一种基于人工智能的多媒体文件的检测方法和装置，能够实现对多媒体文件的有效检测。所述本文档来自技高网...

【技术保护点】
1.一种基于人工智能的多媒体文件的检测方法，其特征在于，所述方法包括：/n对目标多媒体文件进行内容检测，得到所述目标多媒体文件的内容预测结果，所述内容预测结果用于表示基于内容所确定的所述目标多媒体文件属于限制性内容的概率；/n基于参与传播所述目标多媒体文件的至少一个目标用户，确定所述目标多媒体文件的传播预测结果，所述传播预测结果用于表示基于传播情况所确定的所述目标多媒体文件属于限制性内容的概率；/n基于所述内容预测结果与所述传播预测结果，确定所述目标多媒体文件是否属于限制性内容。/n

【技术特征摘要】
1.一种基于人工智能的多媒体文件的检测方法，其特征在于，所述方法包括：
对目标多媒体文件进行内容检测，得到所述目标多媒体文件的内容预测结果，所述内容预测结果用于表示基于内容所确定的所述目标多媒体文件属于限制性内容的概率；
基于参与传播所述目标多媒体文件的至少一个目标用户，确定所述目标多媒体文件的传播预测结果，所述传播预测结果用于表示基于传播情况所确定的所述目标多媒体文件属于限制性内容的概率；
基于所述内容预测结果与所述传播预测结果，确定所述目标多媒体文件是否属于限制性内容。


2.根据权利要求1所述的方法，其特征在于，所述对目标多媒体文件进行内容检测，得到所述目标多媒体文件的内容预测结果，包括：
将所述目标多媒体文件的至少一个片段输入第一卷积神经网络，通过所述第一卷积神经网络对所述至少一个片段进行预测，得到所述至少一个片段的内容预测结果；
基于所述至少一个片段的内容预测结果，确定所述目标多媒体文件的内容预测结果。


3.根据权利要求2所述的方法，其特征在于，所述基于所述至少一个片段的内容预测结果，确定所述目标多媒体文件的内容预测结果，包括：
在所述至少一个片段的内容预测结果中，选取数值最大的内容预测结果，作为所述目标多媒体文件的内容预测结果；
或，
将所述至少一个片段的内容预测结果的平均值，作为所述目标多媒体文件的内容预测结果。


4.根据权利要求1所述的方法，其特征在于，所述基于参与传播所述目标多媒体文件的至少一个目标用户，确定所述目标多媒体文件的传播预测结果，包括：
基于所述至少一个目标用户的历史传播事件以及与所述历史传播事件关联的会话消息，确定所述至少一个目标用户的敏感度，所述敏感度用于指示所述目标用户传播属于限制性内容的多媒体文件的可能性；
对所述至少一个目标用户的敏感度，进行加权平均处理，得到所述目标多媒体文件的传播预测结果。


5.根据权利要求4所述的方法，其特征在于，所述基于所述至少一个目标用户的历史传播事件以及与所述历史传播事件关联的会话消息，确定所述至少一个目标用户的敏感度，包括：
基于所述目标用户，确定所述目标用户参与的至少一个历史传播事件以及与所述历史传播事件关联的会话消息；
获取所述至少一个历史传播事件对应的历史多媒体文件的内容预测结果，获取对应所述会话消息的文本预测结果，所述文本预测结果用于表示基于会话消息所确定的所述历史多媒体文件属于限制性内容的概率；
对所述历史多媒体文件的内容预测结果与所述会话消息的文本预测结果，进行加权平均处理，得到所述至少一个历史传播事件的事件预测结果，所述事件预测结果用于表示所述历史传播事件对应的历史多媒体文件属于限制性内容的概率；
将所述目标用户参与的至少一个历史传播事件的事件预测结果中，大于目标阈值的至少一个事件预测结果进行求和，得到所述目标用户的敏感度。


6.根据权利要求5所述的方法，其特征在于，所述获取对应所述会话消息的文本预测结果，包括：
获取所述会话消息中的多个词语，以及所述会话消息中的目标词语，所述目标词语为包含有指定内容的词语；
将所述多个词语和所述目标词语，输入第二卷积神经网络，通过所述第二卷积神经网络根据所述多个词语和所述目标词语对所述至少一个历史多媒体文件预测，得到所述会话消息的文本预测结果。


7.根据权利要求6所述的方法，其特征在于，所述将所述多个词语和所述目标词语，输入第二卷积神经网络，通过所述第二卷积神经网络根据所述多个词语和所述目标词语对所述至少一个历史多媒体文件预测，得到所述会话消息的文本预测结果，...

【专利技术属性】
技术研发人员：田植良，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东;44