【技术实现步骤摘要】
资源检测方法、系统及计算设备
[0001]本说明书实施例涉及计算机
，特别涉及资源检测方法、系统及计算设备。
技术介绍
[0002]随着互联网技术的发展，视频、图像、语音、文本等互联网多媒体资源的流量在近几年大量增加，互联网平台的用户发布内容的审核治理问题也日益严峻，针对包含违规信息的多媒体资源需要及时发现和治理，以避免用户发布不良信息造成恶劣的影响。近年来，图片、视频等多媒体资源成为互联网平台用户发布信息的主要形式之一，针对多媒体资源的风险检测需求日益增多。
[0003]当前针对多媒体资源的检验方法包括人工审核、深度学习、图片聚类、图片文字识别等。但由于多媒体资源主题丰富、内容庞杂，因此多媒体资源的风险存在较多类型；传统的风险检测方法对于复杂的多媒体资源往往会出现漏检或误检的问题，检测准确度不高，还需要耗费大量人工成本或计算资源进行风险检测。因此，亟需一种较为有效的方法以解决上述问题。
技术实现思路
[0004]有鉴于此，本说明书实施例提供了一种资源检测方法。本说明书一个或者多个实施例同时涉及...
【技术保护点】
【技术特征摘要】
1.一种资源检测方法，应用于云服务端，包括：在客户端根据预检信息确定多媒体资源存在风险的情况下，接收客户端针对所述目标事件发送的所述预检信息和所述多媒体资源，所述预检信息由所述客户端的预检测模型对所述多媒体资源进行处理确定；根据所述预检信息在风险检测模型集合中选择目标风险检测模型；基于所述目标风险检测模型对所述多媒体资源进行处理，根据处理结果确定风险检测结果并发送至所述客户端。2.根据权利要求1所述的方法，所述根据所述预检信息在风险检测模型集合中选择目标风险检测模型，包括：确定所述预检信息包含的风险类型信息；基于所述风险类型信息在所述风险检测模型集合中选择目标风险检测模型。3.根据权利要求1所述的方法，所述接收客户端针对所述目标事件发送的所述预检信息和所述多媒体资源，包括：接收所述客户端针对所述目标事件发送的信息包；对所述信息包进行解析，根据解析结果确定预检信息和资源地址信息；基于所述资源地址信息加载多媒体资源。4.根据权利要求1所述的方法，所述方法，还包括：确定所述多媒体资源的风险检测分值，以及基于风险判别模型确定所述多媒体资源的风险判别分值；在基于所述风险检测分值和所述风险判别分值确定所述多媒体资源符合样本选择条件的情况下，确定所述多媒体资源的风险样本标签，由所述多媒体资源和所述风险样本标签构成训练样本对，并存储至训练样本集；在到达预设优化时间的情况下，利用所述训练样本集优化所述目标风险检测模型。5.根据权利要求1所述的方法，所述接收客户端针对所述目标事件发送的所述预检信息和所述多媒体资源步骤执行之前，还包括：确定初始训练样本，并在所述风险检测模型集合中选择与所述初始训练样本对应的第一风险检测模型；将所述初始训练样本输入至所述第一风险检测模型进行预测，获得预测标签信息；基于所述预测标签信息和所述初始训练样本的初始样本标签构建目标样本标签，基于所述初始训练样本和所述目标样本标签构建样本对，存储至样本集合，并执行所述确定初始训练样本的步骤；直至所述样本集合满足模型训练条件的情况下，基于所述样本集合训练初始预检测模型，根据训练结果确定满足预检测模型训练停止条件的预检测模型；将所述预检测模型发送至所述客户端进行部署。6.根据权利要求1所述的方法，所述基于所述目标风险检测模型对所述多媒体资源进行处理，根据处理结果确定风险检测结果并发送至所述客户端，包括：将所述多媒体资源输入至所述目标风险检测模型进行处理，获得预测信息；将所述多媒体资源输入至领域识别模型进行处理，获得领域识别信息；基于所述领域识别信息和所述模型预测信息生成风险检测结果，并发送至所述客户
端。7.根据权利要求6所述的方法，所述基于所述领域识别信息和所述模型预测信息生成风险检测结果，并发送至所述客户端，包括：基于所述领域识别信息和所述模型预测信息生成参考预测信息；按照风险检测策略中的信息组合条件对所述参考预测信息进行处理，根据处理结果确定所述信息组合条件对应的预测分值，基于所述预测分值和所述参考预测信息生成风险检测结果，并发送至所述客户端；或者，基于风险决策模型对所述参考预测信息进行处理，根据处理结果确定风险检测结果，并发送至所述客户端。8.根据权利要求7所述的方法，所述风险决策模型的训练，包括：确定历史风险资源，并在所述风险检测模型集合中选择与所述历...
【专利技术属性】
技术研发人员：孙鹏飞，
申请(专利权)人：阿里巴巴中国有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。