内容检测模型的生成方法和装置、电子设备及存储介质制造方法及图纸

本公开实施例涉及内容检测模型的生成方法和装置、电子设备及存储介质。该方法包括：接收用户在配置界面上配置的识别策略，所述识别策略包括多个识别阶段之间的执行逻辑关系和每个识别阶段对应的识别任务；按照所述执行逻辑关系将多个识别任务编排成内容检测模型。本公开实施例可以自动灵活地设置内容检测模型。公开实施例可以自动灵活地设置内容检测模型。公开实施例可以自动灵活地设置内容检测模型。

【技术实现步骤摘要】
内容检测模型的生成方法和装置、电子设备及存储介质


[0001]本公开涉及信息处理领域，更具体地，涉及内容检测模型的生成方法和装置、电子设备及存储介质。

技术介绍

[0002]随着网络信息技术的高速发展，网络上充斥着各种内容。为避免不符合法律法规的不良内容或敏感内容在网络上传播，各个网站以及国家网络监管部门都会进行一些审查。借助于内容检测模型可以自动对内容进行预测分类，给内容打上类别标签，帮助加快审查过程。目前，无法实现对内容检测模型灵活设置，不便于为不同用户提供不同的内容分类服务。有必要提供一种内容检测模型的生成方案，可以自动灵活地设置内容检测模型。

技术实现思路

[0003]本公开的一个目的是提供一种新的内容检测模型的生成方法和装置、电子设备及存储介质。
[0004]根据本公开的第一方面，提供了一种内容检测模型的生成方法，包括：
[0005]接收用户在配置界面上配置的识别策略，所述识别策略包括多个识别阶段之间的执行逻辑关系和每个识别阶段对应的识别任务；
[0006]按照所述执行逻辑关系将多个识别任务编排本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种内容检测模型的生成方法，其特征在于，包括：接收用户在配置界面上配置的识别策略，所述识别策略包括多个识别阶段之间的执行逻辑关系和每个识别阶段对应的识别任务；按照所述执行逻辑关系将多个识别任务编排成内容检测模型。2.根据权利要求1所述的方法，其特征在于，在接收用户在配置界面上配置的识别策略之前，所述方法还包括：获取内容检测需求，所述内容检测需求包括内容载体属性和多个待检测类别；根据所述内容载体属性和多个所述待检测类别从模型库中选取多个识别模型，为多个所述识别模型创建调用接口以创建多个所述识别任务。3.根据权利要求1所述的方法，其特征在于，所述按照所述执行逻辑关系将多个识别任务编排成内容检测模型，包括：将每个所述识别任务作为最小可执行单元，控制任务调度引擎按照所述执行逻辑关系加载所述识别任务以得到所述内容检测模型。4.根据权利要求2所述的方法，其特征在于，所述内容检测需求还包括与所述待检测类别有关的精确率要求；在按照所述执行逻辑关系将多个识别任务编排成内容检测模型之后，所述方法还包括：将样本内容输入至所述内容检测模型，以通过所述内容检测模型预测出所述样本内容的类别标签；根据所述样本内容的真实类别标签和所述内容检测模型预测出的所述样本内容的类别标签，确定所述内容检测模型在所述待检测类别上的精确率；在所述内容检测模型在所述待检测类别上的精确率没有达到所述精确率要求的情况下，调整所述内容检测模型中与所述待检测类别有关的分类阈值参数以达到所述精确率要求。5.根据权利要求2所述的方法，其特征在于，所述内容检测需求还包括与所述待检测类别有关的召回率要求；在按照所述执行逻辑关系将多个识别任务编排成内容检测模型之后，所述方法还包括：将样本内容输入至所述内容检测模型，以通过所述内容检测模型...

【专利技术属性】
技术研发人员：张永鹏，
申请(专利权)人：北京金山云网络技术有限公司，
类型：发明
国别省市：