System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及数据处理,尤其涉及一种模型生产方法、装置、电子设备及存储介质。
技术介绍
1、随着人工智能的发展进入蓬勃发展期,人工智能技术已经被应用到各行各业。模型是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。从实践的意义上来说,模型生产是一种利用数据、算法、训练框架训练出模型,然后使用模型进行推理应用。
2、传统的模型生产构建方式是纯人工的方式,通过编写多个脚本来处理原始数据,得到模型的训练数据集,再编写模型训练代码来训练模型,最后需要编写模型推理脚本来部署上线模型。传统的模型生产线构建方式需要人工配置依赖环境、手动运行脚本并收集运行结果、人工部署模型并维护模型服务,使得模型开发周期长,模型生产线的各个步骤由于耦合性太强难以升级改造,并且复用性差。人工配置环境的方式还会带来环境依赖冲突等问题。传统的模型生产构建方式难以适应行业变化带来的模型快速迭代需求。
技术实现思路
1、有鉴于此,本申请实施例提供了一种模型生产方法、装置、电子设备及存储介质,能够把模型生产的各个阶段进行解耦,每个阶段完成各自功能,提高了模型生产的扩展性,健壮性,复用性,移植性。
2、本申请实施例的技术方案是这样实现的:
3、第一方面,本申请实施例提供一种模型生产方法,所述方法包括:
4、响应数据接入请求,从数据源中接入训练数据,并对所述训练数据进行加工处理,得到目标数据集;
5、响应模型接入请求,从模型仓库中选择与所述接入请
6、响应资源调度请求,通过资源规格信息确定目标资源,其中,所述资源规格信息基于所述目标数据集和所述目标模型确定;
7、响应模型训练请求,基于所述目标资源执行训练任务,其中,所述训练任务基于所述目标数据集和所述目标模型创建。
8、在一种可能的实施方式中,所述方法还包括:
9、响应推理服务请求,对已训练模型进行发布,并对已训练模型的运行情况进行监控,以动态调整所述已训练模型的运行配置;
10、以及,对所述已训练模型的运行信息进行回传,以将所述运行信息作为对所述已训练模型进行优化的数据来源。
11、第二方面,本申请实施例还提供一种模型生产装置,所述装置包括:
12、数据中台模块,用于响应数据接入请求,从数据源中接入训练数据,并对所述训练数据进行加工处理,得到目标数据集;
13、模型仓库模块,用于响应模型接入请求,从模型仓库中选择与所述接入请求相匹配的目标模型,其中,所述接入请求中携带了模型类型信息和模型精度信息;
14、资源调度模块,用于响应资源调度请求,通过资源规格信息确定目标资源,其中,所述资源规格信息基于所述目标数据集和所述目标模型确定;
15、训练任务模块,用于响应模型训练请求,基于所述目标资源执行训练任务,其中,所述训练任务基于所述目标数据集和所述目标模型创建。
16、在一种可能的实施方式中,所述装置还包括:
17、推理服务模块,用于响应推理服务请求,对已训练模型进行发布,并对已训练模型的运行情况进行监控,以动态调整所述已训练模型的运行配置;
18、以及,对所述已训练模型的运行信息进行回传,以将所述运行信息作为对所述已训练模型进行优化的数据来源。
19、第三方面,本申请实施例还提供一种电子设备,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行第一方面任一项所述的模型生产方法。
20、第四方面,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行第一方面任一项所述的模型生产方法。
21、本申请实施例具有以下有益效果:
22、通过把模型生产的各个阶段进行解耦,达到各个阶段完成各自功能,并对外提供模块能力。既能保证每个阶段的独立运行,又能同时增强整个的系统的运作效率,不会因某个阶段的变动而使整个系统发生变动。对系统的扩展性,健壮性,复用性,移植性有很好的支撑。同时除了能自循环外,保证模型的逐步优化升级,而且还能集成第三方已有的能力,不仅可以使用第三方的成果,而且还能在第三方的能力基础上根据不同业务场景生产出更符合需要的模型。
本文档来自技高网...【技术保护点】
1.一种模型生产方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述从数据源中接入训练数据,并对所述训练数据进行加工处理,得到至少一个数据集,包括:
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述从模型仓库中选择与所述接入请求相匹配的目标模型,包括:
6.根据权利要求1所述的方法,其特征在于,所述通过资源规格信息确定目标资源,包括:
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
8.一种模型生产装置,其特征在于,所述装置包括:
9.根据权利要求8所述的装置,其特征在于,所述装置还包括:
10.一种电子设备,其特征在于,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如权利要求1至7任一项
...【技术特征摘要】
1.一种模型生产方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述从数据源中接入训练数据,并对所述训练数据进行加工处理,得到至少一个数据集,包括:
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述从模型仓库中选择与所述接入请求相匹配的目标模型,包括:
6.根据权利要求1所述的方法,其特征在于,所述通...
【专利技术属性】
技术研发人员:章峰,
申请(专利权)人:暗物质北京智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。