模型部署方法、装置、电子设备及存储介质制造方法及图纸

技术编号:33632489 阅读:35 留言:0更新日期:2022-06-02 01:38
本发明专利技术实施例提供了一种模型部署方法、装置、电子设备及存储介质,所述方法包括:确定待部署模型,获取所述待部署模型对应的源代码文件,以及确定所述待部署模型所需的资源及运行环境;根据所述源代码文件、所述资源以及所述运行环境,生成待部署模型对应的模型数据,所述模型数据包括模型文件、输入格式、预测代码;将所述模型文件进行格式转换,并基于格式转换后的所述模型文件、所述输入格式、所述预测代码构建模型镜像;基于Kubernetes将所述模型镜像部署为服务。如此自动化进行模型部署,使得模型上线比较简单,可以满足工程要求,保证业务落地和业务进度。务落地和业务进度。务落地和业务进度。

【技术实现步骤摘要】
模型部署方法、装置、电子设备及存储介质


[0001]本专利技术实施例涉及数据处理
,尤其涉及一种模型部署方法、装置、电子设备及存储介质。

技术介绍

[0002]模型部署是模型上线不可或缺的一部分,且是一件比较费时费力的工资。在企业的智能化应用中,经常会遇到如下问题:用了复杂的机器学习模型或者改进机器学习模型可以大大提升模型效果,但是在模型上线时却无法满足工程要求。这里主要是因为算法工程师和业务开发工程师掌握的技术集和工具是不同的,算法工程师一般使用python,R等计算机编程语言,而业务开发工程师则一般使用java等计算机编程语言。算法工程师负责模型的训练和导出,而业务开发工程师负责导入模型和基于模型进行预测。因此当算法工程师和业务开发工程师掌握的技术集和工具不同时,导致算法工程师训练的模型,业务开发工程师无法使用,影响业务落地和业务进度。

技术实现思路

[0003]为了解决上述当算法工程师和业务开发工程师掌握的技术集和工具不同时,导致算法工程师训练的模型,业务开发工程师无法使用,影响业务落地和业务进度。的技术问题,本专利本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型部署方法,其特征在于,所述方法包括:确定待部署模型,获取所述待部署模型对应的源代码文件,以及确定所述待部署模型所需的资源及运行环境;根据所述源代码文件、所述资源以及所述运行环境,生成待部署模型对应的模型数据,所述模型数据包括模型文件、输入格式、预测代码;将所述模型文件进行格式转换,并基于格式转换后的所述模型文件、所述输入格式、所述预测代码构建模型镜像;基于Kubernetes将所述模型镜像部署为服务。2.根据权利要求1所述的方法,其特征在于,所述确定待部署模型,包括:在监测到用户针对notebook创建按钮的预设操作触发的情况下,创建notebook,以及确定相应的资源;在监测到用户针对所述notebook的预设操作触发的情况下,记录所述用户在所述notebook中输入的AI模型对应的源代码文件;确定所述AI模型为待部署模型。3.根据权利要求1所述的方法,其特征在于,所述获取所述待部署模型对应的源代码文件,包括:获取所述待部署模型对应的第一格式的源代码文件,或者,获取所述待部署模型对应的第二格式的源代码文件。4.根据权利要求1所述的方法,其特征在于,所述根据所述源代码文件、所述资源以及所述运行环境,生成待部署模型对应的模型数据,包括:在监测到用户针对部署按钮的预设操作触发的情况下,调用所述资源解析所述源代码文件以及所述运行环境,生成待部署模型对应的模型数据。5.根据权利要求1所述的方法,其特征在于,所述基于Kubernetes将所述模型镜像部署为服务之后,所述方法还包括:获取测试数据,并将所述测试数据输入至所述服务,获取所述服务的预测结果;将所述预测结果与所述测试数据对应的预期结果进行比较,若所述预测结果与所述预期结果一致,则确定所述服务正常。6.根据权利要求1所述的方法,其特征在于,所述基于Kubernetes将所述模型镜...

【专利技术属性】
技术研发人员:林建明廖立普杜亚威易小华徐磊
申请(专利权)人:深圳无域科技技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1