模型部署方法、装置、电子设备和可读存储介质制造方法及图纸

技术编号:37473190 阅读:23 留言:0更新日期:2023-05-06 09:57
本发明专利技术提供一种模型部署方法、装置、电子设备和可读存储介质。模型部署方法应用于边缘计算系统,边缘计算系统包括管理服务器、配置服务器和边缘设备,方法包括以下步骤:配置服务器从模型数据库调用原始模型;管理服务器向配置服务器发送目标配置信息,其中,目标配置信息为边缘设备中的目标设备的配置信息,配置信息包括边缘设备的类别信息;配置服务器根据目标设备的类别信息调整原始模型生成与目标设备匹配的模型数据;配置服务器向目标设备发送模型数据;边缘设备根据模型数据进行模型部署。本发明专利技术实施例能够提高边缘计算系统中模型部署的便利性。部署的便利性。部署的便利性。

【技术实现步骤摘要】
模型部署方法、装置、电子设备和可读存储介质


[0001]本专利技术实施例涉及边缘计算
,尤其涉及一种模型部署方法、装置、电子设备和可读存储介质。

技术介绍

[0002]边缘计算,是指在靠近物或数据源头的一侧,采用网络、计算、存储、应用核心能力为一体的开放平台,就近提供最近端服务。其应用程序在边缘侧发起,产生更快的网络服务响应,满足行业在实时业务、应用智能、安全与隐私保护等方面的基本需求。由于边缘设备通常分布于不同的区域,各边缘设备的类型也有较大差异,因此,其部署和配置过程相对较为不便。

技术实现思路

[0003]本专利技术实施例提供一种模型部署方法、装置、电子设备和可读存储介质,以提高对边缘计算问题。
[0004]为解决上述问题,本专利技术是这样实现的:
[0005]第一方面,本专利技术实施例提供了一种模型部署方法,应用于边缘计算系统,所述边缘计算系统包括管理服务器、配置服务器和边缘设备,所述方法包括以下步骤:
[0006]所述配置服务器从模型数据库调用原始模型;
[0007]所述管理服务器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型部署方法,其特征在于,应用于边缘计算系统,所述边缘计算系统包括管理服务器、配置服务器和边缘设备,所述方法包括以下步骤:所述配置服务器从模型数据库调用原始模型;所述管理服务器向所述配置服务器发送目标配置信息,其中,所述目标配置信息为所述边缘设备中的目标设备的配置信息,所述配置信息包括所述边缘设备的类别信息;所述配置服务器根据所述目标设备的类别信息调整所述原始模型生成与所述目标设备匹配的模型数据;所述配置服务器向所述目标设备发送所述模型数据;所述边缘设备根据所述模型数据进行模型部署。2.如权利要求1所述的方法,其特征在于,所述方法还包括:各所述边缘设备向所述管理服务器发送所述边缘设备的配置信息;所述管理服务器根据所述配置信息将所述边缘设备添加至边缘设备池,其中,所述目标配置信息是所述管理服务器从所述边缘设备池中调用的。3.如权利要求1所述的方法,其特征在于,所述配置服务器从模型数据库调用原始模型之前,所述方法还包括:所述管理服务器接收业务开通请求,其中,所述业务开通请求包括业务需求;根据所述业务需求的类型和/或所述业务需求对应的区域确定边缘设备中的目标设备。4.如权利要求1所述的方法,其特征在于,所述配置服务器从模型数据库调用原始模型,包括:将按照预设格式保存在所述模型数据库中的原始模型,通过拉取代码拉取到所述配置服务器。5.如权利要求1至4中任一项所述的方法,其特征在于,所述原始模型包括torch模型和tensorflow模型中的一种。6.如权利要求1至4中任一项所述的方法,其特征在于,所述边缘设备的类别信息包括比特大陆bitmain、瑞芯微rknn、NVIDIA Jetson、NVIDIA RTX/GTX、X86 CPU和arm CPU中的至少一项。7.一种模型部署方法,其特征在于,应用于边缘计算系统中的管理服务器,所述边缘计算系统包括管理服务器、配置服务器和边缘设备,所述方法包括以下步骤:接收对于边缘设备中的目标设备的选择指令;根...

【专利技术属性】
技术研发人员:胡伟阳祖春山
申请(专利权)人:京东方科技集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1