智能模型的部署方法及装置、存储介质和电子设备制造方法及图纸

技术编号:33862331 阅读:42 留言:0更新日期:2022-06-18 10:52
本申请公开了一种智能模型的部署方法及装置、存储介质和电子设备,涉及人工智能领域。该方法包括:获取边缘模型的副本和终端模型的副本;依据边缘模型的副本和边缘设备的类型,确定目标边缘模型;依据终端模型的副本和终端设备的类型,确定目标终端模型;将目标边缘模型部署在边缘设备上,并将目标终端模型部署在终端设备上或者将目标终端模型的安装包推送至终端设备上。通过本申请,解决了相关技术中智能模型的部署不合理,导致智能模型处理数据的效果不佳的问题。的效果不佳的问题。的效果不佳的问题。

【技术实现步骤摘要】
智能模型的部署方法及装置、存储介质和电子设备


[0001]本申请涉及人工智能领域,具体而言,涉及一种智能模型的部署方法及装置、存储介质和电子设备。

技术介绍

[0002]目前常用的智能模型采用“端侧采集数据,云上智能处理”的部署模式。即在终端设备上收集各类数据,然后通过边缘设备将数据传输回云端大型计算中心(云端设备),并使用云端设备进行模型处理,然后得到处理结果,再将处理结果再返传给终端设备,从而提供用户服务。
[0003]然而,随着终端设备产生的数据规模急剧增长,目前相关技术中的智能模型的部署方式存在以下缺点:一是对于一些小型或轻型的模型配置,使用低端的设备(例如终端设备或者边缘设备)即可完成运算,故使用云端设备会导致硬件成本较高;二是通过边缘设备将终端设备上的数据传输至云端设备进行处理,会导致在数据传输时存在传输网络消耗大、时效差等问题;三是因数据保护的要求,部分用户数据只能保存在用户的终端设备上,不能返传给云端计算中心(云端设备)。
[0004]针对相关技术中智能模型的部署不合理,导致智能模型处理数据的效果不佳的问题,目前本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种智能模型的部署方法,其特征在于,包括:获取边缘模型的副本和终端模型的副本;依据所述边缘模型的副本和边缘设备的类型,确定目标边缘模型;依据所述终端模型的副本和终端设备的类型,确定目标终端模型;将所述目标边缘模型部署在所述边缘设备上,并将所述目标终端模型部署在所述终端设备上或者将所述目标终端模型的安装包推送至所述终端设备上。2.根据权利要求1所述的方法,其特征在于,获取边缘模型的副本包括:获取所述边缘模型;依据深度学习框架,构建所述边缘模型的构件的开发框架;利用所述开发框架,对所述边缘模型的构件进行开发和第一仿真测试,得到第一构件,其中,所述第一构件为通过所述第一仿真测试的构件;获取所述边缘模型对应的第一智能服务,并从所述第一构件中选取与所述第一智能服务相适配的构件;依据所述边缘设备的类型,将所述第一智能服务的服务代码和与所述第一智能服务相适配的构件的服务代码转换为第一文件;依据所述第一文件,得到所述边缘模型的副本。3.根据权利要求2所述的方法,其特征在于,依据所述边缘模型的副本和边缘设备的类型,确定目标边缘模型包括:将所述边缘模型的副本存储在所述边缘模型的第一镜像仓库中;从所述第一镜像仓库中获取所述边缘模型,并将所述边缘模型安装在边缘测试设备上;利用目标测试工具测试所述边缘测试设备上的边缘模型;若所述边缘测试设备上的边缘模型通过测试,则基于所述边缘模型的副本和边缘设备的类型,确定所述目标边缘模型。4.根据权利要求1所述的方法,其特征在于,获取终端模型的副本包括:获取第一终端模型,并获取所述第一终端模型的性能测试指标;依据所述性能测试指标,对所述第一终端模型的性能进行第二仿真测试,并得到所述终端模型,其中,所述终端模型为通过所述第二仿真测试的终端模型;依据深度学习框架,构建所述终端模型的构件的开发框架;利用所述开发框架,对所述终端模型的构件进行开发和第三仿真测试,得到第二构件,其中,所述第二构件为通过所述第三仿真测试的构件;获取所述终端模型对应的第二智能服务,并从所述第二构件中选取与所述第二智能服务相适配的构件;依据所述终端设备的类型,将所述第二智能服务的服务代码和与所述第二智能服务相适配的构件的服务代码转换为第二文件;依据所述第二文件,得到所述终端模型的副本。5.根据权利要求4所述的方法,其特征在于,若所述终端设备为基于IoT的智能终端设备,则依据所述终端模型的副本和终端设备的类型,确定目标终端模型包括:将所述终端模型的副本存储在所述终端模型的第二镜像仓库中;
从所述第二镜像仓库中获取所述终端模型,并将所述终端模型安装在所述基于IoT的智能终端设备上,并利用所述基于IoT的智能终端设备测试所述终端模型;若所述基于IoT的智能终端设备上的终端模型通过测试,则基于所述终端模型的副本和终端设备的类型,确定所述目标终端模型。6.根据权利要求4所述的方法,其特征在于,若所述终端设备为移动终端设备,则确定目标终端模型包括:依据所述第二构件,得到所述终端模型对应的应用程序;将所述应用程序存储在所述终端模型的第三镜像仓库中;从所述第三镜像仓库中获取所述终端模...

【专利技术属性】
技术研发人员:李瑾瑜杨丽萦王鹏马超
申请(专利权)人:中国工商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1