一种基于云边端架构的云端推理模型下发至边端的方法技术

本发明专利技术提供了一种基于云边端架构的云端推理模型下发至边端的方法。在该架构中，使用到开源的可视化容器管理工具portainer，以及私有的docker仓库harbor。通过将边端的docker注册到云端，便可实现在云端portainer中管理边端docker，然后将训练好的推理模型构建为模型镜像，上传至harbor仓库，通过portainer拉取harbor仓库的推理模型镜像至边端，建立边端模型数据卷容器，然后关联推理模型容器中的模型所在路径及数据卷容器，便可实现推理模型容器中的模型同步到数据卷中，至此，模型成功下发至边缘端。边端的其他应用程序便可关联该数据卷，使用下发的推理模型进行后续工作。

【技术实现步骤摘要】
一种基于云边端架构的云端推理模型下发至边端的方法
本专利技术涉及一种基于云边端架构的云端模型下发方法，具体涉及边缘计算领域。
技术介绍
容器本身具有轻量级、安全性、启动快等优良特性，并且，容器具有天然的轻量化和可移植性，因此被广泛应用到边缘计算的场景。虽然云计算越来越成熟，但是把全部的计算放在云端会产生一些不足，因此，开始构建边缘计算平台，将云上资源的管理方法延伸到边端，可以实现无缝的管理边端的资源和设备。如何实现云端对边端应用的编排、部署以及配置是边缘平台需要重点解决的问题之一。Portainer是一个轻量级的可视化容器管理工具，在该工具中提供了一种创建边缘代理的管理边缘计算环境的方法，通过该方法可以将边缘环境的docker环境管理起来。另外，docker容器应用的开发和运行离不开可靠的镜像管理，虽然Docker官方提供了公共的镜像仓库，但是从安全和效率等方面考虑，部署私有环境内的Registry也是非常有必要的。Harbor是由VMware公司开源的企业级的DockerRegistry管理项目，为模型镜像的存储提供条件。在Docker的使用过程中往往需要对数据进行持久化，或者需要在多个容器之间进行数据共享，所以这就涉及到Docker容器的数据操作。当程序在docker容器内运行时，需要与其他容器中的程序或容器外部程序进行沟通交流时，就需要进行数据的交换。Docker使用了数据卷这种专门的形式，来提供一套便于保存数据的体系。数据卷独立于容器之外，多个容器可以共享同一个数据卷，通过数据卷，可以实现在容器之间进行文件数据的共享。若要更好的在容器之间共享数据，可以使用数据卷容器来实现。通过数据卷容器，我们可以更轻松地将数据卷进行归类和汇总，也能更好地管理容器与数据卷之间的关系，并且可以更加合理地控制数据卷生命周期。数据卷容器是专门用于存放数据卷的容器，我们在其他的容器中需要使用数据卷时，就不再把宿主机的目录当作数据卷进行挂载，而是从数据卷容器中将数据卷挂载。数据卷是独立于容器而存在的，数据卷容器并没有直接管理或控制数据卷，它只是其他容器使用数据卷的桥梁。数据卷容器是其他容器与数据卷连接的桥梁，而数据卷也可以独立于容器存在。目前云计算越来越成熟，但是把全部的计算放在云端会产生一些不足，因此，开始构建边缘计算平台，将云上资源的管理方法延伸到边端，可以实现无缝的管理边端的资源和设备。如何实现云端对边端应用的编排、部署以及配置是边缘平台需要重点解决的问题之一。
技术实现思路
本专利技术目的是提供了种基于云边端架构的云端模型下发方法，可以实现在云端操作模型下发，将模型从云端下发至边端，实现边端模型的加载、删除、升级等。本专利技术为实现上述目的，通过以下技术方案实现：一种基于云边端架构的云端模型下发方法，包括以下步骤：1）云端搭建harbor仓库；2）推理模型镜像上传至harbor；3）云端安装portainer管理工具；4）利用portainer代理将边端注册到云端；5）边端拉取harbor推理模型镜像；6）边端创建数据卷容器；7）挂载数据卷容器，建立模型数据的映射关系，启动推理模型容器；8）实现推理模型同步至边端数据卷容器中，边端启动应用程序容器，挂载数据卷容器，实现推理模型同步至应用程序容器中，应用程序便可实现模型推理工作。优选的，所述步骤8中的数据卷容器为含有推理模型的数据卷容器。本专利技术的优点在于：可以实现在云端操作模型下发，将模型从云端下发至边端，实现边端模型的加载、删除、升级等。附图说明附图用来提供对本专利技术的进一步理解，并且构成说明书的一部分，与本专利技术的实施例一起用于解释本专利技术，并不构成对本专利技术的限制。图1为本专利技术实施例1的主视结构示意图。具体实施方式下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。如图1所示，云端搭建镜像私服仓库harbor，将推理模型镜像上传至harbor仓库；云端安装portainer管理工具，利用该工具提供的边端注册方法，将边端注册到云端；然后将harbor中的推理模型镜像下发至边端，启动该推理模型镜像容器并且绑定提前创建好的数据卷容器，完成推理模型下发至边端；启动应用容器，并且绑定含有推理模型的数据卷容器，便可实现应用程序加载推理模型进行下一步的推理相关工作。具体的步骤如下：1）云端搭建harbor仓库；2）推理模型镜像上传至harbor；3）云端安装portainer管理工具；4）利用portainer代理将边端注册到云端；5)边端拉取harbor推理模型镜像；6)边端创建数据卷容器；7)挂载数据卷容器，建立模型数据的映射关系，启动推理模型容器；8)实现推理模型同步至边端数据卷容器中，边端启动应用程序容器，挂载含有推理模型的数据卷容器，实现推理模型同步至应用程序容器中，应用程序便可实现模型推理工作。本文档来自技高网...

【技术保护点】
1.一种基于云边端架构的云端模型下发方法，其特征在于，包括以下步骤：/n1）云端搭建harbor仓库；/n2）推理模型镜像上传至harbor；/n3）云端安装portainer管理工具；/n4）利用portainer代理将边端注册到云端；/n5）边端拉取harbor推理模型镜像；/n6）边端创建数据卷容器；/n7）挂载数据卷容器，建立模型数据的映射关系，启动推理模型容器；/n8）实现推理模型同步至边端数据卷容器中，边端启动应用程序容器，挂载数据卷容器，实现推理模型同步至应用程序容器中，应用程序便可实现模型推理工作。/n

【技术特征摘要】
1.一种基于云边端架构的云端模型下发方法，其特征在于，包括以下步骤：
1）云端搭建harbor仓库；
2）推理模型镜像上传至harbor；
3）云端安装portainer管理工具；
4）利用portainer代理将边端注册到云端；
5）边端拉取harbor推理模型镜像；
6）边端创建数据卷容器；
7）挂载...

【专利技术属性】
技术研发人员：李志芸，尹青山，李锐，王建华，
申请(专利权)人：济南浪潮高新科技投资发展有限公司，
类型：发明
国别省市：山东;37