一种对边缘计算设备的算法应用的控制方法和系统技术方案

本发明专利技术实施例提供了一种对边缘计算设备的算法应用的控制方法和系统，通过在容器内为容器配置容器状态监控模块和人工智能引擎开发工具包；通过容器状态监控模块从多个硬件设备中确定出与算法应用适配的第一硬件设备；采用容器状态监控模块调用人工智能引擎开发工具包获取第一硬件设备的硬件资源占用数据；通过容器状态监控模块基于资源占用数据，从第一硬件设备中确定出符合算法应用运行条件的第二硬件设备；调用人工智能引擎开发工具包，使人工智能引擎开发工具包启用第二硬件设备中的算法应用，从而实现了在云端远程将算法应用部署至边缘设备上，同时，还可以根据设备的负载动态调配应用可使用的硬件资源，实时掌握边缘设备的负载情况。缘设备的负载情况。缘设备的负载情况。

【技术实现步骤摘要】
一种对边缘计算设备的算法应用的控制方法和系统


[0001]本专利技术涉及边缘计算设备
，特别是涉及一种对边缘计算设备的算法应用的控制方法、一种对边缘计算设备的算法应用的控制装置、一种电子设备以及一种计算机可读介质。

技术介绍

[0002]目前中国车联网产业化进程正逐步加速，我国产业链上下游企业已经围绕C
‑
V2X(蜂窝车联网，Cellular
‑
Vehicle to Everything)形成包括通信芯片、通信模组、终端设备、整车制造、运营服务、测试认证、高精度定位及地图服务等为主导的完整产业链生态。在通信、交通、汽车、自动驾驶平台与应用软件企业等数据提供方业务流融汇互通之下，汽车从单车智能向车路协同迈进。
[0003]而在车路协同领域，路侧设备提供其他车辆状态、行人运动状态，即车速、刹车、变道等交通参与者的信息显得尤为重要。目前，道路上的车辆状态、行人运动状态、非机动车运动状态均可由AI(Artificial Intelligence，人工智能)算法接入道路摄像头后推理形成结构化数据。这些AI算法会被适配在诸如路端传感器、路侧边缘计算设备、或是云端，而随着C
‑
V2X的发展，智能网联汽车对这些结构化数据的实时性要求越来越高，因此，这些推理数据会逐渐由云端转移至传感器设备或路侧边缘计算设备上，而在云端会逐步产生对路侧设备算法部署并管理的需求。
[0004]然而现目前，对边缘设备上的算法管理以及对算力的弹性调配等功能缺乏较为系统的支持，或是目前市面上的框架在实际使用过程中会存在对算力资源缺乏评估，对算法运行状态掌握不足等问题。
[0005]例如，在现有技术中，通常使用Azure(微软公司旗下基于云计算的操作系统)的IoT Hub(物联网通信，Internet of Things Hub)，将边缘计算设备EdgeBox注册上Azure的物联网边缘计算平台IoT Edge，通过Azure平台将应用打包成容器的形式，在云端对边缘计算设备EdgeBox上的算法应用进行部署和卸载，并可实时查看当前容器应用的运行状态。
[0006]然而，采用上述基于应用容器化部署的方式仅能查看容器本身的部署状态、运行状态，不能对安装于容器内部的应用的运行状态进行监控，并且无法根据设备的硬件特性，对所使用的硬件算力资源进行动态调配算法，进一步地，当单个设备负载过高时，无法将多个边缘计算设备的算力资源进行负载均衡，从而导致单一设备负载过高，降低了设备寿命，更进一步地，还会进一步加深关联的AI的推理数据处理延时问题，最终导致算力资源无法均衡使用。

技术实现思路

[0007]本专利技术实施例是提供一种对边缘计算设备的算法应用的控制方法、装置、电子设备以及计算机可读存储介质，以解决无法对容器内部算法应用的运行状态进行监控的问题。
[0008]本专利技术实施例公开了一种对边缘计算设备的算法应用的控制方法，其特征在于，所述方法应用于边缘计算设备，所述边缘计算设备用于与云端服务器通信连接，所述边缘计算设备包括容器和多个硬件设备，所述容器内安装有算法应用，所述方法包括：
[0009]响应于所述云端服务器发送的远程部署请求信息，在所述容器内为所述容器配置容器状态监控模块和人工智能引擎开发工具包；
[0010]通过所述容器状态监控模块从所述多个硬件设备中确定出与所述算法应用适配的第一硬件设备；
[0011]采用所述容器状态监控模块调用所述人工智能引擎开发工具包获取所述第一硬件设备的硬件资源占用数据；
[0012]通过所述容器状态监控模块基于所述资源占用数据，从所述第一硬件设备中确定出符合所述算法应用运行条件的第二硬件设备；
[0013]调用所述人工智能引擎开发工具包，使所述人工智能引擎开发工具包启用所述第二硬件设备中的所述算法应用。
[0014]可选地，所述边缘计算设备包括容器远程部署模块，所述云端服务器包括容器管理模块；所述响应于所述云端服务器发送的远程部署请求信息，在所述容器内为所述容器配置容器状态监控模块和人工智能引擎开发工具包，可以包括：
[0015]接收由所述云端服务器发送的远程部署请求信息，并响应于所述远程部署请求信息，调用所述容器远程部署模块从所述云端服务器中拉取容器镜像数据；
[0016]基于所述容器镜像数据，在所述容器内部为所述容器配置容器状态监控模块和人工智能引擎开发工具包。
[0017]可选地，所述边缘计算设备内存储有预设容器启动脚本，在所述通过所述容器状态监控模块从所述多个硬件设备中确定出与所述算法应用适配的第一硬件设备的步骤之前，还可以包括：
[0018]当启动所述容器时，通过预设容器启动脚本优先启动所述容器中的所述容器状态监控模块。
[0019]可选地，所述硬件资源占用数据至少包括通用信号处理器占用率、图形处理器占用率和中央处理器占用率，所述通过所述容器状态监控模块基于所述资源占用数据，从所述第一硬件设备中确定出符合所述算法应用运行条件的第二硬件设备，可以包括：
[0020]当所述第一硬件设备的通用信号处理器占用率小于预设阈值时，确定所述第一硬件设备为符合所述算法应用运行条件的第二硬件设备；和/或，
[0021]当所述第一硬件设备的通用信号处理器占用率大于或等于预设阈值，且第一硬件设备的图形处理器占用率小于预设阈值时，确定所述第一硬件设备为符合所述算法应用运行条件的第二硬件设备；和/或，
[0022]当所述第一硬件设备的通用信号处理器占用率大于或等于预设阈值，且第一硬件设备的图形处理器占用率大于或等于预设阈值，且第一硬件设备的中央处理器占用率小于预设阈值时，确定所述第一硬件设备为符合所述算法应用运行条件的第二硬件设备。
[0023]可选地，还可以包括：
[0024]基于预设的时间周期循环调用所述容器状态监控模块监控所述硬件资源占用数据，并发送至所述容器管理模块。
[0025]本专利技术实施例还公开了一种对边缘计算设备的算法应用的控制方法，所述方法应用于云端服务器，所述云端服务器用于与所述边缘计算设备通信连接，所述边缘计算设备包括容器和多个硬件设备，所述容器内安装有算法应用，所述方法可以包括：
[0026]向所述边缘计算设备发送远程部署请求信息，以使所述边缘计算设备响应于所述远程部署请求信息，在所述容器内为所述容器配置容器状态监控模块和人工智能引擎开发工具包；所述边缘计算设备通过所述容器状态监控模块从所述多个硬件设备中确定出与所述算法应用适配的第一硬件设备；采用所述容器状态监控模块调用所述人工智能引擎开发工具包获取所述第一硬件设备的硬件资源占用数据；通过所述容器状态监控模块基于所述资源占用数据，从所述第一硬件设备中确定出符合所述算法应用运行条件的第二硬件设备；调用所述人工智能引擎开发工具包，使所述人工智能引擎开发工具包启用所述第二硬件设备中的所述算法应用。
[0027]本专利技术实施例还公开了一种对边缘计算设备的算法应用的控制系统本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对边缘计算设备的算法应用的控制方法，其特征在于，所述方法应用于边缘计算设备，所述边缘计算设备用于与云端服务器通信连接，所述边缘计算设备包括容器和多个硬件设备，所述容器内安装有算法应用，所述方法包括：响应于所述云端服务器发送的远程部署请求信息，在所述容器内为所述容器配置容器状态监控模块和人工智能引擎开发工具包；通过所述容器状态监控模块从所述多个硬件设备中确定出与所述算法应用适配的第一硬件设备；采用所述容器状态监控模块调用所述人工智能引擎开发工具包获取所述第一硬件设备的硬件资源占用数据；通过所述容器状态监控模块基于所述资源占用数据，从所述第一硬件设备中确定出符合所述算法应用运行条件的第二硬件设备；调用所述人工智能引擎开发工具包，使所述人工智能引擎开发工具包启用所述第二硬件设备中的所述算法应用。2.根据权利要求1所述的方法，其特征在于，所述边缘计算设备包括容器远程部署模块，所述响应于所述云端服务器发送的远程部署请求信息，在所述容器内为所述容器配置容器状态监控模块和人工智能引擎开发工具包，包括：接收由所述云端服务器发送的远程部署请求信息，并响应于所述远程部署请求信息，调用所述容器远程部署模块从所述云端服务器中拉取容器镜像数据；基于所述容器镜像数据，在所述容器内部为所述容器配置容器状态监控模块和人工智能引擎开发工具包。3.根据权利要求1或2所述的方法，其特征在于，所述边缘计算设备内存储有预设容器启动脚本，在所述通过所述容器状态监控模块从所述多个硬件设备中确定出与所述算法应用适配的第一硬件设备的步骤之前，还包括：当启动所述容器时，通过预设容器启动脚本优先启动所述容器中的所述容器状态监控模块。4.根据权利要求1所述的方法，其特征在于，所述硬件资源占用数据至少包括通用信号处理器占用率、图形处理器占用率和中央处理器占用率，所述通过所述容器状态监控模块基于所述资源占用数据，从所述第一硬件设备中确定出符合所述算法应用运行条件的第二硬件设备，包括：当所述第一硬件设备的通用信号处理器占用率小于预设阈值时，确定所述第一硬件设备为符合所述算法应用运行条件的第二硬件设备；和/或，当所述第一硬件设备的通用信号处理器占用率大于或等于预设阈值，且第一硬件设备的图形处理器占用率小于预设阈值时，确定所述第一硬件设备为符合所述算法应用运行条件的第二硬件设备；和/或，当所述第一硬件设备的通用信号处理器占用率大于或等于预设阈值，且第一硬件设备的图形处理器占用率大于或等于预设阈值，且第一硬件设备的中央处理器占用率小于预设阈值时，确定所述第一硬件设备为符合所述算法应用运行条件的第二硬件设备。5.根据权利要求2所述的方法，其特征在于，所述云端服务器包括容器管理模块，还包括：
基于预设的时间周期循环调用所述容器状态监控模块监控所述硬件资源占用数据，并发送至所述容器管理模块。6.一种对边缘计算设备的算法应用的控制方法，其特征在于，所述方法应用于云端服务器，所述云端服务器用于与所述边缘计算设备通信连接，所述边缘计算设备包括容器和多个硬件设备，所述容器内安装有算法应用，所述方法包括：向所述边缘计算设备发送远程部署请求信息，...

【专利技术属性】
技术研发人员：罗宇恒，
申请(专利权)人：成都中科创达软件有限公司，
类型：发明
国别省市：