一种基于端边云架构的协同调度系统及方法技术方案

本发明专利技术公开一种基于端边云架构的协同调度系统及方法，所述基于端边云架构的协同调度系统包括云节点调度系统、若干边缘调度系统以及若干终端，各边缘调度系统均为云节点调度系统的下级，终端为边缘调度系统和/或云节点调度系统的下级。云节点调度系统可以根据任务信息和整个系统的资源情况，在云节点、边缘节点以及终端之间进行任务调度，实现系统资源的优化利用和任务自动优化调度，保障各类任务顺利高效地执行，实现在端边云架构上对任务的协同调度和端边云协同工作。调度和端边云协同工作。调度和端边云协同工作。

【技术实现步骤摘要】
一种基于端边云架构的协同调度系统及方法


[0001]本专利技术涉及视频监控及处理
，特别涉及一种基于端边云架构的协同调度系统及方法。

技术介绍

[0002]随着智慧城市的建设，视频采集摄像头在城市的各个角落随处可见，同时摄像头的数量还以每年20%的增长率不断扩大规模，视频监控的应用遍及日常生活和各个行业中，伴随而来的是各类视频分析任务的飞速增长。不同的视频分析任务往往有着不同的性能需求，有些视频分析任务是长期、持续进行的，对处理时延的要求不会很高；而有些视频分析任务需要在很短的时间内完成，如车牌识别任务对准确率和时延的要求非常高。同时，视频分析任务的性能受许多因素的影响，例如计算资源（处理器类型、内存等）、视频流参数（分辨率等）、视频分析算法的性能等。
[0003]因此，针对海量视觉数据处理以及大量不同业务场景的视频分析任务，需要引入新型端边云协同的系统架构来满足不同规模的应用需求和不同任务的性能需求。在靠近终端侧建立安全的边缘计算基础设施，与云计算相互协作，形成有效的互补，同时引入具有算力的AI终端设备，三者相互配合，构建“云
‑
边缘
‑
端”系统格局。在新型端边云协同的视觉计算系统架构下，如何合理地调度任务、分配资源，使系统可以在满足视频分析任务需求的前提下有效利用资源，是具有非常重要的意义的。
[0004]然而，当前一些基于端边云协同的视频分析任务调度系统主要通过在视频终端附近部署边缘计算节点，视频终端输出视频流数据，边缘计算节点运行计算任务，同时允许资源受限的边缘计算节点将部分或全部任务卸载到云节点以实现资源协同共享，该类技术主要关注边缘到云的卸载策略，忽略了边缘计算节点间的协同调度，同时没有考虑终端设备的算力资源的调度。可见，现有调度系统仅对边、云任务和资源进行了协同调度，但是在AI终端广泛使用的背景下，对终端资源进行统一调度对于系统协同中的资源优化利用至关重要。
[0005]因而，现有技术还有待改进和提高。

技术实现思路

[0006]本专利技术的主要目的在于提供一种基于端边云架构的协同调度系统及方法，旨在解决现有技术中无法实现基于端边云协同架构的视觉智能系统的任务协同调度和资源有效利用的问题。
[0007]为了达到上述目的，本专利技术采取了以下技术方案：第一方面，本专利技术提供一种基于端边云架构的协同调度系统，所述基于端边云架构的协同调度系统包括云节点调度系统、若干边缘调度系统以及若干终端，各所述边缘调度系统均为所述云节点调度系统的下级，所述终端为所述边缘调度系统和/或所述云节点调度系统的下级；
所述云节点调度系统：对基于端边云架构的系统的资源情况进行监控；获取任务，根据任务信息和所述基于端边云架构的系统的资源情况确定所述任务对应的任务运行节点；当所述任务运行节点非自身时，生成所述任务运行节点对应的调度指令，将所述调度指令发送至对应的下级；当所述任务运行节点为自身时，从对应的下级获取所述任务对应的采集数据，使云节点根据所述采集数据运行所述任务；所述边缘调度系统：接收所述调度指令，判断所述任务运行节点；当所述任务运行节点非自身时，将所述调度指令转发给对应的下级；当所述任务运行节点为自身时，从对应的下级或者邻近边缘调度系统的下级获取所述任务对应的采集数据，使自身边缘节点根据所述采集数据运行所述任务；所述终端：采集所述任务对应的数据；接收所述调度指令，根据所述任务对应的采集数据运行所述任务；或者，将所述任务对应的采集数据上报至对应的上级。
[0008]在一种实施方式中，所述基于端边云架构的系统的资源情况包括所述云节点、各边缘节点以及各所述终端分别对应的资源情况；所述资源情况包括总资源情况、已用资源情况以及可用资源情况；所述基于端边云架构的系统的资源包括计算资源、内存资源、存储资源、算法资源以及带宽资源中的一种或者多种资源类型。
[0009]在一种实施方式中，所述云节点调度系统和所述边缘调度系统均包括调度模块；所述云节点调度系统的所述调度模块的功能包括：获取所述任务信息和所述基于端边云架构的系统的资源情况，根据所述基于端边云架构的系统的资源情况和所述任务信息生成所述调度指令；所述边缘调度系统的所述调度模块的功能包括：接收和转发上级或同级发送的所述调度指令。
[0010]在一种实施方式中，所述云节点调度系统、所述边缘调度系统以及所述终端均包括控制模块；除所述终端的所述控制模块之外，各所述控制模块的功能包括：与下级的所述控制模块进行通讯，以获取下级的上报数据；向下级发送指令；除所述云节点调度系统的所述控制模块之外，各所述控制模块的功能包括：获取上级发送的所述指令和从上级获取算法资源；向上级发送所述上报数据。
[0011]在一种实施方式中，所述上报数据包括设备基础信息、设备实时状态信息、设备配置信息、资源使用情况、任务运行状态信息、设备位置信息以及算法资源中的一种或者多种信息。
[0012]在一种实施方式中，所述指令包括：所述调度指令、任务下发指令、设备配置管理指令、设备控制指令、软件配置参数以及算法模型更新指令中的一种或者多种指令。
[0013]在一种实施方式中，所述云节点调度系统和所述边缘调度系统均还包括注册中
心；所述注册中心的功能包括：获取下级的上报数据；为所述调度模块提供下级的资源情况。
[0014]在一种实施方式中，所述云节点调度系统还包括任务接口，所述任务接口的功能包括：创建所述任务。
[0015]在一种实施方式中，当所述任务为视频分析任务时，所述任务信息包括视频源、算法模型、资源要求、优先级、时延要求中的一种或者多种信息。
[0016]在一种实施方式中，所述终端还包括用于支持自定义算法运行并输出算法结果的运行环境。
[0017]第二方面，本专利技术还提供一种基于端云架构的协同调度系统，所述基于端云架构的协同调度系统包括上述任一所述的基于端边云架构的协同调度系统中的云节点调度系统和终端，所述云节点调度系统为各所述终端的上级。
[0018]第三方面，本专利技术还提供一种基于端边架构的协同调度系统，所述基于端边架构的协同调度系统包括上述任一所述的基于端边云架构的协同调度系统中的边缘调度系统和终端；所述边缘调度系统用于执行所述云节点调度系统对应的调度功能。
[0019]第四方面，本专利技术还提供一种基于端边云架构的系统，所述基于端边云架构的系统包括上述任一所述的基于端边云架构的协同调度系统。
[0020]第五方面，本专利技术还提供一种基于端云架构的系统，所述基于端云架构的系统包括上述所述的基于端云架构的协同调度系统。
[0021]第六方面，本专利技术还提供一种基于端边架构的系统，所述端边架构的系统包括上述所述的基于端边架构的协同调度系统。
[0022]第七方面，本专利技术还提供一种基于端边云架构的协同调度方法，所述方法应用于上述任一所述的基于端边云架构的协同调度系统中的云节点调度系统，所述方法基于预设的调度策略生成；预设的调度策略包括自定义调度策略、最大空闲资源本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于端边云架构的协同调度系统，其特征在于，所述基于端边云架构的协同调度系统包括云节点调度系统、若干边缘调度系统以及若干终端，各所述边缘调度系统均为所述云节点调度系统的下级，所述终端为所述边缘调度系统和/或所述云节点调度系统的下级；所述云节点调度系统：对基于端边云架构的系统的资源情况进行监控；获取任务，根据任务信息和所述基于端边云架构的系统的资源情况确定所述任务对应的任务运行节点；当所述任务运行节点非自身时，生成所述任务运行节点对应的调度指令，将所述调度指令发送至对应的下级；当所述任务运行节点为自身时，从对应的下级获取所述任务对应的采集数据，使云节点根据所述采集数据运行所述任务；所述边缘调度系统：接收所述调度指令，判断所述任务运行节点；当所述任务运行节点非自身时，将所述调度指令转发给对应的下级；当所述任务运行节点为自身时，从对应的下级或者邻近边缘调度系统的下级获取所述任务对应的采集数据，使自身边缘节点根据所述采集数据运行所述任务；所述终端：采集所述任务对应的数据；接收所述调度指令，根据所述任务对应的采集数据运行所述任务；或者，将所述任务对应的采集数据上报至对应的上级。2.根据权利要求1所述的基于端边云架构的协同调度系统，其特征在于，所述基于端边云架构的系统的资源情况包括所述云节点、各边缘节点以及各所述终端分别对应的资源情况；所述资源情况包括总资源情况、已用资源情况以及可用资源情况；所述基于端边云架构的系统的资源包括计算资源、内存资源、存储资源、算法资源以及带宽资源中的一种或者多种资源类型。3.根据权利要求1所述的基于端边云架构的协同调度系统，其特征在于，所述云节点调度系统和所述边缘调度系统均包括调度模块；所述云节点调度系统的所述调度模块的功能包括：获取所述任务信息和所述基于端边云架构的系统的资源情况，根据所述基于端边云架构的系统的资源情况和所述任务信息生成所述调度指令；所述边缘调度系统的所述调度模块的功能包括：接收和转发上级或同级发送的所述调度指令。4.根据权利要求1所述的基于端边云架构的协同调度系统，其特征在于，所述云节点调度系统、所述边缘调度系统以及所述终端均包括控制模块；除所述终端的所述控制模块之外，各所述控制模块的功能包括：与下级的所述控制模块进行通讯，以获取下级的上报数据；向下级发送指令；除所述云节点调度系统的所述控制模块之外，各所述控制模块的功能包括：获取上级发送的所述指令和从上级获取算法资源；向上级发送所述上报数据。
5.根据权利要求4所述的基于端边云架构的协同调度系统，其特征在于，所述上报数据包括设备基础信息、设备实时状态信息、设备配置信息、资源使用情况、任务运行状态信息、设备位置信息以及算法资源中的一种或者多种信息。6.根据权利要求4所述的基于端边云架构的协同调度系统，其特征在于，所述指令包括：所述调度指令、任务下发指令、设备配置管理指令、设备控制指令、软件配置参数以及算法模型更新指令中的一种或者多种指令。7.根据权利要求3所述的基于端边云架构的协同调度系统，其特征在于，所述云节点调度系统和所述边缘调度系统均还包括注册中心；所述注册中心的功能包括：获取下级的上报数据；为所述调度模块提供下级的资源情况。8.根据权利要求1所述的基于端边云架构的协同调度系统，其特征在于，所述云节点调度系统还包括任务接口，所述任务接口的功能包括：创建所述任务。9.根据权利要求1所述的基于端边云架构的协同调度系统，其特征在于，当所述任务为视频分析任务时，所述任务信息包括视频源、算法模型、资源要求、优先级、时延要求中的一种或者多种信息。10.根据权利要求1所述的基于端边云架构的协同调度系统，其特征在于，所述终端还包括用于支持自定义算法运行并输出算法结果的运行环境。11.一种基于端云架构的协同调度系统，...

【专利技术属性】
技术研发人员：白鑫贝，王耀威，山其本，李潘，高文，
申请(专利权)人：鹏城实验室，
类型：发明
国别省市：