基于多类型智能模型的云边协同调度方法及应用技术

本发明专利技术公开了一种基于多类型智能模型的云边协同调度方法及应用，应用于云边协同系统中，云边协同系统包括云计算中心以及多个边缘节点，该方法包括：构建预测模型，预测模型包括分别部署在N个边缘节点上的N个推理模型以及对应的N个选择模型；基于预测模型中的选择模型调度对应的推理模型执行目标任务。该方法可以应用于不同的网络结构、不同的应用以及不同的输入数据集上；且基于相关参数矩阵提取特征值，提高预测模型识别效果，降低任务的执行时间；基于多DNN并存的模型选择方法，提升预测模型对图像处理应用的整体精度；同时，通过采用边缘设备和云计算中心相互协同调度的方式执行目标任务，减小了带宽资源损耗，且保证了数据的安全性。据的安全性。据的安全性。

【技术实现步骤摘要】
基于多类型智能模型的云边协同调度方法及应用


[0001]本专利技术是关于机器学习领域，特别是关于一种基于多类型智能模型的云边协同调度方法及应用。

技术介绍

[0002]随着人工智能技术的发展与成熟，深度学习成为人工智能技术的核心。深度神经网络模型的应用使得智能服务系统更加便捷，但是深度学习一般为资源密集型，大数据分析计算的需求使传统云计算在传输数据时消耗大量带宽资源，同时数据传输带来的时延影响了应用的实时性，新兴的边缘计算由于边缘端资源有限而选择压缩单一DNN模型的方式，导致图像识别精确度不高。
[0003]因此，针对单一DNN方法精度不足的问题，基于边缘系统时延低的需求，研究者提出了一类提前退出的模型策略，根据不同数据在模型推理过程中所需要特征粒度不同的特点，划分多个模型推理结束的退出点。然而，模型推理的提前退出点都是事先确定的，在动态环境中性能十分不理想，且前期先验准备工作量大。
[0004]针对存储空间并不充足的边缘设备，同时利用传统大版本DNN和小版本DNN模型优化资源的方法显然不合适；传统的办法将计算完全托管于云中心，应用数据量巨大，上传到云数据中心的过程需要损耗大量带宽资源，且由于网络的不稳定及安全性问题，一些隐私数据在传输中存在有泄漏风险；此外，大部分研究仍未能将边缘计算与深度学习技术相结合，未能从更加全面的角度考虑多种模型的选择。

技术实现思路

[0005]本专利技术的目的在于提供一种基于多类型智能模型的云边协同调度方法及应用，用以解决现有技术中边缘设备选择压缩单一DNN模型而导致的图像识别精确度低、以及托管于云计算中心计算时带宽资源损耗大、数据安全存在隐患的技术问题。
[0006]为实现上述目的，本专利技术的实施例提供了一种基于多类型智能模型的云边协同调度方法，应用于云边协同系统中，所述云边协同系统包括云计算中心以及多个边缘节点。
[0007]在本专利技术的一个或多个实施方式中，所述方法包括：构建预测模型，其中，所述预测模型包括分别部署在N个边缘节点上的N个推理模型以及对应的N个选择模型；基于所述预测模型中的选择模型调度对应的推理模型执行目标任务。
[0008]在本专利技术的一个或多个实施方式中，构建所述预测模型包括：构建训练特征集，其中，所述训练特征集中包括M个训练特征；将所述训练特征集输入预设推理模型集合，并交替基于推理时间和推理准确率确定构建所述预测模型的N个推理模型；基于所述N个推理模型，为所述M个训练特征标记类别标签，其中，所述类别标签表示所述训练特征所对应的最优推理模型；将所述训练特征集作为输入，以所述N个选择模型分别选中对应推理模型的目标训练特征为训练目标，对所述N个选择模型进行训练，直至满足训练条件，其中，所述目标训练特征为标记有与所述推理模型对应推理标签的训练特征。
[0009]在本专利技术的一个或多个实施方式中，构建训练特征集，具体包括：构建第一候选特征集；基于皮尔逊积点相关参数矩阵，筛选所述第一候选特征集中采数值在预设范围内的特征，以构建第二候选特征集；计算所述预测模型对所述第二候选特征集的第一预测准确率；依次从所述第二候选特征集中剔除一候选特征，并计算所述预测模型对所述剔除一候选特征的第二候选特征集的第二预测准确率；基于所述第一预测准确率和第二预测准确率的差值，确定是否删除所述第二候选特征集中的对应特征，以构建训练特征集。
[0010]在本专利技术的一个或多个实施方式中，将所述训练特征集输入预设推理模型集合，并交替基于推理时间和推理准确率确定构建所述预测模型的多个推理模型，具体包括：将所述训练特征集分别输入预设推理模型集合中的推理模型；基于所述推理模型的推理时间或推理准确率，确定一推理模型加入所述预测模型，并将所述确定的推理模型从预设推理模型集合中删除；交替基于所述推理模型的推理时间和推理准确率，确定所述预测模型的候选推理模型，并基于所述预测模型的推理时间和/或推理准确率，确定是否将所述候选推理模型加入所述预测模型。
[0011]在本专利技术的一个或多个实施方式中，基于所述N个推理模型，为所述M个训练特征标记类别标签，具体包括：将所述训练特征集输入第一推理模型，并基于推理时间和/或推理准确率，确定所述第一推理模型选中的训练特征；将所述训练特征集中的剩余训练特征输入第二推理模型，并基于推理时间和/或推理准确率，确定所述第二推理模型选中的训练特征，其中，所述第二推理模型连接在所述第一推理模型之后；重复以上步骤，直至所述N个推理模型依序选中对应的训练特征；基于所述N个推理模型分别选中的训练特征，为所述M个训练特征标记类别标签。
[0012]在本专利技术的一个或多个实施方式中，所述方法还包括：基于k折交叉验证法，验证所述预测模型的性能指标，其中，所述性能指标包括推理时间、预测模型的能源消耗、准确率、精度、召回率、以及F1分数中的至少一个。
[0013]在本专利技术的一个或多个实施方式中，在所述预测模型中的选择模型未调度对应的推理模型执行目标任务时，所述方法还包括：将所述目标任务传送至所述云计算中心，以供所述云计算中心选择边缘节点上的推理模型执行所述目标任务。
[0014]在本专利技术的一个或多个实施方式中，所述推理模型为DNN模型，所述选择模型为KNN模型。
[0015]在本专利技术的另一个方面当中，提供了一种基于多类型智能模型的云边协同调度装置，所述装置包括构建模块和调度模块。
[0016]构建模块，用于构建预测模型，其中，所述预测模型包括分别部署在N个边缘节点上的N个推理模型以及对应的N个选择模型；
[0017]调度模块，用于基于所述预测模型中的选择模型调度对应的推理模型执行目标任务。
[0018]在本专利技术的一个或多个实施方式中，所述构建模块具体用于：构建训练特征集，其中，所述训练特征集中包括M个训练特征；将所述训练特征集输入预设推理模型集合，并交替基于推理时间和推理准确率确定构建所述预测模型的N个推理模型；基于所述N个推理模型，为所述M个训练特征标记类别标签，其中，所述类别标签表示所述训练特征所对应的最优推理模型；将所述训练特征集作为输入，以所述N个选择模型分别选中对应推理模型的目
标训练特征为训练目标，对所述N个选择模型进行训练，直至满足训练条件，其中，所述目标训练特征为标记有与所述推理模型对应推理标签的训练特征。
[0019]在本专利技术的一个或多个实施方式中，所述构建模块具体还用于：构建第一候选特征集；基于皮尔逊积点相关参数矩阵，筛选所述第一候选特征集中采数值在预设范围内的特征，以构建第二候选特征集；计算所述预测模型对所述第二候选特征集的第一预测准确率；依次从所述第二候选特征集中剔除一候选特征，并计算所述预测模型对所述剔除一候选特征的第二候选特征集的第二预测准确率；基于所述第一预测准确率和第二预测准确率的差值，确定是否删除所述第二候选特征集中的对应特征，以构建训练特征集。
[0020]在本专利技术的一个或多个实施方式中，所述构建模块具体还用于：将所述训练特征集分别输入预设推理模型集合中的推理模型；基于本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于多类型智能模型的云边协同调度方法，应用于云边协同系统中，所述云边协同系统包括云计算中心以及多个边缘节点，其特征在于，所述方法包括：构建预测模型，其中，所述预测模型包括分别部署在N个边缘节点上的N个推理模型以及对应的N个选择模型；基于所述预测模型中的选择模型调度对应的推理模型执行目标任务；其中，构建所述预测模型包括：构建训练特征集，其中，所述训练特征集中包括M个训练特征；将所述训练特征集输入预设推理模型集合，并交替基于推理时间和推理准确率确定构建所述预测模型的N个推理模型；基于所述N个推理模型，为所述M个训练特征标记类别标签，其中，所述类别标签表示所述训练特征所对应的最优推理模型；将所述训练特征集作为输入，以所述N个选择模型分别选中对应推理模型的目标训练特征为训练目标，对所述N个选择模型进行训练，直至满足训练条件，其中，所述目标训练特征为标记有与所述推理模型对应推理标签的训练特征。2.如权利要求1所述的基于多类型智能模型的云边协同调度方法，其特征在于，构建训练特征集，具体包括：构建第一候选特征集；基于皮尔逊积点相关参数矩阵，筛选所述第一候选特征集中采数值在预设范围内的特征，以构建第二候选特征集；计算所述预测模型对所述第二候选特征集的第一预测准确率；依次从所述第二候选特征集中剔除一候选特征，并计算所述预测模型对所述剔除一候选特征的第二候选特征集的第二预测准确率；基于所述第一预测准确率和第二预测准确率的差值，确定是否删除所述第二候选特征集中的对应特征，以构建训练特征集。3.如权利要求1所述的基于多类型智能模型的云边协同调度方法，其特征在于，将所述训练特征集输入预设推理模型集合，并交替基于推理时间和推理准确率确定构建所述预测模型的N个推理模型，具体包括：将所述训练特征集分别输入预设推理模型集合中的推理模型；基于所述推理模型的推理时间或推理准确率，确定一推理模型加入所述预测模型，并将所述确定的推理模型从预设推理模型集合中删除；交替基于所述推理模型的推理时间和推理准确率，确定所述预测模型的候选推理模型，并基于所述预测模型的推理时间和/或推理准确率，确定是否将所述候选推理模型加入所述预测模型。4.如权利要求1所述的基于多类型智能模型的云边协同调度方法，其特征在于，基于所述N个推理模型，为所述M个训练特征标记类别标签，具体包括：将所述训练特征集输入第一推理模型，并基于推理时间和/或推理准确率，确定所述第一推理模型选中的训练特征；将所述训练特征集中的...

【专利技术属性】
技术研发人员：曾锃，李世豪，缪巍巍，韦磊，夏元轶，肖晶，杜渐，全思平，杨君中，张瑞，滕昌志，余益团，
申请(专利权)人：国网江苏省电力有限公司国网江苏省电力有限公司泰州供电分公司，
类型：发明
国别省市：