System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种云边协同微调控制方法、装置、设备及存储介质制造方法及图纸_技高网

一种云边协同微调控制方法、装置、设备及存储介质制造方法及图纸

技术编号:40277784 阅读:10 留言:0更新日期:2024-02-02 23:05
本发明专利技术涉及工业大数据技术领域,公开了一种云边协同微调控制方法、装置、设备及存储介质,本发明专利技术提供的一种云边协同微调控制方法,结合云侧的低成本和高灵活性,边侧低时延和高安全性的优点,减少不必要的模型微调,节省计算资源,提升模型响应速度、及时微调模型使其适应部署的数据分布变化并保证电网采集数据的安全。

【技术实现步骤摘要】

本专利技术涉及工业大数据,具体涉及一种云边协同微调控制方法、装置、设备及存储介质


技术介绍

1、在当今物联网领域中,云计算赋能大数据处理,为用户提供相应的基础设施和服务,从而降低了企业成本并且为不同规模的企业增加了灵活性。但是随着物联网的高速发展,海量数据的产生对云端带来了巨大的压力,导致较大的响应时延。边缘计算则通过在终端附近部署站点提供服务,减少网络带宽的压力,从而满足业务场景对实时性、安全性的要求。然而由于边侧的计算资源有限,无法满足模型在精度上的要求,导致其只能完成短周期的数据处理任务。

2、当前为解决边侧资源有限等问题,将云边侧间的通信、资源分配等问题变为凸优化问题,通过karush-kuhn-trucker条件计算得出云边侧间最优资源分配策略,从而大大减少云边协同系统下移动设备的延迟。然而,每个移动终端对网络延迟的要求未被纳入考量范畴,因此效果并不理想。目前一种基于工业场景下云边侧数据协作的方法是利用在边侧部署的数控机床、射频识别技术以及各类传感器收集数据,传感信号从边侧上传处理并存储到数据库,将数据库存储的部分数据上传到云测进行模型训练,实时性、安全性要求相对较高的数据则存储在边侧,以备数据处理过程中做到快速响应,这种方法虽然一定程度上缓解云侧网络堵塞的压力,但是随着日益增长的数据种类,海量的数据类型给标准协议转换带来了很多困扰。

3、当前流行的智能协同方法是将收集的数据在云侧进行训练,利用蒸馏、量化、剪枝等模型压缩方法将压缩后的较小模型部署到边侧进行推理,从而加快模型推理速度,为云侧分担请求服务的压力。然而,在云侧训练好的模型在下发到边侧的过程中存在模型下发时间过长等现象,存在云侧边侧不能协调控制的缺陷。


技术实现思路

1、有鉴于此,本专利技术提供了一种云边协同微调控制方法、装置、设备及存储介质,以解决云侧边侧不能协调控制的问题。

2、第一方面,本专利技术提供了一种云边协同微调控制方法,所述方法包括:

3、将目标模型分割为多个部分使其分别部署在云侧和边侧,其中,边侧设备集的任意一个边侧设备均包括至少一个模型层,云侧设备集的任意一个云侧设备均包括至少一个模型层;

4、获取数据样本;

5、将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理,并将处理结果发送至边侧设备集中其他任意一个边侧设备进行处理,循环上述边侧设备处理结果发送的步骤,直至所有的边侧设备都完成处理,边侧设备集包括至少一个边侧设备;

6、将边侧设备集中最后边侧设备的处理结果发送至云侧的云侧设备集中的任意一个云侧设备进行处理,并将处理结果发送至云侧设备集中其他任意一个云侧设备进行处理,循环上述云侧设备处理结果发送的步骤,直至所有的云侧设备都完成处理,云侧设备集包括至少一个云侧设备;

7、将云侧设备集中最后云侧设备的处理结果依次按照云侧设备集及边侧设备集的发送顺序的反顺序进行回传处理,在回传过程中计算模型微调参数梯度,根据模型微调参数梯度更新各个云侧设备及各个边侧设备中的各模型层中微调参数

8、本专利技术提供了一种云边协同微调控制方法,结合云侧的低成本和高灵活性,边侧低时延和高安全性的优点,减少不必要的模型微调,节省计算资源,提升模型响应速度、及时微调模型使其适应部署的数据分布变化并保证电网采集数据的安全性。

9、在一种可选的实施方式中,将目标模型分割为多个部分使其分别部署在云侧和边侧,包括:

10、将目标模型的模型层根据奖励值进行部署,以将目标模型分割为多个部分使其分别部署在云侧和边侧,具体为:

11、针对目标模型的第i层,选择奖励值最大的设备进行部署,其中,将第i层部署到设备j的奖励rij通过以下公式表示:

12、rij=tinf+ttra+sa

13、其中,tinf为第i层部署到设备j后,从模型第一层到第i层的推理时间,ttra表示从模型第一层到第i层进行微调所需的时间,sa表示部署到设备j的数据安全性。

14、本专利技术提供的方法通过模型部署减少了由于模型推理所带来的延迟,同时有效的规避边侧数据中存在着安全风险等问题。

15、在一种可选的实施方式中,将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理,包括:

16、数据样本经过判别模型,判断是否加入微调样本集;

17、当数据样本加入微调样本集时,将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理;判别模型的输出为目标模型的部署预测结果的置信度和数据可信度;

18、数据样本经过判别模型,判断是否加入微调样本集,包括:

19、数据样本经过判别模型,当判别模型输出的数据可信度低于第一阈值时,不将其加入微调样本集;当判别模型输出的数据可信度高于第一阈值且置信度低于第二阈值时,将其加入微调样本集。

20、本专利技术提供的方法,利用判别模型对作业现场新产生的样本进行判别,筛选出需要加入模型微调训练集的图像样本,避免了计算资源的浪费。

21、在一种可选的实施方式中,将云侧设备集中最后云侧设备的处理结果依次按照云侧设备集及边侧设备集的发送顺序的反顺序进行回传处理,包括:

22、对每个模型层设置预设数量的微调参数并随机初始化;

23、当目标模型需要微调时,将云侧设备集中最后云侧设备的处理结果依次按照云侧设备集及边侧设备集的发送顺序的反顺序进行回传处理,且原始模型参数与预设数量的微调参数同时进行回传处理。

24、本专利技术提供的方法,由于模型部署较为分散,若全部模型参数都更新则会占据大量计算资源,利用部分参数更新的云边协同模型微调方法,满足了边侧模型对作业现场中新数据分布的及时捕获,同时减少了在云侧模型下发过程中产生的推理延迟。

25、在一种可选的实施方式中,在每个边侧设备及云侧设备中,模型微调参数的个数小于目标模型中模型层的个数。

26、本专利技术提供的方法,模型微调参数的个数远远小于该模型层参数量,微调参数在模型不需要进行微调时不起作用,避免了计算资源的浪费

27、第二方面,本专利技术提供了一种云边协同微调控制装置,所述装置包括:

28、模型分割模块,用于将目标模型分割为多个部分使其分别部署在云侧和边侧,其中,边侧设备集的任意一个边侧设备均包括至少一个模型层,云侧设备集的任意一个云侧设备均包括至少一个模型层;

29、数据获取模块,用于获取数据样本;

30、第一发送模块,用于将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理,并将处理结果发送至边侧设备集中其他任意一个边侧设备进行处理,循环上述边侧设备处理结果发送的步骤,直至所有的边侧设备都完成处理,边侧设备集包括至少一个边侧设备;

31、第二发送模块,用于将边侧设备集中最后边侧设备的处理结果发送至云侧的云侧设备集中的任意一个云侧设备进行处理,并将处理结果发送至云侧设本文档来自技高网...

【技术保护点】

1.一种云边协同微调控制方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,将目标模型分割为多个部分使其分别部署在云侧和边侧,包括:

3.根据权利要求1所述的方法,其特征在于,将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理,包括:

4.根据权利要求1所述的方法,其特征在于,将云侧设备集中最后云侧设备的处理结果依次按照云侧设备集及边侧设备集的发送顺序的反顺序进行回传处理,包括:

5.根据权利要求1或4所述的方法,其特征在于,在每个边侧设备及云侧设备中,模型微调参数的个数小于目标模型中模型层的个数。

6.一种云边协同微调控制装置,其特征在于,所述装置包括:

7.根据权利要求6所述的装置,其特征在于,模型分割模块中,将目标模型分割为多个部分使其分别部署在云侧和边侧,包括:

8.根据权利要求6所述的装置,其特征在于,将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理,包括:

9.根据权利要求6所述的装置,其特征在于,微调模块中,将云侧设备集中最后云侧设备的处理结果依次按照云侧设备集及边侧设备集的发送顺序的反顺序进行回传处理,包括:

10.根据权利要求6或9所述的装置,其特征在于,在每个边侧设备及云侧设备中,模型微调参数的个数小于目标模型中模型层的个数。

11.一种计算机设备,其特征在于,包括:

12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机指令,所述计算机指令用于使计算机执行权利要求1至5中任一项所述的云边协同微调控制方法。

...

【技术特征摘要】

1.一种云边协同微调控制方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,将目标模型分割为多个部分使其分别部署在云侧和边侧,包括:

3.根据权利要求1所述的方法,其特征在于,将数据样本发送至边侧的边侧设备集中的任意一个边侧设备进行处理,包括:

4.根据权利要求1所述的方法,其特征在于,将云侧设备集中最后云侧设备的处理结果依次按照云侧设备集及边侧设备集的发送顺序的反顺序进行回传处理,包括:

5.根据权利要求1或4所述的方法,其特征在于,在每个边侧设备及云侧设备中,模型微调参数的个数小于目标模型中模型层的个数。

6.一种云边协同微调控制装置,其特征在于,所述装置包括:

7.根据权利要求6所述的装置,其特征在于,模型分割模块...

【专利技术属性】
技术研发人员:张屹初宗博范晓宣张国梁杜泽旭张强
申请(专利权)人:国网智能电网研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1