System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 联邦学习方法、服务端、客户端和系统技术方案_技高网

联邦学习方法、服务端、客户端和系统技术方案

技术编号:40316970 阅读:7 留言:0更新日期:2024-02-07 20:59
本公开涉及一种联邦学习方法、服务端、客户端和系统,涉及计算机技术领域。本公开的联邦学习方法,由服务端执行,包括:向客户端发送客户端信息请求,其中,客户端信息请求包括联邦学习的原始时间信息、客户端负载预测信息请求;接收客户端发送的客户端信息响应,其中,客户端信息响应包括客户端负载预测信息,客户端负载预测信息是客户端根据联邦学习的原始时间信息生成的;根据客户端的注册信息、客户端负载预测信息确定客户端的训练策略;向客户端发送其对应的训练策略。

【技术实现步骤摘要】

本公开涉及计算机,特别涉及一种联邦学习方法、服务端、客户端和系统


技术介绍

1、联邦学习能够使多个客户端在数据不出本地的情况下共同完成模型训练,是一种能够保护客户端隐私的分布式学习方法。在联邦学习中,客户端模型对模型进行训练后,只将模型的更新参数汇总到服务端。这种分布式学习方法可以解决数据隐私保护和数据安全性问题。


技术实现思路

1、专利技术人研究发现:在联邦学习的过程中,客户端涉及多次本地训练,以及多次模型下载、模型上传等操作,会极大地占用客户端的资源。而在客户端资源不足的情况下,会导致模型传输时延长、丢包、效率低等问题,从而影响联邦学习的效果。

2、本公开所要解决的一个技术问题是:如何提升联邦学习的效果。

3、根据本公开的一些实施例,提供了一种联邦学习方法,由服务端执行,包括:向客户端发送客户端信息请求,其中,客户端信息请求包括联邦学习的原始时间信息、客户端负载预测信息请求;接收客户端发送的客户端信息响应,其中,客户端信息响应包括客户端负载预测信息,客户端负载预测信息是客户端根据联邦学习的原始时间信息生成的;根据客户端的注册信息、客户端负载预测信息确定客户端的训练策略;向客户端发送其对应的训练策略。

4、在一些实施例中,根据客户端的注册信息、客户端负载预测信息确定客户端的训练策略包括:根据客户端的注册信息,确定客户端的算力资源;根据客户端的算力资源、客户端负载预测信息,确定客户端的训练策略,其中,训练策略包括联邦学习的时间信息和模型信息,模型信息包括训练模型、训练模型的下发方式、训练轮数、训练结果上传方式中的至少一项。

5、在一些实施例中,根据客户端的算力资源、客户端负载预测信息,确定客户端的训练策略包括:在客户端的算力资源、客户端负载预测信息不满足联邦学习的需求的情况下,将联邦学习的部分原始模型确定为客户端的训练模型,客户端的训练策略包括训练模型。

6、在一些实施例中,客户端负载预测信息包括计算负载预测信息、存储负载预测信息,客户端的算力资源、客户端负载预测信息不满足联邦学习的需求包括:客户端的算力资源低于第一预设阈值、计算负载预测信息中预测的计算负载大于第二预设阈值、存储负载预测信息中预测的存储负载大于第三预设阈值中的至少一项。

7、在一些实施例中,将联邦学习的部分原始模型确定为客户端的训练模型包括:对联邦学习的原始模型进行拆分、以将联邦学习的模型的一部分确定为客户端的训练模型;或将联邦学习的原始模型处理为多头模型,以将多头模型的头部部分确定为客户端的训练模型。

8、在一些实施例中,根据客户端的算力资源、客户端负载预测信息,确定客户端的训练策略还包括:在客户端的算力资源、客户端负载预测信息满足联邦学习的需求的情况下,将联邦学习的原始模型确定为客户端的训练模型,客户端的训练策略包括训练模型。

9、在一些实施例中,根据客户端的算力资源、客户端负载预测信息,确定客户端的训练策略包括:客户端的算力资源越低或计算负载预测信息中预测的计算负载越高,客户端的训练轮数越少,客户端的训练策略包括训练轮数。

10、在一些实施例中,客户端负载预测信息包括通信负载预测信息,根据客户端的注册信息、客户端负载预测信息确定客户端的训练策略还包括:根据客户端的注册信息,获取客户端支持的数据传输方式,数据传输方式包括数据传输协议、数据传输接口、数据加密方式中的至少一项;根据通信负载预测信息,确定客户端的各个数据传输接口的拥塞情况;根据各个数据传输接口的拥塞情况、客户端支持的数据传输方式,确定客户端的训练模型的下发方式、训练结果上传方式,模型信息包括训练模型的下发方式、训练结果上传方式。

11、在一些实施例中,根据客户端的算力资源、客户端负载预测信息,确定客户端的训练策略还包括:根据参与联邦学习的所有客户端的客户端负载预测信息,确定客户端的联邦学习的时间信息,其中,联邦学习的时间信息包括客户端的训练时间、客户端的训练结果的上传时间,训练策略包括联邦学习的时间信息。

12、在一些实施例中,联邦学习方法还包括:接收参与联邦学习的客户端发送的训练结果;聚合所有客户端的训练结果、以生成更新的联邦学习的模型。

13、根据本公开的另一些实施例,提供了一种联邦学习的方法,由客户端执行,包括:接收服务端发送的客户端信息请求,其中,客户端信息请求包括联邦学习的原始时间信息、客户端负载预测信息请求;向服务端发送客户端信息响应,其中,客户端信息响应包括客户端负载预测信息,客户端负载预测信息是根据联邦学习的原始时间信息生成的;接收服务端发送的训练策略;基于训练策略进行训练。

14、在一些实施例中,向服务端发送客户端信息响应包括:基于联邦学习的原始时间信息,收集当前负载数据和历史负载数据;根据当前负载数据和历史负载数据进行负载预测,以生成客户端负载预测信息;向服务端发送客户端信息响应,其中,客户端信息响应包括客户端负载预测信息。

15、在一些实施例中,联邦学习方法还包括:向服务端发送训练结果。

16、根据本公开的再一些实施例,提供了一种联邦学习的服务端,包括:第一发送模块,被配置为向客户端发送客户端信息请求,其中,客户端信息请求包括联邦学习的原始时间信息、客户端负载预测信息请求;接收模块,被配置为接收客户端发送的客户端信息响应,其中,客户端信息响应包括客户端负载预测信息,客户端负载预测信息是客户端根据联邦学习的原始时间信息生成的;确定模块,被配置为根据客户端的注册信息、客户端负载预测信息确定客户端的训练策略;第二发送模块,被配置为向客户端发送其对应的训练策略。

17、根据本公开的再一些实施例,提供了一种联邦学习的客户端,包括:第一接收模块,被配置为接收服务端发送的客户端信息请求,其中,客户端信息请求包括联邦学习的原始时间信息、客户端负载预测信息请求;发送模块,被配置为向服务端发送客户端信息响应,其中,客户端信息响应包括客户端负载预测信息,客户端负载预测信息是根据联邦学习的原始时间信息生成的;第二接收模块,被配置为接收服务端发送的训练策略;训练模块,被配置为基于训练策略进行训练。

18、根据本公开的再一些实施例,提供了一种联邦学习系统,包括:如前所述的联邦学习的服务端和多个如前所述的客户端。

19、在一些实施例中,联邦学习系统还包括:注册网元,被配置为:接收服务端的第一注册信息、客户端的第二注册信息,其中,第一注册信息或第二注册信息包括:地理位置信息、本地数据特征、算力资源、支持的数据传输方式中的至少一项;根据第一注册信息、第二注册信息进行联邦学习注册。

20、在一些实施例中,服务端被进一步配置为:根据第二注册信息确定客户端。

21、本公开的实施例中,服务端在向客户端发送联邦学习的时间信息和模型信息的同时,还发送客户端负载预测信息请求,以获取客户端负载预测信息,从而根据客户端负载预测信息确定客户端的训练策略。本公开能够根据客户端负本文档来自技高网...

【技术保护点】

1.一种联邦学习方法,由服务端执行,包括:

2.根据权利要求1所述的联邦学习方法,其中,所述根据所述客户端的注册信息、所述客户端负载预测信息确定所述客户端的训练策略包括:

3.根据权利要求2所述的联邦学习方法,其中,所述根据所述客户端的算力资源、所述客户端负载预测信息,确定所述客户端的训练策略包括:

4.根据权利要求3所述的联邦学习方法,其中,所述客户端负载预测信息包括计算负载预测信息、存储负载预测信息,所述客户端的算力资源、所述客户端负载预测信息不满足联邦学习的需求包括:所述客户端的算力资源低于第一预设阈值、所述计算负载预测信息中预测的计算负载大于第二预设阈值、所述存储负载预测信息中预测的存储负载大于第三预设阈值中的至少一项。

5.根据权利要求3所述的联邦学习方法,其中,所述将联邦学习的部分原始模型确定为所述客户端的训练模型包括:

6.根据权利要求3所述的联邦学习方法,其中,所述根据所述客户端的算力资源、所述客户端负载预测信息,确定所述客户端的训练策略还包括:

7.根据权利要求2所述的联邦学习方法,其中,所述根据所述客户端的算力资源、所述客户端负载预测信息,确定所述客户端的训练策略包括:

8.根据权利要求2所述的联邦学习方法,其中,所述客户端负载预测信息包括通信负载预测信息,所述根据所述客户端的注册信息、所述客户端负载预测信息确定所述客户端的训练策略还包括:

9.根据权利要求2所述的联邦学习方法,其中,所述根据所述客户端的算力资源、所述客户端负载预测信息,确定所述客户端的训练策略还包括:

10.根据权利要求1所述的联邦学习方法,还包括:

11.一种联邦学习的方法,由客户端执行,包括:

12.根据权利要求11所述的方法,其中,所述向所述服务端发送客户端信息响应包括:

13.根据权利要求11所述的联邦学习方法,还包括:

14.一种联邦学习的服务端,包括:

15.一种联邦学习的客户端,包括:

16.一种联邦学习系统,包括:

17.根据权利要求16所述的联邦学习系统,还包括:注册网元,被配置为:

18.根据权利要求17所述的联邦学习系统,其中,所述服务端被进一步配置为:

...

【技术特征摘要】

1.一种联邦学习方法,由服务端执行,包括:

2.根据权利要求1所述的联邦学习方法,其中,所述根据所述客户端的注册信息、所述客户端负载预测信息确定所述客户端的训练策略包括:

3.根据权利要求2所述的联邦学习方法,其中,所述根据所述客户端的算力资源、所述客户端负载预测信息,确定所述客户端的训练策略包括:

4.根据权利要求3所述的联邦学习方法,其中,所述客户端负载预测信息包括计算负载预测信息、存储负载预测信息,所述客户端的算力资源、所述客户端负载预测信息不满足联邦学习的需求包括:所述客户端的算力资源低于第一预设阈值、所述计算负载预测信息中预测的计算负载大于第二预设阈值、所述存储负载预测信息中预测的存储负载大于第三预设阈值中的至少一项。

5.根据权利要求3所述的联邦学习方法,其中,所述将联邦学习的部分原始模型确定为所述客户端的训练模型包括:

6.根据权利要求3所述的联邦学习方法,其中,所述根据所述客户端的算力资源、所述客户端负载预测信息,确定所述客户端的训练策略还包括:

7.根据权利要求2所述的联邦学习方法,其中,所述根据...

【专利技术属性】
技术研发人员:于梦晗
申请(专利权)人:中国电信股份有限公司技术创新中心
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1