本公开提供了一种算力网络的运行方法、装置和电子设备。运行方法包括：确定算力网络中的多个用户终端的多个算力水平；根据多个算力水平对多个用户终端进行分组，获得多个用户终端分组；针对多个用户终端分组，分别执行训练以获取多个局部模型，多个局部模型中的每一个对应于多个用户终端分组中的一个用户终端分组；基于多个局部模型，生成用于算力网络的全局模型；以及多个用户终端中的至少一个基于全局模型，为算力网络提供算力。本公开提出的算力网络的运行方法，对传统联邦学习方法进行优化，实现了不同算力水平用户终端的分组训练，提升了对用户终端的算力资源的利用效率。提升了对用户终端的算力资源的利用效率。提升了对用户终端的算力资源的利用效率。
【技术实现步骤摘要】
算力网络的运行方法、装置和电子设备
[0001]本公开涉及算力网络
，尤其是一种算力网络的运行方法、装置和电子设备。
技术介绍
[0002]算力网络是我国率先提出的一种原创性技术理念，指依托高速、移动、安全、泛在的网络连接，整合网、云、数、智、安、边、端、链等多层次算力资源，提供数据感知、传输、存储、运算等一体化服务的新型信息基础设施。
[0003]目前，在算力网络的应用中，用户终端大多作为算力的需求方出现，使用算力网络提供的业务与服务；而作为算力的提供方的应用尚不广泛，具体的实施方法也仍在探索中，现有技术中主要利用联邦学习，将用户终端作为联邦学习节点，分布式的利用用户终端的算力资源与数据资源，以达到让用户终端提供算力的目的。联邦学习(Federated Learning)是一种分布式机器学习技术，其核心思想是通过在多个拥有本地数据的数据源之间进行分布式模型训练，在不需要交换本地个体或样本数据的前提下，仅通过交换模型参数或中间结果的方式，构建基于虚拟融合数据下的全局模型，从而实现数据隐私保护和数据共享计算的平衡，即“数据可用不可见”、“数据不动模型动”的应用新范式。
[0004]但现有的算力网络的联邦学习存在以下缺陷：现有联邦学习方法要求各分布节点同步更新模型参数，即联邦学习模型以最后完成训练任务的用户终端的时间为准，统一结束迭代并进行参数更新。由于各个用户终端的算力能力存在极大差异，导致算力快的用户终端需要等算力慢的用户终端，待所有用户终端均完成训练任务后，才能开始新的一轮训练。这严重浪费了用户终端的算力资源，并且影响了用户感知。
技术实现思路
[0005]鉴于上述问题而提出了本公开。本公开提供了一种算力网络的运行方法、装置和电子设备。
[0006]根据本公开的一个方面，提供了一种算力网络的运行方法，其特征在于，包括：确定算力网络中的多个用户终端的多个算力水平；根据多个算力水平对多个用户终端进行分组，获得多个用户终端分组；针对多个用户终端分组，分别执行训练以获取多个局部模型，多个局部模型中的每一个对应于多个用户终端分组中的一个用户终端分组；基于多个局部模型，生成用于算力网络的全局模型；以及多个用户终端中的至少一个基于全局模型，为算力网络提供算力。
[0007]此外，根据本公开的一个方面的算力网络的运行方法，其中确定算力网络中的多个用户终端的多个算力水平，包括：向多个用户终端发送数据以进行算力测试；从多个用户终端接收算力测试的测试结果。
[0008]此外，根据本公开的一个方面的算力网络的运行方法，其中根据多个算力水平对多个用户终端进行分组，获得多个用户终端分组，包括：基于测试结果，确定多个用户终端
中的异常用户终端；将除异常用户终端外的其他用户终端分为多个用户终端分组。
[0009]此外，根据本公开的一个方面的算力网络的运行方法，其中权针对多个用户终端分组，分别执行训练以获取多个局部模型，包括：以初始化的全局模型参数作为初始局部模型参数，对于多个用户终端分组中每个用户终端分组中的一个或多个用户终端的局部模型执行训练，以获取一个或多个用户终端的局部模型参数改变量；至少基于一个用户终端的训练样本量、一个用户终端所属用户终端分组的训练样本总量、一个或多个用户终端的局部模型参数改变量，确定一个用户终端所属用户终端分组的局部模型；输出多个用户终端分组的局部模型作为多个局部模型。
[0010]此外，根据本公开的一个方面的算力网络的运行方法，其中权基于多个局部模型，生成用于算力网络的全局模型，包括：基于多个局部模型的模型参数平均值，生成用于算力网络的全局模型。
[0011]此外，根据本公开的一个方面的算力网络的运行方法，其中确定多个用户终端的算力水平，还包括：接收多个用户终端上传的终端信息。
[0012]此外，根据本公开的一个方面的算力网络的运行方法，其特征在于，还包括：基于多个用户终端和/或多个算力水平的变化，动态调整用户终端分组；针对动态调整后的多个用户终端分组，分别执行训练以获取多个局部模型，多个局部模型中的每一个对应于多个用户终端分组中的一个用户终端分组；基于多个局部模型，生成用于算力网络的全局模型；以及多个用户终端中的至少一个基于全局模型，为算力网络提供算力。
[0013]此外，根据本公开的一个方面的算力网络的运行方法，其中基于多个用户终端和/或多个算力水平的变化，动态调整用户终端分组，包括：确定新签约和/或更新的多个用户终端的多个算力水平；根据多个算力水平匹配算力网络中的多个用户终端分组。
[0014]根据本公开的另一个方面，提供了一种算力网络的运行装置，其特征在于，包括：算力确定模块，用于确定算力网络中的多个用户终端的多个算力水平；终端分组模块，用于根据多个算力水平对多个用户终端进行分组，获得多个用户终端分组；联邦学习模块，用于针对多个用户终端分组，分别执行训练以获取多个局部模型，多个局部模型中的每一个对应于多个用户终端分组中的一个用户终端分组；全局模型模块，用于基于多个局部模型，生成用于算力网络的全局模型。
[0015]此外，根据本公开的一个方面的算力网络的运行装置，其中算力确定模块，还包括：算力测试模块，用于向多个用户终端发送数据以进行算力测试，从多个用户终端接收算力测试的测试结果；或，算力上传单元，用于接收多个用户终端上传的终端信息。
[0016]根据本公开的又一个方面，提供了一种电子设备，包括：存储器，用于存储计算机可读指令；以及处理器，用于运行计算机可读指令，使得电子设备执行如上所述的算力网络的运行方法。
[0017]根据本公开的再一个方面，提供了一种非瞬时性计算机可读存储介质，用于存储计算机可读指令，其特征在于，当计算机可读指令由处理器执行时，使得处理器执行如上所述的算力网络的运行方法。
[0018]如以下将详细描述的，根据本公开实施例的算力网络的运行方法，针对现有传统联邦学习中各用户终端算力水平差异较大的情况进行优化，实现了不同算力水平用户终端的分组训练，提升了对用户终端的算力资源的利用效率。
[0019]要理解的是，前面的一般描述和下面的详细描述两者都是示例性的，并且意图在于提供要求保护的技术的进一步说明。
附图说明
[0020]通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
[0021]图1是图示根据本公开实施例的用户终端为算力网络提供算力的应用场景示意图；
[0022]图2是图示根据本公开实施例的算力网络的运行方法流程图；
[0023]图3是图示根据本公开实施例的算力网络的用户终端分组示意图；
[0024]图4是图示根据本公开实施例的局部模型和全局模型训练示意图；
[0025]图5进一步图示根据本公开实本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种算力网络的运行方法，其特征在于，所述方法包括：确定所述算力网络中的多个用户终端的多个算力水平；根据所述多个算力水平对所述多个用户终端进行分组，获得多个用户终端分组；针对所述多个用户终端分组，分别执行训练以获取多个局部模型，所述多个局部模型中的每一个对应于所述多个用户终端分组中的一个用户终端分组；基于所述多个局部模型，生成用于所述算力网络的全局模型；以及所述多个用户终端中的至少一个基于所述全局模型，为所述算力网络提供算力。2.如权利要求1所述的算力网络的运行方法，其特征在于，所述确定所述算力网络中的多个用户终端的多个算力水平，包括：向所述多个用户终端发送数据以进行算力测试；从所述多个用户终端接收所述算力测试的测试结果。3.如权利要求1或2所述的算力网络的运行方法，其特征在于，所述根据所述多个算力水平对所述多个用户终端进行分组，获得多个用户终端分组，包括：基于所述测试结果，确定所述多个用户终端中的异常用户终端；将除所述异常用户终端外的其他用户终端分为所述多个用户终端分组。4.如权利要求3所述的算力网络的运行方法，其特征在于，所述针对所述多个用户终端分组，分别执行训练以获取多个局部模型，包括：以初始化的全局模型参数作为初始局部模型参数，对于所述多个用户终端分组中每个用户终端分组中的一个或多个用户终端的局部模型执行训练，以获取所述一个或多个用户终端的局部模型参数改变量；至少基于所述一个用户终端的训练样本量、所述一个用户终端所属用户终端分组的训练样本总量、所述一个或多个用户终端的局部模型参数改变量，确定所述一个用户终端所属用户终端分组的局部模型；输出所述多个用户终端分组的局部模型作为所述多个局部模型。5.如权利要求4所述的算力网络的运行方法，其特征在于，所述基于所述多个局部模型，生成用于所述算力网络的全局模型，包括：基于所述多个局部模型的模型参数平均值，生成用于所述算力网络的全局模型。6.如权利要求1所述的算力网络的运行方法，其特征在于，所述确定多个用户终端的算力水平，还包括：接收多个所述用户终端上传的终端信息。7.如权利...
【专利技术属性】
技术研发人员：方义成，牟海望，王鹏，蔡宗平，
申请(专利权)人：中国移动通信集团有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。