一种适用于联邦学习的树状广播数据同步算法制造技术

本发明专利技术公开了一种适用于联邦学习的树状广播数据同步算法，包括如下步骤：S1：中央服务端选择若干参与训练的客户端，所述中央服务端将所有的所述客户端排列成完全二叉树；S2：所述中央服务端将第一全局模型文件拆分成若干种子文件，并计算所述第一全局模型文件的第一哈希值和不同的所述子文件对应的第二哈希值；S3：将所述公钥信息发送给所有的所述客户端；S4：所述中央服务端将所述服务端信息、所述第一哈希值和所述第二哈希值进行拼接，形成迭代配置文件，并计算所述迭代配置文件的第三哈希值，使用所述私钥信息对所述迭代配置文件签名；S5：所述中央服务端查询自身的所述服务端信息，并向所述子节点处的所述客户端逐次发送所有的所述子文件。所有的所述子文件。所有的所述子文件。

A tree broadcast data synchronization algorithm for federated learning

【技术实现步骤摘要】
一种适用于联邦学习的树状广播数据同步算法


[0001]本专利技术属于人工智能
，具体涉及一种适用于联邦学习的树状广播数据同步算法。

技术介绍

[0002]在传统的联邦学习的模型同步过程中，中央服务端需要每轮向所有的参与方客户端发送模型文件，当参与方数量增多时，所表现出的缺点包括：1、模型文件同步时间骤增；2、中央服务端带宽压力大大提高；3、由于联邦学习过程往往需要大量的客户端参与，现有的模型同步方法不利于规模拓展。

技术实现思路

[0003]针对现有技术存在的不足，本专利技术提出了能够在多节点状态下使联邦学习数据同步时间短并且带宽占用稳定，提高联邦学习参与方规模的可拓展性和模型训练效率的一种适用于联邦学习的树状广播数据同步算法。
[0004]本专利技术提供一种适用于联邦学习的树状广播数据同步算法包括如下步骤：
[0005]S1：中央服务端选择若干参与训练的客户端，所述中央服务端生成服务端信息，所述中央服务端将所有的所述客户端排列成完全二叉树，所述中央服务端位于根节点，所述客户端分别位于子节点和叶子节点；
[0006]S2：所述中央服务端将第一全局模型文件拆分成若干种子文件，并计算所述第一全局模型文件的第一哈希值和不同的所述子文件对应的第二哈希值；
[0007]S3：所述中央服务端生成公钥信息和私钥信息，将所述公钥信息分发给所有的所述客户端，所述客户端保存所述公钥信息；
[0008]S4：所述中央服务端将所述服务端信息、所述第一哈希值和所述第二哈希值进行拼接，形成迭代配置文件，并计算所述迭代配置文件的第三哈希值，最后使用所述私钥信息对所述迭代配置文件进行签名，形成签名结果，将所述签名结果和所述迭代配置文件发送给所有的所述客户端，所述客户端对所述签名结果和所述迭代配置文件进行对比验证，并生成验证结果，验证通过后保存到本地；
[0009]S5：所述中央服务端查询自身的所述服务端信息，并向所述子节点处的所述客户端逐次发送所有的所述子文件，所述子节点处的所述客户端接收所述子文件后，所述子节点处的所述客户端计算所述子文件的第四哈希值，并将所述第四哈希值与所述第三哈希值进行对比验证，如果不同，则向中央服务端发送错误反馈，如果相同，则所述子节点处的所述客户端查询自身的所述服务端信息，并将所述子文件发送给下一个所述子节点处的所述客户端，同步接收自身的父节点处的所述客户端发送的下一个所述子文件，所述子节点处的所述客户端依次对所述第四哈希值与所述第三哈希值进行对比验证，如果不同，则向中央服务端发送错误反馈，如果相同，则将所述子文件发送给下一个所述子节点处的所述客户端，直至所述叶子节点处的所述客户端接收到所述子文件；
[0010]S6：所有的所述叶子节点处的所述客户端将接收的所述子文件进行组合得到当前迭代轮次的第二全局模型文件，并计算所述第二全局模型文件的第五哈希值，将所述第五哈希值与所述第一哈希值进行对比，如果相同，则当前迭代轮次所述第一全局模型文件同步结束，如果不同，则重复S5，直至所有的所述叶子节点处的所述客户端完成接收所有的所述子文件。
[0011]优选的，所述S1中，所述服务端信息包括树结构体信息和迭代轮次信息，所述树结构体信息由若干不同的节点信息组成，所述节点信息包括客户端数据接收地址、客户端唯一标识、客户端左子节点标识和客户端右子节点标识。
[0012]优选的，所述S2中，所述第一哈希值和所述第二哈希值的计算可采用任何哈希计算方法。
[0013]优选的，所述S3中，所述中央服务端仅在训练初始阶段以及有新的所述客户端加入时分发所述公钥信息。
[0014]优选的，所述S4中，可采用任何非对称加密算法对所述私钥信息进行签名。
[0015]优选的，所述S4中，所述迭代配置文件为Json格式。
[0016]优选的，所述S4中，所述验证结果为所述客户端使用所述公钥信息对所述签名结果进行解密，生成第五哈希值，将所述第五哈希值与所述第三哈希值对比，若相同，则验证通过，若不相同，则验证不通过。
[0017]优选的，所述S5中，所述中央服务端查询所述节点信息，所述子节点处的所述客户端查询自身的所述节点信息。
[0018]本专利技术的有益效果在于：
[0019]本专利技术一种适用于联邦学习的树状广播数据同步算法，通过完全二叉树构建、模型文件拆分、哈希值计算以及签名和子文件树形广播同步等多个过程，保证文件同步准确性和安全性的同时极大的降低了联邦学习模型训练过程中文件同步时间较长的问题，并使得带宽占用更加稳定，提高联邦学习参与方规模的可拓展性和模型训练效率。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的优选实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
[0021]图1为本专利技术一种适用于联邦学习的树状广播数据同步算法的流程图；
[0022]图2为本专利技术一种适用于联邦学习的树状广播数据同步算法的同步过程状态图；
具体实施方式
[0023]为了更好理解本专利技术
技术实现思路
，下面提供具体实施例，并结合附图对本专利技术做进一步的说明。
[0024]参见图1至图2，本专利技术一种适用于联邦学习的树状广播数据同步算法，包括如下步骤：
[0025]S1：中央服务端选择若干参与训练的客户端，所述中央服务端生成服务端信息，所
述中央服务端将所有的所述客户端排列成完全二叉树，所述中央服务端位于根节点，所述客户端分别位于子节点和叶子节点；
[0026]S2：所述中央服务端将第一全局模型文件拆分成若干种子文件，并计算所述第一全局模型文件的第一哈希值和不同的所述子文件对应的第二哈希值；
[0027]S3：所述中央服务端生成公钥信息和私钥信息，将所述公钥信息分发给所有的所述客户端，所述客户端保存所述公钥信息；
[0028]S4：所述中央服务端将所述服务端信息、所述第一哈希值和所述第二哈希值进行拼接，形成迭代配置文件，并计算所述迭代配置文件的第三哈希值，最后使用所述私钥信息对所述迭代配置文件进行签名，形成签名结果，将所述签名结果和所述迭代配置文件发送给所有的所述客户端，所述客户端对所述签名结果和所述迭代配置文件进行对比验证，并生成验证结果，验证通过后保存到本地；
[0029]S5：所述中央服务端查询自身的所述服务端信息，并向所述子节点处的所述客户端逐次发送所有的所述子文件，所述子节点处的所述客户端接收所述子文件后，所述子节点处的所述客户端计算所述子文件的第四哈希值，并将所述第四哈希值与所述第三哈希值进行对比验证，如果不同，则向中央服务端发送错误反馈，如果相同，则所述子节点处的所述客户端查询自身的所述服务端信息，并将所述子文件发送给下一个所述子节点处的所述客户端，同步接收自身的父节点处的所述客户端发送的下一个所述子文件，所述子节点处的所本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种适用于联邦学习的树状广播数据同步算法，其特征在于，包括如下步骤：S1：中央服务端选择若干参与训练的客户端，所述中央服务端生成服务端信息，所述中央服务端将所有的所述客户端排列成完全二叉树，所述中央服务端位于根节点，所述客户端分别位于子节点和叶子节点；S2：所述中央服务端将第一全局模型文件拆分成若干种子文件，并计算所述第一全局模型文件的第一哈希值和不同的所述子文件对应的第二哈希值；S3：所述中央服务端生成公钥信息和私钥信息，将所述公钥信息分发给所有的所述客户端，所述客户端保存所述公钥信息；S4：所述中央服务端将所述服务端信息、所述第一哈希值和所述第二哈希值进行拼接，形成迭代配置文件，并计算所述迭代配置文件的第三哈希值，最后使用所述私钥信息对所述迭代配置文件进行签名，形成签名结果，将所述签名结果和所述迭代配置文件发送给所有的所述客户端，所述客户端对所述签名结果和所述迭代配置文件进行对比验证，并生成验证结果，验证通过后保存到本地；S5：所述中央服务端查询自身的所述服务端信息，并向所述子节点处的所述客户端逐次发送所有的所述子文件，所述子节点处的所述客户端接收所述子文件后，所述子节点处的所述客户端计算所述子文件的第四哈希值，并将所述第四哈希值与所述第三哈希值进行对比验证，如果不同，则向中央服务端发送错误反馈，如果相同，则所述子节点处的所述客户端查询自身的所述服务端信息，并将所述子文件发送给下一个所述子节点处的所述客户端，同步接收自身的父节点处的所述客户端发送的下一个所述子文件，所述子节点处的所述客户端依次对所述第四哈希值与所述第三哈希值进行对比验证，如果不同，则向中央服务端发送错误反馈，如果相同，则将所述子文件发送给下一个所述子节点处的所述客户端，直至所述叶子节点处的所述客户端接收到所述子文件；S6：所有的所述叶子节点处的所述客户端将接收的所...

【专利技术属性】
技术研发人员：文斌，刘少杰，
申请(专利权)人：海南师范大学，
类型：发明
国别省市：