【技术实现步骤摘要】
面向物联网中基于区块链技术的联邦学习能效优化方法
[0001]本专利技术涉及物联网通信
,尤其涉及一种面向物联网中基于区块链技术的联邦学习能效优化方法。
技术介绍
[0002]随着信息和通信技术的蓬勃发展,物联网快速兴起,其无处不在的传感、通信能力,可将数百万到数十亿的设备接入网络,由此产生了海量的原始数据。基于机器学习算法可以处理物联网中海量分布式数据来构建人工智能应用并实现各种智能服务。在传统机器学习算法中,模型训练和模型推断等任务需要集中式云处理,原始数据传输不仅带来了庞大的通信开销,还会导致隐私泄露问题。
[0003]针对该问题,联邦学习作为一种分布式的机器学习技术,利用模型参数代替原始数据进行传输,保护数据隐私的同时降低了通信开销,在物联网中得到广泛应用。然而,在物联网场景下,分布式设备的异质性和复杂性给联邦学习的性能产生了不小的威胁。恶意设备通过上传未经训练的本地模型或随机的本地模型,将严重的影响联邦学习中模型的收敛速度和最终精度,并且由于缺少有效的激励,训练节点的参与度低也会对模型的性能造成了不小 ...
【技术保护点】
【技术特征摘要】
1.面向物联网中基于区块链技术的联邦学习能效优化方法,其特征在于,包括以下步骤:S1联邦学习任务发布:联邦学习请求者首先在区块链系统中注册并发布相关训练任务内容,任务内容包括总训练轮次和任务总奖励,副节点验证通过后,将初始模型上传至区块链主节点;区块链节点由基站附属的服务器构成,区块链节点分为主节点和副节点,主节点产生新的区块,副节点验证新产生的区块并达成共识;S2用户选择:用户在平台上查看任务内容后决定是否参与联邦学习的训练,有愿意的用户将他们的物联网设备注册为联邦学习节点,联邦学习节点由物联网设备构成,分为普通节点和委员会节点,普通节点只承担本地模型的训练,委员会节点不仅承担本地模型训练,还承担对所有联邦学习节点上传的本地模型及全局模型进行验证评分的任务;S3模型训练:采用迭代方法对本地模型进行训练和对委员会节点进行更新,经过所需轮次,联邦学习请求者通过检索区块获得最后一个全局模型,接着联邦学习请求者和所有联邦学习节点在平台上注销登陆;S4模型效能优化:量化基于区块链技术联邦学习的时延和能耗,采用信道分配、区块链主节点选择及区块大小调整的联合优化,来降低系统能耗。2.根据权利要求1所述的面向物联网中基于区块链技术的联邦学习能效优化方法,其特征在于,步骤S1采用实用拜占庭容错算法作为区块链的共识协议,具体过程为:S11:主节点在将交易打包之前先验证交易的有效性,即签名和消息认证码;交易记录了联邦学习请求者和联邦学习节点之间的利益交换信息,即上传的本地模型参数、分数和用户获得的奖励;验证通过交易将被主节点打包到新的区块中;S12:主节点向其他副节点广播包含签名块的pre
‑
prepare消息,同时生成一个签名和N
‑
1个消息认证码,副节点首先验证生成块的签名和消息认证码,然后验证其中包含的交易;S13:在副节点验证pre
‑
prepare消息后,将发送prepare消息给所有其他节点,包括副节点和主节点;在这个阶段,主节点至少验证2η个prepare消息,其中η=(N
‑
1)/3,副节点额外生成一个签名和N
‑
1个消息认证码;S14:主节点和副节点向其他节点发送commit消息,每个节点至少需要验证2η个commit消息,主节点和副节点生成一个签名和N
‑
1个消息认证码;S15:在验证匹配2η个commit消息后,新产生的区块将被添加到区块链中,副节点将向主节点发送reply消息。3.根据权利要求2所述的面向物联网中基于区块链技术的联邦学习能效优化方法,其特征在于,步骤S11验证交易有效性的计算开销和延迟分别表示为:特征在于,步骤S11验证交易有效性的计算开销和延迟分别表示为:其中,α和β分别表示生成或验证签名以及生成或验证消息认证码所需的CPU周期,交易的平均大小表示为块大小表示为S
B
;步骤S12中主节点的计算开销表示为:
副节点的计算开销表示为:此阶段的传输延迟和计算延迟分别表示为:此阶段的传输延迟和计算延迟分别表示为:步骤S13中,主节点计算开销表示为:副节点计算开销表示为:此阶段的传输延迟和计算延迟分别表示为:此阶段的传输延迟和计算延迟分别表示为:步骤S14主节点和副节点计算开销表示为:此阶段的传输延迟和计算延迟分别表示为:此阶段的传输延迟和计算延迟分别表示为:步骤S15主节点和副节点的计算开销分别表示为:步骤S15主节点和副节点的计算开销分别表示为:此阶段的传输延迟和计算延迟分别表示为:此阶段的传输延迟和计算延迟分别表示为:
区块链的确认时间和能耗分别表示为:区块链的确认时间和能耗分别表示为:区块链的确认时间和能耗分别表示为:区块链的确认时间和能耗分别表示为:区块链的确认时间和能耗分别表示为:总的能耗表示为:4.根据权利要求1所述的面向物联网中基于区块链技术的联邦学习能效优化方法,其特征在于,步骤S3在第一轮联邦学习中将所有联邦学习节点定义委员会节点,具体训练过程为:S31初始化:区块链中的主节点以区块为单位检索交易,并聚合在本轮中担任委员会节点的用户在上一轮上传的本地模型;S32本地模型训练:由主节点广播全局模型给所有联邦学习节点;所有联邦学习节点开始训练模型并更新模型参数,其中的委员会节点将额外验证全局模型,并将本地模型和对全局模型的验证分数回传至主节点;由主节点对联邦学习模型的分数进行异常值处理,并将每个本地模型保留的分数平均,得到本地模型的最终分数,并且作为奖励相应用户的判断标准;S33委员会节点更新:当委员...
【专利技术属性】
技术研发人员:刘宜明,张家祥,秦晓琦,张平,
申请(专利权)人:北京邮电大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。