基于联邦学习的超维计算模型协同训练方法与装置制造方法及图纸

本发明专利技术涉及基于联邦学习的超维计算模型协同训练方法与装置，属于分布式机器学习与数据隐私保护领域。该装置包括1个中央服务器和M个分布式客户端装置，通过网络连接进行通信；该方法包括如下步骤：S1：初始化参数；S2：广播参数；S3：更新本地超维计算模型参数；S4：计算两者之间的相似度并统计本地训练数据量；S5：上传至服务器；S6：基于动态加权聚合方法计算出全局超维计算模型的参数；S7：判断是否收敛或达到最大训练轮数；若是，则训练结束并输出全局超维计算模型参数；否则，返回步骤S3；S8：用户执行分类任务并输出预测分类结果。本发明专利技术能够在保证数据隐私和安全的前提下，提升联邦学习在超维计算模型下的训练效率和全局模型性能。

【技术实现步骤摘要】

本专利技术涉及基于联邦学习的超维计算模型协同训练方法与装置，属于分布式机器学习与数据隐私保护领域，尤其适用于基于联邦学习的超维计算模型协同训练。

技术介绍

1、在大数据与智能终端迅速发展的背景下，物联网(iot)、边缘计算等场景中产生了海量分布式数据。传统的深度神经网络(dnn)虽然具备强大的建模能力，但在资源受限设备上的部署和训练存在高计算与存储开销，难以满足实际需求。同时，分散在众多终端上的数据由于隐私法规(如gdpr)限制，无法集中上传，亟需在保护数据隐私的前提下实现协同智能建模。

2、超维计算(hyperdimensional computing,hdc)作为一种新兴的轻量级计算范式，通过高维低精度向量和简单算子实现高效、鲁棒的数据表达与学习，尤其适用于边缘设备。然而，单一设备上的hdc模型难以充分利用全局多样化数据，模型性能受限。

3、联邦学习(federated learning,fl)为分布式数据智能处理提供了有效方案，使多个数据拥有者在不共享原始数据的前提下协同训练共享模型。fl已被广泛应用于医疗、金融、物联网等隐私本文档来自技高网...

【技术保护点】

1.基于联邦学习的超维计算模型协同训练方法，其特征在于，包括如下步骤：

2.根据权利要求1所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，步骤S1所述的全局超维计算模型参数为初始化时设置为零向量；所述的动态聚合超参数包括数据权重系数α∈[0,1]以及指数滑动平均系数β∈[0,1]，为人为设定；所述的联邦学习参数包括：最大训练轮数T、学习率η、客户端数量M、其中，表示第k类的全局超向量，d为超向量维度，K为类别总数，T、M为正整数，η∈(0,1)。

3.根据权利要求1所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，对于任意的客户端i的第t轮训练，...

【技术特征摘要】

1.基于联邦学习的超维计算模型协同训练方法，其特征在于，包括如下步骤：

2.根据权利要求1所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，步骤s1所述的全局超维计算模型参数为初始化时设置为零向量；所述的动态聚合超参数包括数据权重系数α∈[0,1]以及指数滑动平均系数β∈[0,1]，为人为设定；所述的联邦学习参数包括：最大训练轮数t、学习率η、客户端数量m、其中，表示第k类的全局超向量，d为超向量维度，k为类别总数，t、m为正整数，η∈(0,1)。

3.根据权利要求1所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，对于任意的客户端i的第t轮训练，步骤s3所述的本地私有数据集中的任意一条样本dj包含数据以及标签

4.根据权利要求3所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，对于任意的客户端i，所述的步骤s3具体为：

5.根据权利要求4所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，所述的编码方法为以下方法之一：

6.根据权利要求1所述的基于联邦学习的超维计算模型协同训练方法，其特征在于，步骤s4所述的相似度矩阵计算采用余弦相似度计算方法；具体表达式为：其中表示第t轮中客户端i的第j类本地超向量与对应全局超向量的余弦相似度；所述的本地训练数据量为客户端i在第t...

【专利技术属性】
技术研发人员：陈经纬，胡翔宇，杨文强，吴文渊，冯勇，
申请(专利权)人：中国科学院重庆绿色智能技术研究院，
类型：发明
国别省市：