【技术实现步骤摘要】
本专利技术结合联邦学习系统及无线通信，具体而言，尤其涉及一种面向联邦学习的模型参数裁剪量化和资源分配策略的方法。
技术介绍
1、在传统的集中式机器学习中，用户需要将所有的数据上传到服务器进行集中训练，这会涉及到服务器集中存储数据带来的隐私泄露风险，同时用户也不愿意将自己的私有数据共享。因此，现有研究提出联邦学习，一种分布式的机器学习方法，其中各个用户协作共同训练模型，与服务器之间不会共享数据，只把模型通过通信链路传给服务器。然而，在无线联邦学习系统下，需要采用无线传输的方式将客户端训练出本地模型上传给服务器进行聚合。由于链路的质量和网络带宽的限制，难以将所有数据发送到云服务器处理。
2、量化作为数字传输的必要手段，为了保持精度，将数据量化到很大的比特，会产生较小的量化误差。但是因为有限的带宽资源，更高的量化比特不能全部传输且会对无线链路造成过大的负载，引起无线链路的中断。同时每个客户端训练的模型会有很多的模型参数数据，使得有限资源内的无线传输增加了挑战。为了改善以上量化误差的影响，有一些工作已经考虑了通过量化进行传输。包括已...
【技术保护点】
1.一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，
3.根据权利要求1所述的一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，所述步骤2中，对于裁剪模型参数向量，主要裁剪接近于零的元素；定义修剪阈值裁剪掉因此，有其中wmax是局部模型参数中的最大绝对值；裁剪率为表示要修剪的参数数量；
4.根据权利要求1所述的一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，
5.根据权利要求1所述...
【技术特征摘要】
1.一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，
3.根据权利要求1所述的一种面向联邦学习的模型参数裁剪量化和资源分配策略，其特征在于，所述步骤2中，对于裁剪模型参数向量，主要裁剪接近于零的元素；定义修剪阈值裁剪掉因此，有其中wmax是局部模型参数中的最大绝对值；裁剪率为表示要修剪的参数数量；
4.根据权利...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。