【技术实现步骤摘要】
本专利技术涉及通信，尤其涉及一种数据传输方法、装置、设备及存储介质。
技术介绍
1、近年来，联邦学习成为一种新兴的机器学习技术。根据联邦学习的实现原理，边缘节点和中央之间的数据传输在联邦学习过程中是非常频繁且必须的，因此边缘节点和中央之间的数据传输方式也变得越来越重要。
2、目前，在联邦学习过程中传统的数据传输方式通过结合均匀量化与指数量化，在保证训练效果的情况下减小通信过程中传递的信息量和聚合的轮数。然而，传统的数据传输方式数据压缩效果不佳，往往面临网络带宽不足的问题，从而导致数据传输延迟，影响联邦学习的效果和性能。
技术实现思路
1、本专利技术提供了一种数据传输方法、装置、电子设备及存储介质，以提高数据压缩效果，降低所传输的数据量，使网络传输的带宽满足数据传输的需求，从而降低数据传输延迟，提高联邦学习的效果和性能。
2、第一方面，本专利技术实施例提供了一种数据传输方法，包括：
3、获取联邦学习过程中待传输的模型参数数据，所述模型参数数据包括：模型的第一权值矩阵和第一偏置矩阵；
4、对所述第一权值矩阵进行稀疏化处理，获得稀疏化后的第二权值矩阵；
5、对所述第二权值矩阵中每个权值的绝对位置进行哥伦布编码，获得编码后的第一绝对位置矩阵，并对所述第一偏置矩阵中每个偏置的绝对位置进行哥伦布编码，获得编码后的第二绝对位置矩阵；
6、对所述第二权值矩阵进行量化处理，获得量化后的第三权值矩阵，并对所述第一偏置矩阵进行量化处
7、将所述第三权值矩阵、所述第二偏置矩阵、所述第一绝对位置矩阵、所述第二绝对位置矩阵、所述第二权值矩阵的形状信息以及所述第一偏置矩阵的形状信息进行传输。
8、第二方面，本专利技术实施例还提供了一种数据传输装置，包括：
9、模型参数获取模块，用于获取联邦学习过程中待传输的模型参数数据，所述模型参数数据包括：模型的第一权值矩阵和第一偏置矩阵；
10、第二权值矩阵确定模块，用于对所述第一权值矩阵进行稀疏化处理，获得稀疏化后的第二权值矩阵；
11、绝对位置矩阵确定模块，用于对所述第二权值矩阵中每个权值的绝对位置进行哥伦布编码，获得编码后的第一绝对位置矩阵，并对所述第一偏置矩阵中每个偏置的绝对位置进行哥伦布编码，获得编码后的第二绝对位置矩阵；
12、量化处理模块，用于对所述第二权值矩阵进行量化处理，获得量化后的第三权值矩阵，并对所述第一偏置矩阵进行量化处理，获得量化后的第二偏置矩阵；
13、传输模块，用于将所述第三权值矩阵、所述第二偏置矩阵、所述第一绝对位置矩阵、所述第二绝对位置矩阵、所述第二权值矩阵的形状信息以及所述第一偏置矩阵的形状信息进行传输。
14、第三方面，本专利技术实施例还提供了一种电子设备，其特征在于，所述电子设备包括：至少一个处理器；以及
15、与所述至少一个处理器通信连接的存储器；其中，
16、所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任意实施例所提供的数据传输方法。
17、第四方面，本专利技术实施例还提供了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时能够执行本专利技术任意实施例所提供的数据传输方法。
18、本专利技术实施例的技术方案，通过获取联邦学习过程中待传输的模型参数对应的第一权值矩阵和第一偏置矩阵，并对第一权值矩阵进行稀疏化处理，获得稀疏化后的第二权值矩阵，从而可以减少待传输的权值数量。对第二权值矩阵中每个权值的绝对位置进行哥伦布编码，获得编码后的第一绝对位置矩阵，并对第一偏置矩阵中每个偏置的绝对位置进行哥伦布编码，获得编码后的第二绝对位置矩阵，从而减小了待传输的偏置和权值对应的位置信息的体积。对第二权值矩阵进行量化处理，获得量化后的第三权值矩阵，并对所述第一偏置矩阵进行量化处理，获得量化后的第二偏置矩阵，从而可以减小需要传输的偏置和权值的体积。将第三权值矩阵、所述第二偏置矩阵、所述第一绝对位置矩阵、所述第二绝对位置矩阵、所述第二权值矩阵的形状信息以及所述第一偏置矩阵的形状信息进行传输，从而通过权值稀疏化、哥伦布编码和量化实现对待传输模型参数的全方位压缩，极大提高了待传输模型参数数据的压缩效果，使网络传输的带宽满足数据传输的需求，从而降低数据传输延迟，提高联邦学习的效果和性能。
19、应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种数据传输方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，对所述第一权值矩阵进行稀疏化处理，获得稀疏化后的第二权值矩阵，包括：
3.根据权利要求2所述的方法，其特征在于，基于预设稀疏化比例和所述权值序列，确定待删除的目标权值，包括：
4.根据权利要求1所述的方法，其特征在于，对所述第二权值矩阵进行量化处理，获得量化后的第三权值矩阵，并对所述第一偏置矩阵进行量化处理，获得量化后的第二偏置矩阵，包括：
5.根据权利要求4所述的方法，其特征在于，对所述第二权值矩阵进行线性量化处理，获得量化后的第三权值矩阵，包括：
6.根据权利要求1-5任一项所述的方法，其特征在于，所述方法应用于联邦学习中的边缘节点；
7.根据权利要求1-5任一项所述的方法，其特征在于，所述方法应用于联邦学习中的中央服务器；
8.一种数据传输装置，其特征在于，包括：
9.一种电子设备，其特征在于，所述电子设备包括：
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计
...【技术特征摘要】
1.一种数据传输方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，对所述第一权值矩阵进行稀疏化处理，获得稀疏化后的第二权值矩阵，包括：
3.根据权利要求2所述的方法，其特征在于，基于预设稀疏化比例和所述权值序列，确定待删除的目标权值，包括：
4.根据权利要求1所述的方法，其特征在于，对所述第二权值矩阵进行量化处理，获得量化后的第三权值矩阵，并对所述第一偏置矩阵进行量化处理，获得量化后的第二偏置矩阵，包括：
5.根据权利要求4所述的方法，其特征在于，对所述第二权值矩阵进行线...
【专利技术属性】
技术研发人员：陈佳戈，
申请(专利权)人：中国农业银行股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。