【技术实现步骤摘要】
联邦学习的系统和方法及客户端装置
[0001]本申请要求于2020年6月2日提交的第63/033,747号美国临时申请和于2021年1月13日提交的第17/148,557号美国非临时专利申请的优先权权益，所述美国申请的公开通过引用全部包含于此。
[0002]在此公开的主题涉及联邦机器学习(federated machine learning)。更具体地，在此公开的主题涉及用于联邦机器学习的系统和方法。
技术介绍
[0003]物联网(IoT)的增长、智能电话的激增和记录的数字化已经促成了生成大量数据的现代系统。生成的数据可提供关于个体的大量信息，这一方面可导致高度个性化的智能应用，但是另一方面也可以是敏感的并且应当保持隐私。这样的私有数据的示例包括但不限于脸部的图像、打字历史、医疗记录和调查回复。
技术实现思路
[0004]示例实施例提供一种联邦机器学习系统中的客户端装置，所述客户端装置可包括至少一个计算装置、通信接口和处理器。处理器可连接到所述至少一个计算装置和通信接口。处理器可从全局参数组选择针对所...
【技术保护点】
【技术特征摘要】
1.一种联邦机器学习系统中的客户端装置，所述客户端装置包括：至少一个计算装置；通信接口；和处理器，连接到所述至少一个计算装置和通信接口，处理器：从全局参数组选择针对所述客户端装置的参数组，使用所述客户端装置的数据集和由所述客户端装置选择的参数组来训练模型，数据集从所述至少一个计算装置的输出形成，在训练模型之后更新权重因子字典和因子强度向量，通过通信接口向全局服务器发送客户端更新的权重因子字典和客户端更新的因子强度向量，通过通信接口从全局服务器接收全局更新的权重因子字典和全局更新的因子强度向量，和使用所述客户端装置的数据集、由所述客户端装置选择的参数组以及全局更新的权重因子字典和全局更新的因子强度向量来重新训练模型。2.根据权利要求1所述的客户端装置，其中，所述客户端装置是N个客户端装置的组的一部分，其中N是正整数。3.根据权利要求2所述的客户端装置，其中，处理器通过使用包括种子值的三个变分参数来从全局参数组选择参数组，并且使数据集的有监督学习与被选参数组和全局参数组的正则化之间的差最小化。4.根据权利要求3所述的客户端装置，其中，处理器通过接收已经从全局服务器发送到所述N个客户端装置的第一客户端装置子集的全局参数组，来从全局参数组选择参数组，所述客户端装置是第一客户端装置子集的一部分。5.根据权利要求4所述的客户端装置，其中，所述客户端装置通过接收由全局服务器发送到所述N个客户端装置的第二客户端装置子集的全局更新的权重因子字典和全局更新的因子强度向量，来接收全局更新的权重因子字典和全局更新的因子强度向量，所述客户端装置是第二客户端装置子集的一部分。6.根据权利要求4所述的客户端装置，其中，处理器通过通信接口向全局服务器发送对当前版本的全局参数组的请求，其中，处理器使用当前版本的全局参数组来更新模型，并且其中，处理器评估使用当前版本的全局参数组更新的模型，以基于所述客户端装置的数据集形成推断。7.根据权利要求1至6中的任一项所述的客户端装置，其中，数据集包括与生物特征数据、医疗数据、图像数据、语音数据、位置数据、应用使用数据、热数据、大气数据、音频数据和调查数据中的至少一个有关的信息。8.一种联邦机器学习系统，包括：全局服务器，从N个客户端装置接收权重因子字典的更新和因子强度向量的更新，并且生成全局更新的权重因子字典和全局更新的因子强度向量，其中N是正整数；和所述N个客户端装置，至少一个客户端装置中的每个客户端装置包括：至少一个计算装置，
通信接口，和处理器，连接到所述至少一个计算装置和通信接口，处理器：从全局参数组选择参数组，使用所述客户端装置的数据集和由所述客户端装置选择的参数组来训练模型，在训练模型之后更新权重因子字典和因子强度向量，通过通信接口发送客户端更新的权重因子字典和客户端更新的因子强度向量，通过通信接口从全局服务器接收全局更新的权重因子字典和全局更新的因子强度向量，和使用所述客户端装置的数据集、由所述客户端装置选择的参数组以及全局更新的权重因子字典和全局更新的因子强度向量来重新训练模型。9.根据权利要求8所述的联邦机器学习系统，其中，处理器通过使用包括种子值的三个变分参数来从全局参数组选择参数组，并且使数据集的有监督学习与被选参数组和全局参数组的正则化之间的差最小化。10.根据权...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。