【技术实现步骤摘要】
本专利技术涉及隐私计算，尤其涉及一种鲁棒且安全的联邦聚合方法及系统。
技术介绍
1、近年来，数据隐私问题被日益重视，集体和个人数据不出本地的诉求日渐增加；而另一方面，基于大数据的机器学习和深度学习算法需要大量的数据赋能，数据孤岛现象显然阻碍了当前人工智能的发展,联邦学习的提出，打破了数据孤岛的束缚，这种技术可以使得在保证数据不出本地的隐私前提下，实现机器学习或深度学习的模型训练,然而，传统联邦学习仍面临严峻的安全挑战，具体包括：(1)、隐私问题：攻击者可以通过分析用户提交的本地模型，或者分析连续的全局模型的变化，窃取用户的本地数据库信息；(2)、模型完整性问题：攻击者可以通过向聚合服务器发送异常的本地模型来使全局模型的训练过程偏向于攻击者选定的方向，破坏正常模型。
2、为解决联邦学习的隐私保护问题，bonawitz et a l.在2017年提出了半诚实安全的安全聚合算法secagg，其使用双线性掩码技术保护本地模型不被攻击者得到；然而，secagg只是保护了本地模型的隐私性，却没有保护全局模型的隐私性，虽然攻击者利用连续的全局模型分析每个用户的本地数据仍然很困难，但已有一些工作显示，这在理论上是可行的，因此，联邦学习过程中，每轮的全局模型(除最后一轮外)都应该进行隐私保护，而目前能做到这种强隐私保护的技术有同态加密和差分隐私，同态加密(he)可以使数据在密文状态下，仍保持运算性质，因此在隐私计算中得到广泛的运用，但由于同态加密的计算复杂度过高，在联邦学习这种需要大量运算的场景中并不十分适合，chengl iang
3、为解决联邦模型的完整性问题，即防御恶意用户的中毒攻击(包括数据中毒攻击和模型中毒攻击)，现有工作主要有检测异常模型更新和拜占庭鲁棒性缓解两种方法。其中异常模型更新的检测通常只是验证模型训练的正确性，因此无法防御攻击者的数据中毒攻击；拜占庭鲁棒性缓解方法基于对恶意模型和正常模型的不同点的分析，排除异常模型，以保证模型的鲁棒性。然而，这两种方法都需要使用准确的本地模型向量来评估，若在本地模型中添加差分隐私噪声，则会大幅度降低这种评估的水平。
技术实现思路
1、有鉴于此，本专利技术提出一种鲁棒且安全的联邦聚合方法及系统，可以解决现有技术所存在的在使用差分隐私技术保护模型隐私的场景中不可实现鲁棒性评估的缺陷。
2、本专利技术的技术方案是这样实现的：
3、一种鲁棒且安全的联邦聚合方法，具体包括：
4、用户在本地完成每轮训练后，将本地模型参数向量使用可验证秘密分享技术分发给辅助服务器和聚合服务器，同时，辅助服务器与聚合服务器通过安全信道协商获得可验证差分隐私噪声；
5、辅助服务器接收到来自用户的参数份额后，计算出可验证鲁棒性认证信息，并在本地模型参数向量中添加可验证差分隐私噪声，将可验证鲁棒性认证信息和添加可验证差分隐私噪声的本地模型参数向量发送给聚合服务器；
6、聚合服务器验证辅助服务器提交的信息的正确性，并检查每个用户的可验证鲁棒性认证信息和添加可验证差分隐私噪声的本地模型参数向量是否符合要求，过滤掉异常的本地模型参数，并完成聚合操作，得到带噪声的鲁棒全局模型并将其发布。
7、作为所述鲁棒且安全的联邦聚合方法的进一步可选方案，所述用户在本地完成每轮训练后，将本地模型参数向量使用可验证秘密分享技术分发给辅助服务器和聚合服务器，具体包括：
8、设用户u∈u的本地模型参数向量为wu＝{wu，1，...，wu，n}，使用算术分享将其分为|s|份：{[wu]s|s∈s}，使得wu＝∑s∈s[wu]s；
9、用户u选择一个随机数ru，使用算术分享将其分为|s|份：{[ru]s|s∈s}，计算并公开pedersen承诺:
10、
11、其中q是一个大素数，g和h是的两个不同的生成元，是q阶整数域；
12、用户u向辅助服务器s∈s分发秘密分享份额{[wu]s，[ru]s}，并向聚合服务器发送其承诺cu。
13、作为所述鲁棒且安全的联邦聚合方法的进一步可选方案，所述辅助服务器与聚合服务器通过安全信道协商获得可验证差分隐私噪声，具体包括：
14、辅助服务器s随机选择n*nb个一比特的随机数，记为：bs，i∈{0，1}和n*nb个随机数并生成每个比特的pedersen承诺值：cs，i＝com(bs，i，rs，i)；
15、辅助服务器s将所有承诺值发送给聚合服务器；
16、聚合服务器接收到所有辅助服务器的承诺值{cs|s∈s}后，随机选择n*nb*|s|个比特的随机数{βs，i|s∈s，i＝1，...，n*nb}，分成|s|份分别发送给每个辅助服务器；
17、辅助服务器s计算异或值：
18、
19、依据异或值结果，求和得到可验证差分隐私噪声(vs，rs)。
20、作为所述鲁棒且安全的联邦聚合方法的进一步可选方案，所述辅助服务器接收到来自用户的参数份额后，计算出可验证鲁棒性认证信息，具体包括：
21、辅助服务器s利用算术分享的加法同态特性和乘法三元组技术构造鲁棒性评估函数的算术电路，再将用户的参数份额代入算术电路中运算，得到用户u的鲁棒性评估值的分享[valid(wu)]s，从而计算出可验证鲁棒性认证信息。
22、作为所述鲁棒且安全的联邦聚合方法的进一步可选方案，所述在本地模型参数向量中添加可验证差分隐私噪声，具体包括：
23、获取可验证差分隐私噪声；
24、依据鲁棒性评估函数的算术电路、可验证差分隐私噪声和本地模型参数向量，得到添加可验证差分隐私噪声的本地模型参数向量[valid(wu)]s。
25、作为所述鲁棒且安全的联邦聚合方法的进一步可选方案，所述聚合服务器验证辅助服务器提交的信息的正确性，具体包括：
26、聚合服务器检查每个辅助服务器提交的用户更新模型的数量是否一致，若有少量辅助服务器提交的本文档来自技高网...
【技术保护点】
1.一种鲁棒且安全的联邦聚合方法，其特征在于，具体包括：
2.根据权利要求1所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述用户在本地完成每轮训练后，将本地模型参数向量使用可验证秘密分享技术分发给辅助服务器和聚合服务器，具体包括：
3.根据权利要求2所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述辅助服务器与聚合服务器通过安全信道协商获得可验证差分隐私噪声，具体包括：
4.根据权利要求3所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述辅助服务器接收到来自用户的参数份额后，计算出可验证鲁棒性认证信息，具体包括：
5.根据权利要求4所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述在本地模型参数向量中添加可验证差分隐私噪声，具体包括：
6.根据权利要求5所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述聚合服务器验证辅助服务器提交的信息的正确性，具体包括：
7.根据权利要求6所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述检查每个用户的可验证鲁棒性认证信息和添加可验证差分隐私噪声的本地模型参数
8.根据权利要求7所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述过滤掉异常的本地模型参数，并完成聚合操作，得到带噪声的鲁棒全局模型，具体包括：
9.一种鲁棒且安全的联邦聚合系统，其特征在于，包括：
...【技术特征摘要】
1.一种鲁棒且安全的联邦聚合方法，其特征在于，具体包括：
2.根据权利要求1所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述用户在本地完成每轮训练后，将本地模型参数向量使用可验证秘密分享技术分发给辅助服务器和聚合服务器，具体包括：
3.根据权利要求2所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述辅助服务器与聚合服务器通过安全信道协商获得可验证差分隐私噪声，具体包括：
4.根据权利要求3所述的一种鲁棒且安全的联邦聚合方法，其特征在于，所述辅助服务器接收到来自用户的参数份额后，计算出可验证鲁棒性认证信息，具体包括：
5.根据权利要求4所述的一种鲁棒且安全的联邦聚合方...
【专利技术属性】
技术研发人员：曾立波，童瑶，彭家明，田新军，林吉达，彭乾，戴永林，
申请(专利权)人：广州芳禾数据有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。