【技术实现步骤摘要】
一种联邦迁移学习模型的训练、预测方法及装置
本专利技术涉及人工智能
,尤其涉及一种联邦迁移学习模型的训练、预测方法及装置。
技术介绍
随着计算机技术的发展,越来越多的技术应用在金融领域,传统金融业正在逐步向科技金融(Fintech)转变,人工智能技术也不例外,但由于金融行业的安全性、实时性要求,也对技术提出的更高的要求。随着互联网技术的发展,网络平台上信息大量而多样,如何实现为用户推荐个性化和感兴趣的信息服务,是非常重要的。然而,现有的本地神经网络模型在数据学习过程中仍存在数据泄露和用户隐私泄露的风险,且无法保证各参与方训练的模型预测的特异性。因此,如何保护用户数据隐私的同时,提高用户覆盖率和推荐信息的多样性,是一个亟待解决的问题。
技术实现思路
本专利技术实施例提供一种联邦迁移学习模型的训练、预测及装置,以解决现有技术中模型的数据安全性较低的问题。本专利技术实施例提供的具体技术方案如下:本专利技术一个实施例提供了一种联邦迁移学习模型的训练方法,包括:第一终端获取参数服务器在第i个训练周期下发的加密迁移模型;所述加密迁移模型为所述参数服务器根据K个参与方的K个终 ...
【技术保护点】
1.一种联邦迁移学习模型的训练方法,其特征在于,包括:第一终端获取参数服务器在第i个训练周期下发的加密迁移模型;所述加密迁移模型为所述参数服务器根据K个参与方的K个终端在第i‑1个训练周期上传的K个加密共享模型生成的;所述第一终端为所述K个终端中的任一终端;第1个训练周期训练的所述加密共享模型为所述第一终端根据参数服务器下发的初始加密迁移模型及第一数据训练的;所述初始加密迁移模型为所述参数服务器在第1个训练周期,根据所述参数服务器的公钥加密所述参数服务器生成的初始迁移模型获得的,并发送至各终端的;所述第一数据为所述第一终端的训练数据;i,K为正整数;i大于1;所述第一终端根 ...
【技术特征摘要】
1.一种联邦迁移学习模型的训练方法,其特征在于,包括:第一终端获取参数服务器在第i个训练周期下发的加密迁移模型;所述加密迁移模型为所述参数服务器根据K个参与方的K个终端在第i-1个训练周期上传的K个加密共享模型生成的;所述第一终端为所述K个终端中的任一终端;第1个训练周期训练的所述加密共享模型为所述第一终端根据参数服务器下发的初始加密迁移模型及第一数据训练的;所述初始加密迁移模型为所述参数服务器在第1个训练周期,根据所述参数服务器的公钥加密所述参数服务器生成的初始迁移模型获得的,并发送至各终端的;所述第一数据为所述第一终端的训练数据;i,K为正整数;i大于1;所述第一终端根据所述参数服务器在第i个训练周期下发的加密迁移模型更新所述第一终端的第一本地神经网络模型中的加密共享模型,并根据所述第一数据训练更新所述第一本地神经网络模型,从而得到在第i个训练周期训练的所述第一本地神经网络模型中的加密共享模型;所述第一终端将所述加密共享模型上传到所述参数服务器。2.如权利要求1所述的方法,其特征在于,所述第一终端根据所述加密迁移模型,更新所述第一终端的第一本地神经网络模型的第一加密共享模型,包括:所述第一终端根据所述加密迁移模型,及所述加密迁移模型在所述第一本地神经网络模型中的权重,更新所述第一终端的第一本地神经网络模型的第一加密共享模型。3.如权利要求2所述的方法,其特征在于,所述第一加密共享模型包括N层特征提取层;N为正整数;所述第一终端根据所述加密迁移模型,及所述加密迁移模型在所述第一本地神经网络模型中的权重,更新所述第一终端的第一本地神经网络模型的第一加密共享模型,包括:针对所述第一加密共享模型中的N层特征提取层的第l层,执行:所述第一终端根据所述加密迁移模型的第l层的模型参数,及所述加密迁移模型在第一加密共享模型的第l层的第一权重,更新所述第一加密共享模型的第l层的模型参数;所述第l层的第一权重为所述第一终端根据所述第一本地神经网络模型的预测类型确定的;l小于或等于N;l为正整数。4.如权利要求1所述的方法,其特征在于,所述第一本地神经网络模型还包括第一私有模型;所述第一私有模型为根据所述第一本地神经网络模型的预测类型确定的。5.如权利要求4所述的方法,其特征在于,所述加密共享模型的特征提取层靠近所述第一本地神经网络模型的输入层;所述第一私有模型的特征提取层靠近所述第一本地神经网络模型的输出层。6.一种联邦迁移学习模型的训练方法,其特征在于,所述方法包括:参数服务器获取K个终端在第i-1个训练周期上传的K个加密共享模型;第1个训练周期训练的所述K个加密共享模型为所述K个终端根据初始加密迁移模型及各终端各自的训练数据训练的;所述初始加密迁移模型为所述参数服务器在第1个训练周期,根据所述参数服务器的公钥加密所述参数服务器生成的初始迁移模型获得的,并发送至各终端的;所述参数服务器根据所述K个终端在第i-1个训练周期上传的加密共享模型生成第i个训练周期的加密迁移模型;所述参数服务器将所述第i个训练周期的加密迁移模型下发至各终端,以使各终端根据所述加密迁移模型,更新各终端的本地神经网络模型中的加密共享模型,并根据各终端各自的训练数据训练更新后的所述本地神经网络模型,从而得到在第i个训练周期训练的所述本地神经网络模型中的加密共享模型。7.如权利要求6所述的方法,其特征在于,所述方法还包括:所述参数服务器获取所述K个终端在第i-1个训练周期上传的加密损失值;所述参数服务器根据所述K个终端在第i-1个训练周...
【专利技术属性】
技术研发人员:康焱,刘洋,陈天健,
申请(专利权)人:深圳前海微众银行股份有限公司,
类型:发明
国别省市:广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。