一种安全的模型复用方法及系统技术方案

本发明专利技术涉及一种安全的模型复用方法及系统

【技术实现步骤摘要】
一种安全的模型复用方法及系统


[0001]本专利技术属于人工智能和信息安全领域，具体涉及一种安全的模型复用方法及系统
。

技术介绍

[0002]随着人工智能应用逐渐常态化，人工智能安全问题受到了人们的关注
。
人工智能安全主要包括
AI
模型安全
、AI
数据安全与
AI
承载系统安全
。AI
模型在训练
、
运行阶段和保存
、
传输过程中可能会遭受到来自攻击者的破坏威胁，或者可能会有模型泄露的风险
。
[0003]传统的
AI
模型大多数都是基于监督学习技术构建的
。
从本质上来讲，监督学习是指从无到有构建机器学习
(ML)
模型，是迄今为止推动
AI
发展的关键方法，其发挥作用的前提在于能够访问大量的大型数据集和增强计算能力
。
但由于缺乏资源，许多
AI
模型无法构建，在这种情况下
,
人们希望能有一种更高效的方法来构建模型
。
迁移学习应运而生
。
迁移学习，是指利用数据
、
任务或模型之间的相似性，将在旧领域学习过的模型，应用于新领域的一种学习过程
。
利用迁移学习的思想，可以很好地解决普适化模型与个性化需求之间的矛盾
。
预训练模型是迁移学习的一种应用，基于预训练模型，可以通过较少的数据和算力，充分利用已训练好的模型，快速得到一个适合特定需求的新模型
。
[0004]因此，如何在预训练模型的基础上，建立具有较高安全性的模型复用系统，提升模型使用的安全性和效率，仍是亟待解决的问题
。
[0005]另外，由于新模型仅仅是对预训练模型进行了微调，因此其数据量仍较大，从而限制了每个用户端可存的新模型数量，无法满足用户的多种需求
。

技术实现思路

[0006]本专利技术的目的是针对提升
AI
模型使用的安全性和效率的需求，而提供一种安全的模型复用方法及系统
。
[0007]本专利技术技术方案中，由数据中心根据不同用途和数据集，对预训练模型进行微调，获得多个目标模型，并向用户端公开预训练模型，以及每个目标模型的使用信息；基于公钥密码体制和相关密码安全策略在数据中心和用户端之间建立安全通信机制，并由数据中心根据用户端的申请，对所请求的特定目标模型中相对于预训练模型有变化的层数据及层信息进行加密，形成模型密文，安全地发送至用户端，用户端需要使用模型时，根据解密模型密文获得的层信息，使用解密模型密文获得的层数据替换预训练模型中有变化的层数据，从而获得特定目标模型
。
[0008]本专利技术相对现有技术具有实质性特点和进步，具体地说：1．本专利技术技术方案基于预训练模型，进行模型的复用，可以在只有相对较少的数据的情况下，利用较少的算力，获得满足多种个性化需求的目标模型，并且在保存和分发模型时，由于目标模型相对于预训练模型，常常只有部分层发生改变，因此只需要加密和传输发生改变的层的数据和信息，提高了模型的传输效率
。
[0009]2．本专利技术技术方案利用公钥密码体制，对目标模型的关键数据进行保护，在传输和保存时保证了模型的安全性，避免模型被攻击者获取
、
篡改或者破坏，在保证模型利用效率的情况下，提高了模型和整个模型复用系统的安全性
。
[0010]3.
本专利技术用户端存储的是预训练模型以及特定目标模型相对于预训练模型发生改变的层的数据和信息，使用时仅需要使用发生改变的层的数据替换预训练模型中有变化的层数据即可得到特定目标模型；由于特定目标模型相对于预训练模型发生改变的层的数据和信息的数据量要远远小于特定目标模型，因此一个用户端可以用较少的存储空间存储多个目标模型发生改变的层的数据和信息，从而间接存储多个特定目标模型，满足用户的多样化需求
。
附图说明
[0011]图1是本专利技术实施例1所述的一种安全的模型复用方法的流程示意图
。
[0012]图2是本专利技术实施例2所述的一种安全的模型复用方法的流程示意图
。
[0013]图3是本专利技术实施例3所述的一种安全的模型复用系统的示意图
。
[0014]图4是根据图3所示的模型复用系统的工作流程示意图
。
具体实施方式
[0015]预训练模型是一种迁移学习的应用，通过自监督学习从大规模数据中获得与具体任务无关的预训练模型
。
预训练模型
+
微调机制具备很好的可扩展性，在支持一个新任务时，只需要利用该任务的标注数据进行微调即可
。
对同一个预训练模型，根据不同用途，使用不同数据进行微调，可获得多个不同的目标模型，用来满足不同用户的不同的个性化需求
。
[0016]本专利技术基于上述原理提出了一种安全的模型复用方法和系统，提高了模型的传输效率和安全性，同时可以满足同一用户的不同个性化需求
。
[0017]实施例1：本实施例提供一种安全的模型复用方法，应用于用户端，如图1所示，该方法包括：接收数据中心公开的预训练模型，以及每个目标模型的使用信息，其中，目标模型由数据中心根据用途和数据集对预训练模型进行微调后获得
。
使用信息包括应用领域
、
使用场景
、
任务目标
、
目标用户
、
输入数据格式
、
输出数据格式等信息中的一种或多种
。
[0018]与数据中心基于公钥密码体制和相关密码安全策略建立安全通信机制，并基于安全通信机制向数据中心申请特定目标模型，如目标模型
A。
[0019]接收数据中心发送的模型密文，所述模型密文由数据中心依据相关密码安全策略获取会话密钥
K
，使用会话密钥
K
将目标模型
A
中相对于预训练模型有变化的层数据及层信息进行加密获得；层信息包括但不限于模型中的层的类型
、
结构
、
节点数目
、
与其他层的连接关系
、
输入输出矩阵的大小
、
线性函数
、
非线性函数
、
卷积核的大小和数目
、
卷积步长
、
边缘填充方式
、
池化步长
、
池化方式等
。
层数据包括但不限于权重值
、
函数参数等
。
[0020]依据相关密码安全策略获取会话密钥
K
，接收并保存模型密文；在需要使用目标模型
A
时，用会话密钥
K
将模型密文解密获得层本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种安全的模型复用方法，应用于用户端，其特征在于，包括：接收数据中心公开的预训练模型，以及每个目标模型的使用信息，其中，目标模型由数据中心根据用途和数据集对预训练模型进行微调后获得；与数据中心基于公钥密码体制和相关密码安全策略建立安全通信机制，并基于安全通信机制向数据中心申请特定目标模型；接收数据中心发送的模型密文，所述模型密文由数据中心依据相关密码安全策略获取会话密钥
K
，使用会话密钥
K
将特定目标模型中相对于预训练模型有变化的层数据及层信息进行加密获得；依据相关密码安全策略获取会话密钥
K
，接收并保存模型密文；在需要使用特定目标模型时，用会话密钥
K
将模型密文解密获得层数据及层信息，根据层信息，使用层数据替换预训练模型中有变化的层数据，获得特定目标模型
。2.
根据权利要求1所述的一种安全的模型复用方法，其特征在于：层信息包括预训练模型中的层的类型
、
结构
、
节点数目
、
与其他层的连接关系
、
输入输出矩阵的大小
、
线性函数
、
非线性函数
、
卷积核的大小和数目
、
卷积步长
、
边缘填充方式
、
池化步长
、
池化方式中的一项或多项；层数据包括权重值
、
函数参数中的一项或多项
。3.
一种安全的模型复用方法，应用于数据中心，其特征在于，包括：根据不同用途和数据集，对预训练模型进行微调，获得多个目标模型，并向用户端公开预训练模型，以及每个目标模型的使用信息；与用户端基于公钥密码体制和相关密码安全策略建立安全通信机制，并接收用户端基于安全通信机制发送的特定目标模型申请信息；依据相关密码安全策略获取会话密钥
K
，使用会话密钥
K
将特定目标模型中相对于预训练模型有变化的层数据及层信息进行加密，获得模型密文并发送给用户端，以使用户端依据相关密码安全策略获取会话密钥
K
，接收并保存模型密文；在需要使用特定目标模型时，用会话密钥
K
将模型密文解密获得层数据及层信息，根据层信息，使用层数据替换预训练模型中有变化的层数据，获得特定目标模型
。4.
根据权利要求3所述的一种安全的模型复用方法，其特征在于：数据中心使用对称加密算法，对特定目标模型中相对于预训练模型有变化的层数据及层信息进行安全保护
。5.
根据权利要求4所述的一种安全的模型复用方法，其...

【专利技术属性】
技术研发人员：丁琦，张鲁国，何骏，
申请(专利权)人：郑州信大捷安信息技术股份有限公司，
类型：发明
国别省市：