System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 模型训练的验证方法及相关设备技术_技高网

模型训练的验证方法及相关设备技术

技术编号:41063592 阅读:7 留言:0更新日期:2024-04-24 11:16
本申请提供一种模型训练的验证方法及相关设备,通过加密设备将待验证模型在训练过程中的训练参数、训练用图像的节点特的征和训练用图像的结构的特征以加密的方式存储在云服务器,进而保证可以在不暴露训练过程中的训练数据的情况下对待验证模型进行验证,通过云服务器复现模型训练的过程,得到第一权重,并将第一权重与待验证模型的第二权重进行对比生成对比结果,将对比结果发送至验证设备,验证设备根据对比结果得到验证结果,其中,验证结果用于指示所述待验证模型是否完成训练过程,通过云服务器执行的验证所需的计算,确保了验证设备仅需少量的开销就能够得到最终的验证结果,同时也避免了泄露训练数据的风险,能够保证训练数据的安全性。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种模型训练的验证方法及相关设备


技术介绍

1、为了保证模型在训练时正确地执行了全部所需的处理过程,所以需要对模型训练的过程进行验证。

2、基于上述情况,现有技术中的验证方式需要与待验证模型直接共享同一训练数据,会存在泄露训练数据的风险,无法保证训练数据的安全性。


技术实现思路

1、有鉴于此,本申请的目的在于提出一种模型训练的验证方法及相关设备,用以解决上述技术问题。

2、基于上述目的,本申请的第一方面提供了一种模型训练的验证方法,应用于模型训练的验证系统,所述系统包括加密设备、云服务器和验证设备,所述云服务器分别与所述加密设备和所述验证设备通信连接,所述方法包括:

3、所述加密设备获取待验证模型在训练过程中的训练参数、训练用图像的节点的特征和所述训练用图像的结构的特征;

4、所述加密设备对所述节点的特征进行加密,生成第一秘密共享信息,并基于所述结构的特征构建键值对,同时对所述训练参数进行加密,生成第二秘密共享信息,将所述第一秘密共享信息、所述键值对和所述第二秘密共享信息发送至所述云服务器;

5、所述云服务器接收所述加密设备发送的所述第一秘密共享信息、所述键值对和所述第二秘密共享信息,基于所述键值对和所述第一秘密共享信息访问所述训练用图像的每个节点,获取与所述每个节点对应的加密邻域状态和边权值,并利用所述边权值对所述每个节点的状态和所述邻域状态进行加权求和,得到聚合状态;

6、所述云服务器基于所述基于所述聚合状态进行梯度更新,得到第一权重,基于所述第二秘密共享信息通过秘密重构算法进行解密,得到经过解密的训练参数,并从所述经过解密的训练参数中提取所述待验证模型的第二权重,并将所述第一权重与所述第二权重进行对比生成对比结果,将所述对比结果发送至所述验证设备;

7、所述验证设备接收所述云服务器发送的对比结果,根据所述对比结果得到验证结果,所述验证结果用于指示所述待验证模型是否完成训练过程。

8、可选地,所述加密设备对所述节点的特征进行加密,生成第一秘密共享信息,包括:

9、所述加密设备利用随机生成算法生成随机向量,并统计所述随机向量的数量;

10、所述加密设备通过预先设定的预处理特征向量与随机向量之差对所述随机向量的数量进行求余运算,得到第一子秘密共享信息,并基于所述随机向量生成第二子秘密共享信息,将所述第一子秘密共享信息和所述第二子秘密共享信息进行组合,生成所述第一秘密共享信息。

11、可选地,所述结构的特征包括所述训练用图像的每个节点的节点度、与每个节点对应的相邻节点的邻域状态,以及相邻两个节点之间的边权重;

12、所述基于所述结构的特征构建键值对,包括:

13、所述加密设备对每个所述节点执行以下操作:

14、根据目标节点的节点度将与所述目标节点对应的相邻节点的邻域状态进行求和处理,得到第一求和处理结果,其中,所述目标节点为所述练用图像的任一节点;

15、基于所述目标节点的节点度,将所述目标节点与各个对应的邻节点之间的边权重进行求和处理,得到第二求和处理结果;

16、将所述目标节点的标识号作为键,并结合所述第一求和处理结果和所述第二求和处理结果的组合作为值形成键值对。

17、可选地,所述训练参数包括所述待验证模型的第二权重和所述第二权重的索引信息;

18、所述对所述训练参数进行加密,生成第二秘密共享信息,包括:

19、所述加密设备利用秘密分割算法对所述待验证模型的第二权重进行分割,得到第三子秘密共享信息;

20、所述加密设备利用秘密分割算法对所述第二权重的索引信息进行分割,得到第四子秘密共享信息,将所述第三子秘密共享信息和所述第四子秘密共享信息进行组合,生成所述第二秘密共享信息。

21、可选地,所述基于所述键值对和所述第一秘密共享信息访问所述训练用图像的每个节点,包括:

22、所述云服务器基于所述第一秘密共享信息通过秘密重构算法从所述键值对中重构出所述训练用图像的节点的标识号,并根据所述节点的标识号访问所述训练用图像的每个节点。

23、可选地,所述利用所述边权值对所述每个节点的状态和所述邻域状态进行加权求和,得到聚合状态,包括:

24、所述云服务器对每个所述节点执行以下操作:

25、基于所述目标节点与各个对应的相邻节点之间的边权重确定与所述目标节点的状态对应的第一权重,其中,所述目标节点为所述练用图像的任一节点;

26、确定与所述目标节点对应的相邻节点的邻域状态的第二权重;

27、利用所述第一权重对与所述目标节点的状态进行乘积处理,得到第一乘积处理结果;

28、通过所述第二权重对与所述目标节点对应的相邻节点的邻域状态进行乘积处理,得到第二乘积处理结果,将所述第一乘积处理结果与所述第二乘积处理结果之和作为所述聚合状态。

29、可选地,所述基于所述基于所述聚合状态进行梯度更新,得到第一权重,包括:

30、所述云服务器获取预先构建的预训练模型的初始权重矩阵和真实处理结果;

31、所述云服务器利用所述聚合状态对所述初始权重矩阵进行乘积处理,得到第三乘积处理结果,并通过预设的激活函数对所述第三乘积处理结果进行拟合,得到第一处理结果;

32、所述云服务器基于第一处理结果与真实处理结果构建损失函数,对所述损失函数进行最小化处理,依据最小化处理的结果对所述预训练模型进行训练调整,得到经过训练的预训练模型,将所述经过训练的预训练模型作为验证模型,获取所述验证模型的权重并将所述验证模型的权重作为所述第一权重。

33、基于同一专利技术构思,本申请的第二方面提供了一种模型训练的验证装置,所述装置设置于模型训练的验证系统,所述系统包括加密设备、云服务器和验证设备,所述云服务器分别与所述加密设备和所述验证设备通信连接,所述装置包括:

34、所述加密设备,被配置为获取待验证模型在训练过程中的训练参数、训练用图像的节点的特征和所述训练用图像的结构的特征,对所述节点的特征进行加密,生成第一秘密共享信息,并基于所述结构的特征构建键值对,同时对所述训练参数进行加密,生成第二秘密共享信息,将所述第一秘密共享信息、所述键值对和所述第二秘密共享信息发送至所述云服务器;

35、所述云服务器,被配置为接收所述加密设备发送的所述第一秘密共享信息、所述键值对和所述第二秘密共享信息,基于所述键值对和所述第一秘密共享信息访问所述训练用图像的每个节点,获取与所述每个节点对应的加密邻域状态和边权值,并利用所述边权值对所述每个节点的状态和所述邻域状态进行加权求和,得到聚合状态,基于所述基于所述聚合状态进行梯度更新,得到第一权重,基于所述第二秘密共享信息通过秘密重构算法进行解密,得到经过解密的训练参数,并从所述经过解密的训练参数中提取所本文档来自技高网...

【技术保护点】

1.一种模型训练的验证方法,其特征在于,应用于模型训练的验证系统,所述系统包括加密设备、云服务器和验证设备,所述云服务器分别与所述加密设备和所述验证设备通信连接,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述加密设备对所述节点的特征进行加密,生成第一秘密共享信息,包括:

3.根据权利要求1所述的方法,其特征在于,所述结构的特征包括所述训练用图像的每个节点的节点度、与每个节点对应的相邻节点的邻域状态,以及相邻两个节点之间的边权重;

4.根据权利要求1所述的方法,其特征在于,所述训练参数包括所述待验证模型的第二权重和所述第二权重的索引信息;

5.根据权利要求1所述的方法,其特征在于,所述基于所述键值对和所述第一秘密共享信息访问所述训练用图像的每个节点,包括:

6.根据权利要求1所述的方法,其特征在于,所述利用所述边权值对所述每个节点的状态和所述邻域状态进行加权求和,得到聚合状态,包括:

7.根据权利要求1所述的方法,其特征在于,所述基于所述基于所述聚合状态进行梯度更新,得到第一权重,包括:

8.一种模型训练的验证装置,其特征在于,所述装置设置于模型训练的验证系统,所述系统包括加密设备、云服务器和验证设备,所述云服务器分别与所述加密设备和所述验证设备通信连接,所述装置包括:

9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任意一项所述的方法。

10.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,其特征在于,所述计算机指令用于使计算机执行权利要求1至7任一所述方法。

...

【技术特征摘要】

1.一种模型训练的验证方法,其特征在于,应用于模型训练的验证系统,所述系统包括加密设备、云服务器和验证设备,所述云服务器分别与所述加密设备和所述验证设备通信连接,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述加密设备对所述节点的特征进行加密,生成第一秘密共享信息,包括:

3.根据权利要求1所述的方法,其特征在于,所述结构的特征包括所述训练用图像的每个节点的节点度、与每个节点对应的相邻节点的邻域状态,以及相邻两个节点之间的边权重;

4.根据权利要求1所述的方法,其特征在于,所述训练参数包括所述待验证模型的第二权重和所述第二权重的索引信息;

5.根据权利要求1所述的方法,其特征在于,所述基于所述键值对和所述第一秘密共享信息访问所述训练用图像的每个节点,包括:

6.根据权利要求1所述...

【专利技术属性】
技术研发人员:蒋芃刘一民祝烈煌
申请(专利权)人:北京理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1