一种用于加密模型的安全性评估的方法和设备技术

本公开提供了一种用于加密模型的安全性评估方案，所述方案包括：数据需求方设备向数据源方设备发送部署请求；数据源方设备将部署请求中的密文模型参数以及公钥转发给安全性评估方设备；安全性评估方设备利用密文模型参数通过计算得到第一密文安全评估指标并将其发送给数据需求方设备；数据需求方设备利用私钥解密第一密文安全评估指标以生成明文安全评估指标并将其转发给安全性评估方设备；安全性评估方设备利用公钥对明文安全评估指标进行加密以生成第二密文安全评估指标，比较第一密文安全评估指标与第二密文安全评估指标以确定它们的一致性来生成相应的模型安全评估报告，数据源方设备根据模型安全评估报告审批是否部署加密的数据模型。

A Method and Equipment for Security Assessment of Encryption Model

【技术实现步骤摘要】
一种用于加密模型的安全性评估的方法和设备
本公开涉及加密模型安全性领域，具体而言，涉及一种加密模型安全部署评估方案。
技术介绍
随着互联网技术的不断发展和云计算概念的诞生，越来越多的公司和用户倾向于通过互联网来进行数据通信。由此，许多公司在自己的平台上建立起各种数据模型来处理来自各种源的各种类型的数据，所述处理包括：接收、计算、更新、存储、发送等各种数据操作。例如，一种被广泛使用的数据模型是机器学习模型，机器学习模型可通过模拟或实现人类的学习行为，来获取新的知识或技能，重新组织已有的知识结构，进而不断改善自身的性能。它是人工智能的核心，是计算机具有人工智能的关键技术，其应用遍及人工智能的各个领域。它主要使用数据的归纳、综合而不是演绎。数据模型可以分为未加密数据模型(明文数据模型)和加密数据模型(密文数据模型)。在部署数据模型时，需要评估模型的安全性。明文数据模型可以直接判断安全性，却不能保护数据需求方的隐私，而密文数据模型虽然能保护需求方的隐私，却使得要部署的数据源方难以直接评估模型的安全性。因此，存在对模型安全部署方案进行改进的需求，以便能够提供一种更加安全稳健的模型安全部署评估机制。
技术实现思路
本公开涉及一种加密模型安全部署评估方案，所述方案利用了同态加密技术实现对加密模型的安全性评估，因此，不存在泄露模型参数明文的风险。根据本公开的第一方面，提供了一种用于加密模型的安全性评估的数据需求方设备，所述数据需求方设备被配置为：向数据源方设备发送要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了基于所述数据模型的明文参数被同态加密的密文模型参数以及所述同态加密所使用的公钥；从安全性评估方设备接收第一密文安全评估指标；以及利用与所述公钥相对应的私钥解密接收到的第一密文安全评估指标以生成明文安全评估指标并将所述明文安全评估指标转发给所述安全性评估方设备。根据本公开的第二方面，提供了一种用于加密模型的安全性评估的数据源方设备，所述数据源方设备被配置为：从数据需求方设备接收要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了被同态加密的密文模型参数以及所述同态加密所使用的公钥；将所述被同态加密的密文模型参数以及所述公钥转发给安全性评估方设备；以及从所述安全性评估方设备接收模型安全评估报告，并根据所述模型安全评估报告审批是否部署所述数据需求方设备提供的经同态加密的数据模型。根据本公开的第三方面，如第二方面所述的数据源方设备还被配置为：在将所述被同态加密的密文模型参数以及所述公钥转发给所述安全性评估方设备之前，打乱所述被同态加密的密文模型参数的顺序。根据本公开的第四方面，提供了一种用于加密模型的安全性评估的安全性评估方设备，所述安全性评估方设备被配置为：接收从数据源方设备转发的由数据需求方设备提供的被同态加密的密文模型参数以及公钥；利用所述被同态加密的密文模型参数通过计算得到第一密文安全评估指标并将所述第一密文安全评估指标发送给所述数据需求方设备；从所述数据需求方设备接收明文安全评估指标；利用由所述数据需求方设备提供的所述公钥对接收到的所述明文安全评估指标进行加密以生成第二密文安全评估指标；比较所述第一密文安全评估指标与所述第二密文安全评估指标以确定它们的一致性，并基于所述一致性生成相应的模型安全评估报告；以及将所述模型安全评估报告发送给所述数据源方设备。根据本公开的第五方面，提供了一种用于加密模型的安全性评估的方法，所述方法包括：数据需求方设备向数据源方设备发送要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了基于所述数据模型的明文参数被同态加密的密文模型参数以及所述同态加密所使用的公钥；所述数据源方设备将所述被同态加密的密文模型参数以及所述公钥转发给安全性评估方设备；所述安全性评估方设备利用接收到的所述被同态加密的密文模型参数通过计算得到第一密文安全评估指标，并将所述第一密文安全评估指标发送给所述数据需求方设备；所述数据需求方设备利用与所述公钥相对应的私钥解密接收到的所述第一密文安全评估指标以生成明文安全评估指标，并将所述明文安全评估指标转发给所述安全性评估方设备；所述安全性评估方设备利用由所述数据需求方设备提供的所述公钥对接收到的所述明文安全评估指标进行加密以生成第二密文安全评估指标，比较所述第一密文安全评估指标与所述第二密文安全评估指标以确定它们的一致性，并基于所述一致性生成相应的模型安全评估报告，再将所述模型安全评估报告发送给所述数据源方设备；以及所述数据源方设备根据接收到的所述模型安全评估报告审批是否部署所述数据需求方设备提供的经同态加密的数据模型。根据本公开的第六方面，如第五方面所述的方法还包括：在所述数据需求方设备向所述数据源方设备发送所述部署请求之前，已经利用来自各个源的数据作为模型特征来训练所述数据模型，并通过对所述模型参数进行同态加密得到加密数据模型。根据本公开的第七方面，如第五方面所述的方法还包括：当发生多次评估时，通过对多个所述第一密文安全评估指标和第二密文安全评估指标的比较结果进行综合考虑来生成综合的模型安全评估报告。根据本公开的第八方面，如第五方面所述的方法也可以在所述数据源方设备部署了所述经同态加密的数据模型之后被执行以用于评估所述数据需求方所提供的明文模型结果有没有反推所述数据源方的明细数据值的风险。根据本公开的第九方面，如第五方面所述的方法还包括：在所述解密步骤中，在将所述明文安全评估指标发送给所述安全评估方之前，所述数据需求方可以通过将所述解密出的方差Var与根据明文算出的Var比较来进行审核以避免泄露模型参数根据本公开的第十方面，如第五方面所述的方法还包括：随同所述公钥还提供了一个随机数以保证在相同随机数条件下相同公钥对同一个数据加密结果一致。根据本公开的第十一方面，提供了一种用于加密模型的安全性评估的数据需求方设备，所述数据需求方设备被配置为：向数据源方设备发送要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了基于所述数据模型的明文参数被同态加密的密文模型参数以及所述同态加密所使用的公钥；从所述数据源方设备接收第一密文安全评估指标；以及利用与所述公钥相对应的私钥解密接收到的第一密文安全评估指标以生成明文安全评估指标并将所述明文安全评估指标转发给所述数据源方设备。根据本公开的第十二方面，提供了一种用于加密模型的安全性评估的数据源方设备，所述数据源方设备被配置为：从数据需求方设备接收要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了被同态加密的密文模型参数以及所述同态加密所使用的公钥；利用所述被同态加密的密文模型参数通过计算得到第一密文安全评估指标并将所述第一密文安全评估指标发送给数据需求方设备；从所述数据需求方设备接收明文安全评估指标；利用由所述数据需求方设备提供的所述公钥对接收到的所述明文安全评估指标进行加密以生成第二密文安全评估指标；比较所述第一密文安全评估指标与所述第二密文安全评估指标以确定它们的一致性，并基于所述一致性生成相应的模型安全评估报告；以及根据所述模型安全评估报告审批是否部署所述数据需求方设备提供的经同态加密本文档来自技高网...

【技术保护点】
1.一种用于加密模型的安全性评估的数据需求方设备，其特征在于，所述数据需求方设备被配置为：向数据源方设备发送要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了基于所述数据模型的明文参数被同态加密的密文模型参数以及所述同态加密所使用的公钥；从安全性评估方设备接收第一密文安全评估指标；以及利用与所述公钥相对应的私钥解密接收到的所述第一密文安全评估指标以生成明文安全评估指标并将所述明文安全评估指标转发给所述安全性评估方设备。

【技术特征摘要】
1.一种用于加密模型的安全性评估的数据需求方设备，其特征在于，所述数据需求方设备被配置为：向数据源方设备发送要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了基于所述数据模型的明文参数被同态加密的密文模型参数以及所述同态加密所使用的公钥；从安全性评估方设备接收第一密文安全评估指标；以及利用与所述公钥相对应的私钥解密接收到的所述第一密文安全评估指标以生成明文安全评估指标并将所述明文安全评估指标转发给所述安全性评估方设备。2.一种用于加密模型的安全性评估的数据源方设备，其特征在于，所述数据源方设备被配置为：从数据需求方设备接收要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了被同态加密的密文模型参数以及所述同态加密所使用的公钥；将所述被同态加密的密文模型参数以及所述公钥转发给安全性评估方设备；以及从所述安全性评估方设备接收模型安全评估报告，并根据所述模型安全评估报告审批是否部署所述数据需求方设备提供的所述经同态加密的数据模型。3.如权利要求2所述的所述数据源方设备，其特征在于，所述数据源方设备还被配置为：在将所述被同态加密的密文模型参数以及所述公钥转发给所述安全性评估方设备之前，打乱所述被同态加密的密文模型参数的顺序。4.一种用于加密模型的安全性评估的安全性评估方设备，其特征在于，所述安全性评估方设备被配置为：接收从数据源方设备转发的由数据需求方设备提供的被同态加密的密文模型参数以及公钥；利用所述被同态加密的密文模型参数通过计算得到第一密文安全评估指标并将所述第一密文安全评估指标发送给所述数据需求方设备；从所述数据需求方设备接收明文安全评估指标；利用由所述数据需求方设备提供的所述公钥对接收到的所述明文安全评估指标进行加密以生成第二密文安全评估指标；比较所述第一密文安全评估指标与所述第二密文安全评估指标以确定它们的一致性，并基于所述一致性生成相应的模型安全评估报告；以及将所述模型安全评估报告发送给所述数据源方设备。5.一种用于加密模型的安全性评估的方法，其特征在于，所述方法包括：数据需求方设备向数据源方设备发送要将经同态加密的数据模型部署在所述数据源方设备上的部署请求，所述部署请求包括了基于所述数据模型的明文参数被同态加密的密文模型参数以及所述同态加密所使用的公钥；所述数据源方设备将所述被同态加密的密文模型参数以及所述公钥转发给安全性评估方设备；所述安全性评估方设备利用接收到的所述被同态加密的密文模型参数通过计算得到第一密文安全评估指标，并将所述第一密文安全评估指标发送给所述数据需求方设备；所述数据需求方设备利用与所述公钥相对应的私钥解密接收到的所述第一密文安全评估指标以生成明文安全评估指标，并将所述明文安全评估指标转发给所述安全性评估方设备；所述安全性评估方设备利用由所述数据需求方设备提供的所述公钥对接收到的所述明文安全评估指标进行加密以生成第二密文安全评估指标，比较所述第一密文安全评估指标与所述第二密文安全评估指标以确定它们的一致性，并基于所述一致性生成相应的模型安全评估报告，再将所述模型安全评估报告发送给所述数据源方设备；以及所述数据源方设备根据接收到的所述模型安全评估报告审批是否部署所述数据需求方设备提供的经同态加密的数据模型。6.如权利要求5所述的方法，其特征在于，所述方法还包括：在所述数据需求方设备向所述数据源方设备发送所述部署请求之前，已经利用来自各个源的数据作为模型特征来训练所述数据模型，并通过对所述模型参数进行同态加密得到加密数据模型。7.如权利要求5所述的方法，其特征在于，所述方法还包括：当发生多次评估时，通过对多个所述第一密文安全评估指标和第二密文安全评估指标的比较结果进行综合考虑来生成综合的模型安全评估报告。8.如权利要求5所述的方法，其特征在于，所述方法也可以在所述数据源方设备部署了所...

【专利技术属性】
技术研发人员：阮方圆，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY