用于隐私保护推理的系统、方法和装置制造方法及图纸

所公开的系统和方法涉及一种用于隐私保护推理(PPI)的方法，所述方法包括：从客户端设备接收第一矩阵信息集合，通过使用k

【技术实现步骤摘要】
【国外来华专利技术】用于隐私保护推理的系统、方法和装置
[0001]相关申请的交叉引用
[0002]本申请要求于2020年9月30日提交的专利技术名称为“用于隐私保护推理的系统、方法和装置”的先前提交的美国非临时申请第17/038,998号的优先权，该美国非临时申请的内容在允许此类并入的司法管辖范围内通过引用被并入本文。


[0003]本专利技术大体上涉及机器学习/神经网络系统，并且具体涉及用于隐私保护推理(PPI)的系统、方法和装置。

技术介绍

[0004]推理是一种过程，其中，使用经过训练的机器学习/神经网络模型来预测针对给定输入的输出。例如，经过训练以将动物图像分类为不同物种的模型可以被用来从图像识别动物的物种(推理过程)。为了执行推理，通常信息从客户端设备被发送到服务器，从而危害客户端的隐私。
[0005]操作使用经过训练的机器学习/神经网络模型进行推理的客户端设备的用户可能不想暴露他们的输入，因为输入可能包含敏感信息。同时，可能不希望向客户端设备公开与经过训练的机器学习/神经网络模型相关联的操作参数，例如权重。为此，来自包含私有信息的客户端设备的输入应在客户端侧保持私密，与经过训练的机器学习/神经网络模型相关的权重应在服务器侧保持私密。在这种场景下，服务器可以访问推理，而不侵犯任何隐私。但是客户端设备无法访问推理，因为它可能会暴露权重。
[0006]虽然如此，但有兴趣在服务器处计算经过训练的机器学习/神经网络模型的输出，同时在客户端设备处保持原始输入的私密性，并且操作参数(例如权重)仅为服务器所知。
[0007]某些提议的系统可能会加剧这些挑战。这些提议的系统包括同态加密。这种加密在计算上是昂贵的，因为公钥加密操作必须应用于输入向量的每个元素。此外，基于同态加密的系统必须处理密钥管理问题，从而使与系统相关的硬件组件和软件处理资源紧张。

技术实现思路

[0008]本公开的实施例是基于开发人员对与现有技术相关的缺点的理解而开发的。
[0009]本公开提供了一种隐私保护推理(PPI)环境，PPI环境被配置为保存与用户、组织、机构等相关联的敏感信息，敏感信息可以被保存在客户端侧，同时与经过训练的机器学习/神经网络模型相关联的操作参数可以被保存在服务器侧，而不依赖于可能使相关联的硬件组件和软件处理资源紧张的公钥加密操作。
[0010]根据本公开的第一广义方面，提供了一种用于隐私保护推理(PPI)的方法，在服务器上实现，该方法包括：从客户端设备接收第一矩阵信息集合，第一矩阵信息集合包括k
c
‑
1个种子和矩阵其中，k
c
是整数值；通过使用k
c
‑
1个种子操作与服务器相关联的第一密码学安全伪随机数生成器(CSPRNG)来生成k
c
‑
1个矩阵，并将k
c
‑
1个矩阵和矩阵表示为k
c
个
矩阵的集合，其中，矩阵是k
c
个矩阵的集合中的第k
c
个矩阵；根据k
c
个矩阵的集合中的矩阵中的每一个矩阵计算推理，并将推理表示为具有第一维度的推理矩阵Y；生成矩阵S
s
，矩阵S
s
包括k
s
个随机系数，其中，k
s
是整数值；生成k
s
‑
1个随机矩阵，每个随机矩阵具有与推理矩阵Y的维度相同的维度；根据推理矩阵Y、矩阵S
s
和k
s
‑
1个随机矩阵计算矩阵并将k
s
‑
1个随机矩阵和矩阵表示为k
s
个矩阵的集合；向客户端设备发送第二矩阵信息集合，第二矩阵信息集合包括对应于k
s
‑
1个随机矩阵的k
s
‑
1个种子和矩阵从客户端设备接收矩阵U；根据矩阵U计算推理值y。
[0011]根据本公开的其它方面，该方法，其中矩阵由客户端设备计算为：
[0012][0013]其中：
[0014]X是对应于由客户端设备选择的敏感信息的输入矩阵，
[0015]X
i
是由客户端设备生成的k
c
个矩阵的集合中的第i个矩阵，k
c
个矩阵的集合中的k
c
‑
1个矩阵是随机生成的，
[0016]s
ci
是矩阵S
c
中的第i个系数，包括k
c
个随机系数的矩阵S
c
由客户端设备生成，
[0017]是矩阵S
c
中的第k
c
个系数。
[0018]根据本公开的其它方面，该方法，其中k
c
‑
1个随机矩阵是通过使用k
c
‑
1个种子操作与客户端设备相关联的第二CSPRNG生成的。
[0019]根据本公开的其它方面，该方法，其中的值等于1。
[0020]根据本公开的其它方面，该方法，其中矩阵被计算为：
[0021][0022]其中：
[0023]Y
i
是k
s
个矩阵的集合中的第i个矩阵，
[0024]s
si
是矩阵S
s
中的第i个系数，
[0025]是矩阵S
s
中的第k
s
个系数。
[0026]根据本公开的其它方面，该方法，其中的值等于1。
[0027]根据本公开的其它方面，该方法，其中矩阵U的元素被计算为：
[0028]u
i＝
Y
iT
.S
c
[0029]其中：
[0030]u
i
是矩阵U的第i个元素，
[0031]Y
iT
是k
s
个矩阵的集合中第i个矩阵的转置。
[0032]根据本公开的其它方面，该方法，其中第k
s
个矩阵被计算为：
[0033][0034]其中：
[0035]Y
i
是k
s
个矩阵的集合中的第i个矩阵，
[0036]s
si
是矩阵S
s
中的第i个系数，
[0037]是矩阵S
s
中的第k
s
个系数。
[0038]根据本公开的其它方面，该方法，其中的值等于1。
[0039]根据本公开的其它方面，该方法，其中矩阵U的元素被计算为：
[0040]u
i
＝Y
iT
.S
c
[0041]其中：
[0042]u
i
是矩阵U的第i个元素，
[0043]Y
iT...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于隐私保护推理(PPI)的方法，在服务器上实现，所述方法包括：从客户端设备接收第一矩阵信息集合，所述第一矩阵信息集合包括k
c
–
1个种子和矩阵其中k
c
是整数值；通过使用k
c
–
1个种子，操作与所述服务器相关联的第一密码学安全伪随机数生成器(CSPRNG)，生成k
c
–
1个矩阵，并将所述k
c
–
1个矩阵和所述矩阵表示为k
c
个矩阵的集合，其中所述矩阵是所述k
c
个矩阵的集合中的第k
c
个矩阵；根据所述k
c
个矩阵的集合中的所述矩阵中的每一个矩阵计算推理，并将所述推理表示为具有第一维度的推理矩阵Y；生成矩阵S
s
，所述矩阵S
s
包括k
s
个随机系数，其中k
s
是整数值；生成k
s
–
1个随机矩阵，每个随机矩阵具有与所述推理矩阵Y的维度相同的维度；根据所述推理矩阵Y、所述矩阵S
s
和所述k
s
–
1个随机矩阵计算矩阵并将k
s
–
1个随机矩阵和所述矩阵表示为k
s
个矩阵的集合；向所述客户端设备发送第二矩阵信息集合，所述第二矩阵信息集合包括对应于所述k
s
–
1个随机矩阵的k
s
–
1个种子和所述矩阵从所述客户端设备接收矩阵U；以及根据所述矩阵U计算推理值y。2.根据权利要求1所述的方法，其中所述矩阵由所述客户端设备计算为：其中：X是对应于由所述客户端设备选择的敏感信息的输入矩阵，X
i
是由所述客户端设备生成的k
c
个矩阵的集合中的第i个矩阵，所述k
c
个矩阵的集合中的k
c
–
1个矩阵是随机生成的，s
ci
是矩阵S
c
中的第i个系数，包括k
c
个随机系数的所述矩阵S
c
由所述客户端设备生成，以及是所述矩阵S
c
中的第k
c
个系数。3.根据权利要求2所述的方法，其中所述k
c
–
1个随机矩阵是通过使用k
c
–
1个种子，操作与所述客户端设备相关联的第二CSPRNG生成的。4.根据权利要求2所述的方法，其中所述的值等于1。5.根据权利要求1至4中任一项所述的方法，其中所述矩阵被计算为：其中：Y
i
是k
s
个矩阵的集合中的第i个矩阵，s
si
是所述矩阵S
s
中的第i个系数，以及是所述矩阵S
s
中的第k
s
个系数。
6.根据权利要求5所述的方法，其中所述的值等于1。7.根据权利要求1至6中任一项所述的方法，其中所述矩阵U的元素被计算为：u
i
＝Y
iT
.S
c
其中：u
i
是所述矩阵U的第i个元素，以及Y
iT
是所述k
s
个矩阵的集合中第i个矩阵的转置。8.根据权利要求1至7中任一项所述的方法，其中所述推理值y被计算为：其中：u
i
是所述矩阵U的第i个元素，以及是所述矩阵S
s
中的第i个系数。9.根据权利要求1至8中任一项所述的方法，其中所述k
s
–
1个随机矩阵是通过使用k
s
–
1个种子，操作与所述服务器相关联的所述第一CSPRNG生成的。10.根据权利要求1至9中任一项所述的方法，其中所述服务器还被配置为用于根据所述推理值y得出特征。11.根据权利要求11所述的方法，其中所述服务器将所得出的所述特征发送到所述...

【专利技术属性】
技术研发人员：P，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：