使用可信执行环境的隐私性增强深度学习云服务制造技术

提供了用于实现隐私性增强的深度学习系统框架(以下称为“框架”)的机制。框架从客户端计算设备接收神经网络的加密的第一子网模型，其中第一子网模型是神经网络的多个分区中的一个分区。框架将加密的第一子网模型加载到框架的可信执行环境(TEE)中，在TEE中解密第一子网模型，并在TEE中执行第一子网模型。框架从客户端计算设备接收加密的输入数据，将加密的输入数据加载到TEE中，解密输入数据，并使用在TEE中执行的第一个子网模型处理TEE中的输入数据。

【技术实现步骤摘要】
【国外来华专利技术】使用可信执行环境的隐私性增强深度学习云服务
本申请总体上涉及改进的数据处理设备和方法，并且更具体地涉及用于通过利用可信执行环境来增强深度学习云服务中的数据隐私性的机制。深度学习系统由于在执行认知任务时具有接近人类性能的能力而已被广泛部署为人工智能(AI)服务的一部分。深度学习是一类机器学习技术，使用多层非线性处理单元的级联来进行特征提取和转换。每个连续的层都使用前一个输入层的输出。使用有监督的(例如，分类)和/或无监督的(例如，模式分析)学习机制来训练深度学习系统。可以关于对应于不同级别的抽象的多个级别的表示来执行学习，其中多个级别形成概念的层级。大多数现代深度学习模型都基于人工神经网络，尽管它们也可以包括在深度生成模型中分层组织的命题公式或潜在变量，例如深度信任网络(DeepBeliefNetworks)和深度波兹曼机器(DeepBoltzmannMachines)中的节点。在深度学习中，每个级别都学习将其输入数据转换为稍微抽象和复合的表示形式。例如，在面部图像识别应用中，原始输入可以是像素矩阵，其中第一表示层抽象像素并编码边缘，第二层组成并编码本文档来自技高网...

【技术保护点】
1.一种在包括至少一个处理器和至少一个存储器的数据处理系统中的方法，该至少一个存储器包括由该至少一个处理器执行以配置该至少一个处理器实施隐私性增强的深度学习系统框架的指令，该方法包括：/n由隐私性增强的深度学习系统框架从客户端计算设备接收神经网络的加密的第一子网模型，其中第一个子网模型是神经网络的多个分区中的一个分区；/n由隐私性增强的深度学习系统框架将加密的第一子网模型加载到隐私性增强的深度学习系统框架的可信执行环境中；/n由隐私性增强的深度学习系统框架在可信执行环境内解密第一子网模型，并在可信执行环境内执行第一子网模型；/n由隐私性增强的深度学习系统框架从客户端计算设备接收加密的输入数据；...

【技术特征摘要】
【国外来华专利技术】20180625 US 16/016,7521.一种在包括至少一个处理器和至少一个存储器的数据处理系统中的方法，该至少一个存储器包括由该至少一个处理器执行以配置该至少一个处理器实施隐私性增强的深度学习系统框架的指令，该方法包括：
由隐私性增强的深度学习系统框架从客户端计算设备接收神经网络的加密的第一子网模型，其中第一个子网模型是神经网络的多个分区中的一个分区；
由隐私性增强的深度学习系统框架将加密的第一子网模型加载到隐私性增强的深度学习系统框架的可信执行环境中；
由隐私性增强的深度学习系统框架在可信执行环境内解密第一子网模型，并在可信执行环境内执行第一子网模型；
由隐私性增强的深度学习系统框架从客户端计算设备接收加密的输入数据；
由隐私性增强的深度学习系统框架将加密的输入数据加载到可信执行环境中；以及
由隐私性增强的深度学习系统框架使用在可信执行环境中执行的第一子网模型在可信执行环境中解密和处理输入数据。


2.根据权利要求1所述的方法，其中神经网络至少被分区为第一子网模型和第二子网模型，其中第一子网模型是FrontNet子网模型，包括神经网络的输入层和神经网络模型的一个或多个中间层，并且其中第二子网模型是BackNet子网模型，包括神经网络的输出层和神经网络模型的一个或多个中间层。


3.根据权利要求2所述的方法，其中将指示要包含在FrontNet子网模型中的最后一个中间层的神经网络中的分区点选择为中间层，该中间层的中间表示输出不包含与神经网络输入相对应的敏感信息，并且其中神经网络的后续中间层和输出层包含在BackNet子网模型中。


4.根据权利要求2所述的方法，其中使用自动分区工具来自动分区神经网络，自动分区工具识别在神经网络中用于分区神经网络的最优分区点，其中最佳分区点识别用于分区神经网络的中间层。


5.根据权利要求1所述的方法，其中使用可信任执行环境中执行的第一子网模型在可信执行环境中对输入数据的处理生成一个或多个输入数据处理的中间表示，并且其中该方法还包括：
将一个或多个中间表示输入到神经网络的第二子网模型中；
处理一个或多个中间表示以生成结果数据；以及
输出结果数据。


6.根据权利要求5所述的方法，其中第二子网模型在可信执行环境之外执行。


7.根据权利要求5所述的方法，其中结果数据是表示在N个不同可能类别上的概率分布的N维实数值向量，并且其中该方法还包括：从N维实数值向量中选择具有相应概率值的前k个类别返回到客户端计算设备。


8.根据权利要求5所述的方法，其中将结果数据输出到深度学习系统以基于结果数据执行深度学习操作。


9.根据权利要求8所述的方法，其中深度学习操作是深度学习图像识别操作，输入数据是输入图像，并且结果数据是输入图像到多个预定类别之一中的分类。


10.根据权利要求1所述的方法，其中可信执行环境阻止从可信执行环境外部访问解密的第一子网模型和解密的输入数据。


11.一种计算机程序产品，包括其中存储有计算机可读程序的计算机可读存储介质，其中，当在数据处理系统上执行计算机可读程序时，计算机可读程序使数据处理系统实现隐私性增强的深度学习系统框架，该...

【专利技术属性】
技术研发人员：顾钟蔬，黄鹤清，张佳龙，苏东，D·彭达拉基斯，I·M·莫洛伊，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：美国;US