隐私保护机器学习制造技术

描述了一种多方隐私保护机器学习系统，其具有包括至少一个受保护的存储器区域的可信执行环境。在系统处的代码加载器将从多方中的至少一方接收的机器学习代码加载到受保护的存储器区域中。数据上传器将从多方中的至少一方接收的机密数据上传到受保护的存储器区域。可信执行环境使用至少一个数据不经意程序来执行机器学习代码以处理机密数据并且将结果返回给多方中的至少一方，其中数据不经意程序是其中任何的存储器访问的模式、磁盘访问的模式和网络访问的模式使得无法从模式预测机密数据的过程。

Privacy Protection Machine Learning

This paper describes a multi-party privacy preserving machine learning system with a trusted execution environment including at least one protected memory area. The code loader at the system loads machine learning code received from at least one of the parties into the protected memory area. The data uploader uploads confidential data received from at least one of the parties to the protected storage area. Trusted execution environments use at least one data oblivious program to execute machine learning code to process confidential data and return the results to at least one of the parties, where data oblivious program is the process of predicting confidential data from the mode because of any memory access mode, disk access mode and network access mode.

【技术实现步骤摘要】
【国外来华专利技术】隐私保护机器学习
技术介绍
在使用第三方云计算系统以在大量数据上执行机器学习代码的情况下，存在重大的安全和隐私问题。在云中使用第三方计算系统为用户提供了灵活性，因为他们可以在需要时为计算资源付费。然而，用户对云计算系统内的基础设施缺乏控制确实导致安全和/或隐私问题。特别地，用户可能希望维持由代码处理的数据以及机器学习的输出的机密性和完整性。然而，目前，恶意的系统管理员或云计算系统的其他恶意观察者能够观察存储器访问的模式、磁盘访问的模式和网络访问的模式，并且使用这些观察来找到关于机密数据的细节。下面描述的实施例不限于解决已知的隐私保护系统的任何或所有缺点的实施方式。
技术实现思路
以下呈现了本公开的简化
技术实现思路
，以便为读者提供基本的理解。本
技术实现思路
不旨在标识所要求保护的主题内容的关键特征或必要特征，也不旨在用于限制所要求保护的主题内容的范围。其唯一目的是以简化形式呈现本文中所公开的一些概念，作为稍后呈现的更详细的描述的序言。描述了一种多方隐私保护机器学习系统，其具有包括至少一个受保护的存储器区域的可信执行环境。在系统处的代码加载器将从多方中的至少一方接收的机器学习代码加载到受保护的存储器本文档来自技高网...

【技术保护点】
1.一种多方隐私保护机器学习系统，包括：可信执行环境，包括至少一个受保护的存储器区域；代码加载器，将从所述多方中的至少一方接收的机器学习代码加载到所述受保护的存储器区域中；和数据上传器，将从所述多方中的至少一方接收的机密数据上传到所述受保护的存储器区域；其中所述可信执行环境使用数据不经意程序来执行所述机器学习代码以处理所述机密数据并且将结果返回给所述多方中的至少一方，其中数据不经意程序是其中任何的存储器访问的模式、磁盘访问的模式和网络访问的模式使得无法从所述模式预测所述机密数据的过程。

【技术特征摘要】
【国外来华专利技术】2016.06.22 GB 1610883.9;2016.08.23 US 15/245,1411.一种多方隐私保护机器学习系统，包括：可信执行环境，包括至少一个受保护的存储器区域；代码加载器，将从所述多方中的至少一方接收的机器学习代码加载到所述受保护的存储器区域中；和数据上传器，将从所述多方中的至少一方接收的机密数据上传到所述受保护的存储器区域；其中所述可信执行环境使用数据不经意程序来执行所述机器学习代码以处理所述机密数据并且将结果返回给所述多方中的至少一方，其中数据不经意程序是其中任何的存储器访问的模式、磁盘访问的模式和网络访问的模式使得无法从所述模式预测所述机密数据的过程。2.根据权利要求1所述的多方隐私保护机器学习系统，其中所述可信执行环境执行所述机器学习代码以或者训练机器学习系统，或者使用已经训练过的机器学习系统来生成预测。3.根据权利要求1或2所述的多方隐私保护机器学习系统，其中所述可信执行环境使用不经意随机存取存储器以访问所述机密数据来实施所述数据不经意程序，并且其中所述机器学习代码适于使用所述不经意随机存取存储器。4.根据权利要求1或2所述的多方隐私保护机器学习系统，其中所述可信执行环境使用数据不经意的机器学习代码来实施所述数据不经意程序。5.根据权利要求1、2和4中任一项所述的多方隐私保护机器学习系统，其中所述可信执行环境使用一个或多个数据不经意原语的组合来实施所述数据不经意程序，所述数据不经意原语中的至少一个数据不经意原语是通过以高速缓存行粒度而不是以元素粒度或字节粒度扫描阵列来访问所述阵列的操作。例如，通过使用向量指令。6.根据权利要求5所述的多方隐私保护机器学习系统，其中使用向量操作来实施以高速缓存行粒度进行的所述阵列的所述扫描。7.根据前述权利要求中任一项所述的多方隐私保护机器学习系统，其中所接收的所述数据包括被标记的训练数据...

【专利技术属性】
技术研发人员：M·S·d·S·科斯塔，C·A·M·C·福奈特，A·梅塔，S·诺沃津恩，O·奥里蒙科，F·舒斯特，K·瓦斯瓦尼，
申请(专利权)人：微软技术许可有限责任公司，
类型：发明
国别省市：美国,US