一种基于制造技术

本发明专利技术公开了一种基于

【技术实现步骤摘要】
一种基于GPU的多方机器学习安全推理流水线方法及系统


[0001]本专利技术涉及机器学习推理
，具体为一种基于
GPU
的多方机器学习安全推理流水线方法
。

技术介绍

[0002]多方计算
(MPC)
作为一种安全计算模型，尤其是机器学习
(ML)
推理模型，在过去几年中得到了越来越广泛的应用
。
与竞争对手相比，
MPC
的开销要少于同态加密
(HE)
，而且比基于硬件的可信执行环境
(TEE)(
如英特尔新交所
)
具有更强大的威胁模型
。
尽管
MPC
协议具有明显的优势，但与明文相比，
MPC
协议在应用于机器学习算法时仍然付出了巨大的性能代价
。
开销是由于增加的计算和通信成本
。
对于机器学习算法中普遍存在的乘法运算，
MPC
协议增加了几十倍的计算成本和
MPC
>服务器之间的一轮广本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种基于
GPU
的多方机器学习安全推理流水线方法，包括
MPC
客户端
、MPC
服务器
、
搭建完成的机器学习模型，所述机器学习模型包括线性层和非线性层，线性层和非线性层均采用管道设计，
MPC
服务器即进行
MPC
计算的
GPU
服务器，其特征在于：所述方法具体步骤如下：步骤
S1、
获取机器学习模型输入数据的维度和每层线性层的权重，为生成三元组做准备；步骤
S2、
测量机器学习模型内部层级流水线停止产生加速的阈值，确定内部层级流水线加速阈值；步骤
S3、MPC
客户端将操作数和步骤
S1
获取的总机器学习模型权重参数以秘密分享的形式分发给每台
MPC
服务器；步骤
S4、
每台
MPC
服务器使用
MPC
管道进行机器学习模型进行线性任务推理和非线性任务推理，并使用
GPU
服务器完成计算任务，线性任务推理过程中通过权重参数和输入的维度信息生成三元组，非线性任务推理过程中通过步骤
S2
测量阈值判断输入的数据是否满足进行内部流水线操作；步骤
S5、
每台
MPC
服务器
MPC
服务器将机器学习模型推理的结果发送到
MPC
客户端客户端进行数据合并得到最终的推理结果
。2.
根据权利要求1所述的一种基于
GPU
的多方机器学习安全推理流水线方法，其特征在于：所述步骤
S1
具体操作如下：向机器学习模型输入运行数据，运行数据通过线性层前向传播计算出预测值，计算机器学习模型的损失函数，并通过反向传播计算梯度，更新机器学习模型，
MPC
管道捕获输入数据的维度和每层线性层的权重
。3.
根据权利要求1所述的一种基于
GPU
的多方机器学习安全推理流水线方法，其特征在于：所述步骤
S2
具体操作如下：在机器学习模型中的非线性层级中使用不同的输入维度进行运行，将最大输入维度和最小输入维度作为阈值，通过阈值判断输入数据是否符合进行内部流水线操作的条件
。4.
根据权利要求1所述的一种基于
GPU
的多方机器学习安全推理流水线方法，其特征在于：所述步骤
S3
具体操作如下：
MPC
客户端将待计算的数据和总机器学习模型权重参数分成若干份额，每一个份额会通过秘密份额的形式发送给的
MPC
服务器
。5.
根据权利要求1所述的一种基于
GPU
的多方机器学习安全推理流水线方法，其特征在于：所述步骤
S4
中机器学习模型推理分为线性任务推理和非线性任务推理，线性任务推理在计算每层结果的同时对下一层和其他的
MPC
服务器进行广播，非线性任务推理利用安全多方计算协议中已经优化的线性计算方法来代...

【专利技术属性】
技术研发人员：张峰，石建，葛欣，董建阔，蒋辉军，韩朝阳，
申请(专利权)人：杭州量安科技有限公司，
类型：发明
国别省市：