【技术实现步骤摘要】
本专利技术提供一种在端侧设备推理场景中transformer模型的隐私保护方法，具体涉及一种利用可信执行环境的高效混淆算法，属于人工智能与计算机网络安全领域。
技术介绍
1、伴随着深度神经网络和大语言模型的快速发展，端侧机器学习成为了很多企业和平台提供服务的优选。具体而言，网络模型的训练仍然在具有更强算力的远程平台中完成，在训练完成后，模型将会被部署在边缘设备上，推理的过程将会在用户端进行。在端侧机器学习的场景下，个人数据被保留在边缘设备上，省去了频繁数据传送造成的开销。训练好的模型被一次性部署在用户端，用户可以自由选择使用模型的时间和频率，从根本上解决了云端推理中用户隐私暴露和延迟等候的问题。
2、然而，端侧机器学习带来了模型隐私安全问题：由于模型最终在边缘设备部署和推理，因此用户方可以获知模型的完整信息，这使得模型窃取攻击等攻击方式的成功率大幅上升，从而对模型提供方造成严重的损失。为了解决隐私安全问题，基于可信执行环境的模型切片分离技术是一种常见的方法，即将模型进行分离，将计算密集的部分在混淆后部署在gpu中，将剩余的部...
【技术保护点】
1.一种在端侧设备推理场景中Transformer模型的隐私保护方法，其特征在于，具体包括如下步骤：
2.如权利要求1所述的在端侧设备推理场景中Transformer模型的隐私保护方法，其特征在于，步骤A中服务提供方获得包含隐私信息的隐私网络模型，具体为，服务提供方从公共平台下载一个公开预训练模型并使用某领域数据集对公开预训练模型进行微调，微调后的模型包含服务提供方的隐私信息。
3.如权利要求1所述的在端侧设备推理场景中Transformer模型的隐私保护方法，其特征在于，步骤A中服务提供方对模型进行切片分离，具体为，将网络模型划分成计算密集的...
【技术特征摘要】
1.一种在端侧设备推理场景中transformer模型的隐私保护方法，其特征在于，具体包括如下步骤：
2.如权利要求1所述的在端侧设备推理场景中transformer模型的隐私保护方法，其特征在于，步骤a中服务提供方获得包含隐私信息的隐私网络模型，具体为，服务提供方从公共平台下载一个公开预训练模型并使用某领域数据集对公开预训练模型进行微调，微调后的模型包含服务提供方的隐私信息。
3.如权利要求1所述的在端侧设备推理场景中transformer模型的...
【专利技术属性】
技术研发人员：王鹏力，张子祺，李锭，郭耀，陈向群，
申请(专利权)人：北京大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。