一种数据隐私保护方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:41768045 阅读:38 留言:0更新日期:2024-06-21 21:45
本申请涉及一种数据隐私保护方法、装置、计算机设备以及存储介质。所述方法包括:获取需要进行隐私保护的原始图像和目标图像;随机初始化保护性扰动,并将所述保护性扰动注入到原始图像中,生成受保护图像;分别计算图像‑文本对齐模型在所述受保护图像和目标图像上的归一化嵌入相似度;基于所述归一化嵌入相似度,利用梯度反向传播更新所述保护性扰动,将更新后的保护性扰动重新注入到原始图像中,生成优化的受保护图像。本申请实例通过向原始图像注入保护性扰动,并通过图像‑文本对齐模型来优化保护性扰动,以实现有效的针对扩散模型的隐私保护,降低了对图像生成工具恶意使用的隐私泄露的风险。

【技术实现步骤摘要】

本申请属于人工智能,特别涉及一种数据隐私保护方法、装置、计算机设备以及存储介质。


技术介绍

1、随着大模型时代的到来,图像生成模型因其强大的高质量图像生成能力逐渐在人工智能应用中变得流行,文本到图像生成工具已成为备受关注的研究热点。通过向诸如stable diffusion或midjourney等扩散模型提供简单的文本提示,能够轻松生成高分辨率的逼真图像。如今,各种定制图像生成微调方法的出现进一步提升了图像生成的能力,恶意使用者通过用户的少量隐私图像微调预训练的扩散模型,结合自定义的文本生成有关用户的不真实图像。然而,这种强大工具的滥用可能带来严重的隐私担忧。恶意使用者可以通过收集目标用户的几张图像,生成该目标用户的“虚假”主题图像,不仅侵犯了用户的隐私,而且利用该工具还可以实现传播虚假信息、敲诈勒索、引发社会恐慌等更为恶劣的违法行为。

2、为了降低对该类图像生成工具的安全顾虑,相关研究人员提出通过向数据中注入不可察觉的保护性扰动,在不影响原始数据的情形下,使得该数据特征无法被图像生成模型提取用于生成自定义图像。现有的关于人工智能应用的隐私保护本文档来自技高网...

【技术保护点】

1.一种数据隐私保护方法,其特征在于,包括:

2.根据权利要求1所述的数据隐私保护方法,其特征在于,所述获取需要进行隐私保护的原始图像和目标图像之前,还包括:

3.根据权利要求1所述的数据隐私保护方法,其特征在于,所述获取需要进行隐私保护的原始图像和目标图像之后,还包括:

4.根据权利要求1至3任一项所述的数据隐私保护方法,其特征在于,所述随机初始化保护性扰动,将所述保护性扰动注入到原始图像中,生成受保护图像,具体为:

5.根据权利要求4所述的数据隐私保护方法,其特征在于,所述利用Dreambooth模型对所述文本图像生成器θ*进行微调,具...

【技术特征摘要】

1.一种数据隐私保护方法,其特征在于,包括:

2.根据权利要求1所述的数据隐私保护方法,其特征在于,所述获取需要进行隐私保护的原始图像和目标图像之前,还包括:

3.根据权利要求1所述的数据隐私保护方法,其特征在于,所述获取需要进行隐私保护的原始图像和目标图像之后,还包括:

4.根据权利要求1至3任一项所述的数据隐私保护方法,其特征在于,所述随机初始化保护性扰动,将所述保护性扰动注入到原始图像中,生成受保护图像,具体为:

5.根据权利要求4所述的数据隐私保护方法,其特征在于,所述利用dreambooth模型对所述文本图像生成器θ*进...

【专利技术属性】
技术研发人员:秦天睿高希彤赵娟娟叶可江须成忠
申请(专利权)人:中国科学院深圳先进技术研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1