模型漏洞检测方法、检测装置、电子设备及存储介质制造方法及图纸

本申请公开了一种模型漏洞检测方法、检测装置、电子设备及存储介质。模型漏洞检测方法包括：获取随机生成的图像数据和标签数据并据此计算云端模型的模型梯度；获取客户端模型的第一模型参数和第二模型参数，并结合模型梯度计算损失函数值；更新图像数据和标签数据直至得到最小损失函数值，并获取与之对应的目标图像数据和目标标签数据；根据目标图像数据、目标标签数据和原始训练数据检测模型漏洞，其中，第一模型参数为客户端模型在第一时间点的模型参数，第二模型参数为客户端模型在第二时间点的模型参数。通过两个时间点的客户端模型参数获得目标数据，从而可以快速地检测模型算法中存在的数据泄漏漏洞，实用性更高。实用性更高。实用性更高。

【技术实现步骤摘要】
模型漏洞检测方法、检测装置、电子设备及存储介质


[0001]本申请涉及机器学习
，尤其是涉及一种模型漏洞检测方法、检测装置、电子设备及存储介质。

技术介绍

[0002]分布式机器学习也称为分布式学习，是指利用多个计算节点进行机器学习或者深度学习的算法和系统，旨在提高性能、保护隐私，并可扩展至更大规模的训练数据和更大的模型。
[0003]在分布式机器学习中，现有的模型漏洞检测方法通常需要较多的客户端数据(如模型梯度、模型参数、损失函数、优化器和学习率等超参数)，检测过程较为繁琐，在应用于发现模型的数据泄漏漏洞的情境中实用性较差。

技术实现思路

[0004]本申请旨在至少解决现有技术中存在的技术问题之一。为此，本申请提出一种模型漏洞检测方法，能够通过两个时间点的客户端模型参数获得目标数据，从而可以快速地检测模型算法中存在的数据泄漏漏洞，实用性更高。
[0005]本申请还提出应用于上述模型漏洞检测方法的一种模型漏洞检测装置、一种电子设备及一种存储介质。
[0006]根据本申请的第一方面实施例的模型漏洞检测本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.模型漏洞检测方法，其特征在于，包括：获取随机生成的图像数据和标签数据；根据所述图像数据和所述标签数据计算云端模型的模型梯度；获取客户端模型的第一模型参数和第二模型参数；其中，所述第一模型参数为所述客户端模型在第一时间点的模型参数，所述第二模型参数为所述客户端模型在第二时间点的模型参数；根据所述模型梯度、所述第一模型参数和所述第二模型参数计算损失函数值；更新所述图像数据和所述标签数据，直至得到最小损失函数值；获取与所述最小损失函数值对应的目标图像数据和目标标签数据；根据所述目标图像数据、所述目标标签数据、原始图像数据和原始标签数据检测所述客户端模型是否存在模型漏洞。2.根据权利要求1所述的模型漏洞检测方法，其特征在于，所述根据所述模型梯度、所述第一模型参数和所述第二模型参数计算损失函数值的步骤，包括：根据所述模型梯度得到第一比值；根据所述第一模型参数和所述第二模型参数得到第二比值；根据所述第一比值和所述第二比值得到所述损失函数值。3.根据权利要求2所述的模型漏洞检测方法，其特征在于，所述根据所述模型梯度得到第一比值的步骤，包括：计算所述模型梯度的范数，得到第一范数值；计算所述模型梯度与所述第一范数值的比值，得到所述第一比值。4.根据权利要求2所述的模型漏洞检测方法，其特征在于，所述根据所述第一模型参数和所述第二模型参数得到第二比值的步骤，包括：计算所述第一模型参数与所述第二模型参数的差，得到第一差值；计算所述第一差值的范数，得到第二范数值；计算所述第一差值与所述第二范数值的比值，得到所述第二比值。5.根据权利要求2所述的模型漏洞检测方法，其特征在于，所述根据所述第一比值和所述第二比值得到所述损失函数值的步骤，包括：计算所述第一比值与所述第二比值的差，得到第二差值；计算所述第二差值的范数，得到第三范数值；计算所述第三范数值的平方，得到所述损失函数值。6.根据权利要求1所述的模型漏洞检测方法，其特征在于，所述更新所述图像数据和所述标签数据，直至得到最小损失函数值的步骤，包括：根据梯度下降法更新所述图像数据和所述标签...

【专利技术属性】
技术研发人员：丁文伯，赵子号，罗蒙恩，黄绍伦，
申请(专利权)人：清华大学深圳国际研究生院，
类型：发明
国别省市：