【技术实现步骤摘要】
本专利技术涉及机器学习领域，更具体地说，涉及一种应用于黑盒模型的测试时集成方法、介质及设备。
技术介绍
1、机器学习方法通过引入更多的训练数据和更大的模型取得了显著进展，这在包括自然语言处理和计算机视觉等应用中取得了令人瞩目的成果。然而，数据驱动的学习也面临着诸多挑战，包括但不限于高能耗、伦理考虑、隐私问题。隐私问题是当前机器学习的主要问题之一，因机器学习的流程可能容易受到各种隐私攻击。这些问题由于政府法规以及个人用户意识的增强而变得更加突出，法律条例如欧洲通用数据保护条例、美国数据隐私与保护法以及中国个人信息保护法在近年逐步推出。
2、隐私威胁取决于攻击的目标主要有两种类型：数据隐私和模型隐私。数据级隐私威胁关注发布数据中的信息，包括原始数据、身份和统计属性。模型级隐私涉及专有机器学习模型，这也可能成为攻击目标。在这种情况下，攻击者寻求提取如模型结构、参数、训练算法和训练数据等私有信息。例如，成员推理攻击可能确定是否使用特定样本训练了模型，模型逆向攻击可能恢复关于训练数据的敏感信息，知识蒸馏攻击可能逆向工程模型以生成替代模
3本文档来自技高网...
【技术保护点】
1.一种应用于黑盒模型的测试时集成方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的应用于黑盒模型的测试时集成方法，其特征在于，步骤S1具体包括：获取黑盒模型和无标注测试数据，所述无标注测试数据包括社交媒体文本；根据所述无标注测试数据，利用所述黑盒模型，得到每个黑盒模型的预测结果，如公式：
3.根据权利要求1所述的应用于黑盒模型的测试时集成方法，其特征在于，步骤S2具体包括：根据所述无标注测试数据，得到K分类任务，将所述K分类任务转化为K个二分类任务，如公式：
4.根据权利要求1所述的应用于黑盒模型的测试时集成方法，其特征在...
【技术特征摘要】
1.一种应用于黑盒模型的测试时集成方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的应用于黑盒模型的测试时集成方法，其特征在于，步骤s1具体包括：获取黑盒模型和无标注测试数据，所述无标注测试数据包括社交媒体文本；根据所述无标注测试数据，利用所述黑盒模型，得到每个黑盒模型的预测结果，如公式：
3.根据权利要求1所述的应用于黑盒模型的测试时集成方法，其特征在于，步骤s2具体包括：根据所述无标注测试数据，得到k分类任务，将所述k分类任务转化为k个二分类任务，如公式：
4.根据权利要求1所述的应用于黑盒模型的测试时集成方法，其特征在于，步骤s3具体包括：根据所述每个黑盒模型的预测结果和二分类任务，得到总体协方差矩阵，如公式：
<...【专利技术属性】
技术研发人员：伍冬睿，李思扬，王紫薇，
申请(专利权)人：深圳华中科技大学研究院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。