【技术实现步骤摘要】
以下描述涉及一种具有对抗数据增强的方法和电子装置。
技术介绍
1、在使用神经网络的机器学习模型(诸如，图像分类模型、语音识别模型等)中，真实世界数据集可能包含意外的偏置，并且因此，图像分类模型、语音识别模型等可能在训练处理期间学习偏置决策规则。
技术实现思路
1、提供本
技术实现思路
以简化的形式介绍在下面的具体实施方式中进一步描述的构思的选择。本
技术实现思路
不意在确定要求保护的主题的关键特征或必要特征，也不意在用于帮助确定要求保护的主题的范围。
2、在一个总体方面中，一种电子装置包括：处理器，被配置为执行指令；以及存储器，存储所述指令，其中，由处理器执行所述指令将处理器配置为：基于原始数据内的偏置特征，使用与原始数据相关的偏置训练数据来训练偏置模型，以生成偏置预测信息；使用与原始数据和第一对抗数据相关的去偏训练数据来训练去偏模型以生成去偏预测信息，与偏置训练数据相比，去偏训练数据针对所述偏置特征更少地偏置；并使用基于偏置模型和去偏模型生成的第二对抗数据来重新训练去偏模型。
3、处理器可被配置为：基于使用与第一对抗数据相关的训练数据的去偏模型的第一损失和使用与第一对抗数据相关的训练数据的偏置模型的第二损失来生成第二对抗数据，并且其中，第一对抗数据可不包括所述偏置特征。
4、处理器可被配置为：增大用于原始数据之中的具有高预测置信度的数据的训练权重；并使用增大后的训练权重来执行偏置模型的训练。
5、处理器可被配置为：将原始数据正则化，使得原始
6、处理器可被配置为：确定原始数据的第一权重；确定与第一权重对应的第一对抗数据的第二权重；并使用第一权重和第二权重来执行去偏模型的训练。
7、在另一总体方面中，一种处理器实现的方法包括：基于原始数据内的偏置特征，使用与原始数据相关的偏置训练数据来训练偏置模型以生成偏置预测信息；使用与原始数据和第一对抗数据相关的去偏训练数据来训练去偏模型以生成去偏预测信息，与偏置训练数据相比，去偏训练数据针对所述偏置特征更少地偏置；并且使用基于偏置模型和去偏模型生成的第二对抗数据来重新训练去偏模型。
8、对抗数据可包括：基于使用与第一对抗数据相关的训练数据的去偏模型的第一损失和使用与第一对抗数据相关的训练数据的偏置模型的第二损失来生成第二对抗数据，并且其中，第一对抗数据可不包括所述偏置特征。
9、训练偏置模型的步骤可包括：增大用于原始数据之中的具有高预测置信度的数据的训练权重；并使用增大后的训练权重来执行偏置模型的训练。
10、训练偏置模型的步骤可包括：将原始数据正则化，使得原始数据的相同类别的数据被设置在特征空间中的单个分布内。
11、训练去偏模型的步骤可包括：确定原始数据的第一权重；确定与第一权重对应的第一对抗数据的第二权重；并使用第一权重和第二权重来执行去偏模型的训练。
12、在另一总体方面中，一种处理器实现的方法包括：放大原始数据的偏置；训练偏置模型以准确地预测具有放大后的偏置的原始数据的类别；训练去偏模型以生成关于原始数据和第一对抗数据的各自的类别的去偏预测信息；并基于第二对抗数据来重新训练去偏模型，第二对抗数据被生成使得通过偏置模型针对偏置模型的与第一对抗数据相关的输入预测的类别与第一对抗数据的类别不同，并且通过去偏模型针对去偏模型的与第一对抗数据相关的输入预测的类别与第一对抗数据的类别相同。
13、生成对抗数据的步骤可包括：基于使用与第一对抗数据相关的训练数据的去偏模型的第一损失和使用与第一对抗数据相关的训练数据的偏置模型的第二损失来生成第二对抗数据。
14、放大偏置的步骤可包括：增大用于原始数据之中的具有高预测置信度的数据的训练权重，并且其中，训练偏置模型的步骤包括使用增大后的训练权重来训练偏置模型。
15、放大偏置的步骤可包括：将原始数据正则化，使得原始数据的相同类别的数据被设置在特征空间中的单个分布内。
16、训练去偏模型的步骤可包括：确定原始数据的第一权重；确定与第一权重对应的第一对抗数据的第二权重；并且使用第一权重和第二权重来执行去偏模型的训练。
17、处理器还可被配置为：放大原始数据的偏置以生成偏置训练数据。
18、处理器可被配置为：获得当第一对抗数据被输入到偏置模型和去偏模型时获得的偏置预测信息和去偏预测信息。
19、处理器可被配置为训练去偏模型，以通过使用决策边界对不准确地分类在特征空间外的数据进行解析，来更准确地预测原始数据的类别。
20、处理器可被配置为训练去偏模型，以通过使用两个决策边界对不准确地分类在特征空间内的数据进行划分，来更准确地预测原始数据的类别。
21、所述方法还包括：放大原始数据的偏置以生成偏置训练数据。
22、在另一总体方面中，一种电子装置包括：处理器，被配置为：使用与原始数据相关的偏置训练数据来训练偏置模型，使用与原始数据相关的去偏训练数据来训练去偏模型，其中，训练去偏模型的步骤包括：使用训练后的偏置模型和i-1次训练后的去偏模型生成第i对抗数据，使用去偏训练数据和第i对抗数据来训练i-1次训练后的去偏模型，其中，i是大于1的整数，其中，去偏训练数据的偏置特征指示的偏置程度小于偏置训练数据的偏置特征指示的偏置程度，其中，原始数据包括图像数据或语音数据。
23、第i对抗数据可不包括偏置特征。
24、在另一总体方面中，一种训练方法包括：使用与原始数据相关的偏置训练数据来训练偏置模型，使用与原始数据相关的去偏训练数据来训练去偏模型，其中，训练去偏模型的步骤包括：使用训练后的偏置模型和i-1次训练后的去偏模型生成第i对抗数据，使用去偏训练数据和第i对抗数据来训练i-1次训练后的去偏模型，其中，i是大于1的整数，其中，去偏训练数据的偏置特征指示的偏置程度小于偏置训练数据的偏置特征指示的偏置程度，其中，原始数据包括图像数据或语音数据。
25、从以下具体实施方式、附图和权利要求，其他特征和方面将变得清楚。
本文档来自技高网...【技术保护点】
1.一种电子装置，包括：
2.根据权利要求1所述的电子装置，其中，处理器被配置为：
3.根据权利要求1所述的电子装置，其中，处理器被配置为：
4.根据权利要求1所述的电子装置，其中，处理器被配置为：
5.根据权利要求1所述的电子装置，其中，处理器被配置为：
6.根据权利要求1所述的电子装置，其中，处理器还被配置为：放大原始数据的所述偏置特征以生成偏置训练数据。
7.根据权利要求1所述的电子装置，其中，处理器被配置为：获得当第一对抗数据被输入到偏置模型和去偏模型时获得的偏置预测信息和去偏预测信息。
8.根据权利要求4所述的电子装置，其中，处理器被配置为训练去偏模型，以通过使用决策边界对不准确地分类在特征空间内或者在特征空间外的数据进行解析，来更准确地预测原始数据的类别。
9.根据权利要求4所述的电子装置，其中，处理器被配置为训练去偏模型，以通过使用两个决策边界对不准确地分类在特征空间内或者在特征空间外的数据进行划分，来更准确地预测原始数据的类别和第一对抗数据的类别。
10.一
11.根据权利要求10所述的方法，其中，生成第二对抗数据的步骤包括：
12.根据权利要求10所述的方法，其中，训练偏置模型的步骤包括：
13.根据权利要求10所述的方法，其中，训练偏置模型的步骤包括：
14.根据权利要求10所述的方法，其中，训练去偏模型的步骤包括：
15.根据权利要求10所述的方法，还包括：放大原始数据的所述偏置特征以生成偏置训练数据。
16.一种训练方法，包括：
17.根据权利要求16所述的方法，其中，生成第二对抗数据的步骤包括：
18.根据权利要求16所述的方法，
19.根据权利要求16所述的方法，其中，训练偏置模型的步骤包括：
20.根据权利要求16所述的方法，其中，训练去偏模型的步骤包括：
21.一种电子装置，包括：
22.根据权利要求21所述的电子装置，其中，第i对抗数据不包括偏置特征。
23.一种训练方法，包括：
...【技术特征摘要】
1.一种电子装置，包括：
2.根据权利要求1所述的电子装置，其中，处理器被配置为：
3.根据权利要求1所述的电子装置，其中，处理器被配置为：
4.根据权利要求1所述的电子装置，其中，处理器被配置为：
5.根据权利要求1所述的电子装置，其中，处理器被配置为：
6.根据权利要求1所述的电子装置，其中，处理器还被配置为：放大原始数据的所述偏置特征以生成偏置训练数据。
7.根据权利要求1所述的电子装置，其中，处理器被配置为：获得当第一对抗数据被输入到偏置模型和去偏模型时获得的偏置预测信息和去偏预测信息。
8.根据权利要求4所述的电子装置，其中，处理器被配置为训练去偏模型，以通过使用决策边界对不准确地分类在特征空间内或者在特征空间外的数据进行解析，来更准确地预测原始数据的类别。
9.根据权利要求4所述的电子装置，其中，处理器被配置为训练去偏模型，以通过使用两个决策边界对不准确地分类在特征空间内或者在特征空间外的数据进行划分，来更准确地预测原始数据的类别和第一对抗数...
【专利技术属性】
技术研发人员：林锺仁，金炳在，金英东，韩承周，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。