【技术实现步骤摘要】
本专利技术涉及深度学习领域，特别是涉及一种深度神经网络中个体偏见样本的生成方法和装置。
技术介绍
1、深度神经网络(deep neural network，简写为dnn)模型逐渐被广泛应用，包括欺诈检测、面部识别、自动驾驶和医学诊断等。虽然dnn模型在许多应用中表现出了惊人的性能，但其可靠性仍然令人担忧。对于具有社会影响的应用，dnn模型的一个可检测属性是公平性(即非歧视性)。由于在训练数据中经常存在社会偏见，所得到的dnn模型可能会在无意中引入偏见，因此，需要通过生产个体偏见样本对dnn模型进行训练，使得dnn模型能够完成偏见检测。
2、现有的偏见样本生成方法中，为了尽可能的在全局检测出个体偏见样本的多样性，需要对原始数据集中的样本进行聚类，通常使用k-means算法。该算法的优点在于其简单易实现和高效性，但在实际应用中，它对初始聚类中心的选择非常敏感，且对异常值和噪声敏感，难以发现大小差别很大的簇及进行增量计算。另一些偏见样本生成方法中，在检测过程中引入梯度的指导，基于梯度的指导同时使用动量优化算法，生成偏见样本的有效性...
【技术保护点】
1.一种深度神经网络中个体偏见样本的生成方法，其特征在于，包括：
2.根据权利要求1所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述在数据集的不同区域选择聚类中心，具体包括：
3.根据权利要求2所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述根据数据集中不同样本之间的距离，在样本中选择指定数量的候选聚类中心，具体包括：
4.根据权利要求1所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述根据样本的全局保护属性，判定聚类结果中的样本是否为偏见样本，具体包括：
5.根据权利要求1所述的深度神...
【技术特征摘要】
1.一种深度神经网络中个体偏见样本的生成方法，其特征在于，包括：
2.根据权利要求1所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述在数据集的不同区域选择聚类中心，具体包括：
3.根据权利要求2所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述根据数据集中不同样本之间的距离，在样本中选择指定数量的候选聚类中心，具体包括：
4.根据权利要求1所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述根据样本的全局保护属性，判定聚类结果中的样本是否为偏见样本，具体包括：
5.根据权利要求1所述的深度神经网络中个体偏见样本的生成方法，其特征在于，所述将判定结果为否的样本进行全局扰动，具体包括：
6.根据权利要求5所述的深度神经网络中个体偏...
【专利技术属性】
技术研发人员：张剑，程政哲，
申请(专利权)人：中国船舶集团有限公司第七〇九研究所，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。