数据生成方法、模型性能评估方法、装置、设备和介质制造方法及图纸

本发明专利技术实施例公开了一种数据生成方法、模型性能评估方法、装置、设备和介质，数据生成方法包括：获取随机噪声样本数据；将随机噪声样本数据输入至目标生成对抗网络中的目标数据生成模型中，目标数据生成模型是预先基于预设敏感属性对应的预设偏见程度、目标生成对抗网络中的数据判别模型和数据处理模型进行训练获得的；根据目标生成模型的输出，确定对预设敏感属性具有预设偏见程度的目标合成样本数据。通过本发明专利技术实施例的技术方案，可以快速生成对任意受保护的敏感属性具有任意偏见程度的样本数据，进而可以准确全面地评估模型性能。能。能。

【技术实现步骤摘要】
数据生成方法、模型性能评估方法、装置、设备和介质


[0001]本专利技术实施例涉及可信人工智能
，尤其涉及一种数据生成方法、模型性能评估方法、装置、设备和介质。

技术介绍

[0002]随着计算机技术的快速发展，机器学习网络模型被广泛应用。由于训练数据标注和模型设计中往往对某些敏感属性存在偏见，使得训练出的网络模型在应用中会强化对敏感属性的偏见，进而导致决策过程中的不公平现象产生。针对于此，可以构建出一种保障公平性的公平性网络模型，以缓解这种不公平现象。
[0003]目前，往往需要对构建出的公平性网络模型进行性能评估，以确定出这种公平性网络模型的公平性效果和准确度情况。
[0004]然而，在实现本专利技术过程中，专利技术人发现现有技术中至少存在如下问题：
[0005]现有技术中用于评估公平性网络模型的真实样本数据普遍来自于同一地区，数据量太少且受保护的敏感属性种类单一，以及对受保护的敏感属性的偏见程度较小，从而无法准确全面地评估公平性网络模型的模型性能。

技术实现思路

[0006]本专利技术实施例提供本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据生成方法，其特征在于，包括：获取随机噪声样本数据；将所述随机噪声样本数据输入至目标生成对抗网络中的目标数据生成模型中，所述目标数据生成模型是预先基于预设敏感属性对应的预设偏见程度、所述目标生成对抗网络中的数据判别模型和数据处理模型进行训练获得的；根据所述目标生成模型的输出，确定对所述预设敏感属性具有所述预设偏见程度的目标合成样本数据。2.根据权利要求1所述的方法，其特征在于，基于预设敏感属性对应的预设偏见程度、所述目标生成对抗网络中的数据判别模型和数据处理模型进行训练获得所述目标数据生成模型，包括：构建待训练的生成对抗网络，所述生成对抗网络包括数据生成模型、数据判别模型和数据处理模型；根据预设敏感属性对应的预设偏见程度，对所述数据生成模型、所述数据判别模型和所述数据处理模型进行轮流训练；当达到预设收敛条件时，确定所述数据生成模型训练结束，获得目标数据生成模型。3.根据权利要求2所述的方法，其特征在于，所述数据生成模型的训练过程，包括：将随机噪声样本数据输入至当次待训练的数据生成模型中，获得数据生成模型输出的第一合成样本数据；将所述第一合成样本数据输入至上次训练后的数据判别模型中，获得判别模型输出的第一判别结果；将所述第一合成样本数据中的特征信息输入至上次训练后的数据处理模型中，获得数据处理模型输出的第一处理结果；根据所述第一判别结果、预设敏感属性对应的预设偏见程度、所述第一处理结果、以及所述第一合成样本数据中的标签信息和所述预设敏感属性对应的敏感属性值，确定生成训练误差；将所述生成训练误差反向传播至当次待训练的数据生成模型中，调整数据生成模型中的模型参数，完成数据生成模型的当次训练。4.根据权利要求3所述的方法，其特征在于，所述根据所述第一判别结果、预设敏感属性对应的预设偏见程度、所述第一处理结果、以及所述第一合成样本数据中的标签信息和所述预设敏感属性对应的敏感属性值，确定生成训练误差，包括：基于预设公平性损失函数，根据所述第一处理结果、以及所述第一合成样本数据中的标签信息和预设敏感属性对应的敏感属性值，确定所述第一处理结果对应的公平性损失程度；基于所述数据生成模型对应的生成误差函数，根据所述公平性损失程度、所述第一判别结果和预设敏感属性对应的预设偏见程度，确定生成训练误差。5.根据权利要求4所述的方法，其特征在于，所述数据生成模型对应的生成误差函数I
G
为：
其中，λ是预设敏感属性对应的预设偏见程度；l
fairness
是所述公平性损失程度；D(G(z
i
))是第i个随机噪声样本数据z
i
对应的第一判别结果；n是随机噪声样本数据z
i
对应的样本数量。6.根据权利要求2所述的方法，其特征在于，所述数据处理模型的训练过程，包括：将随机噪声样本数据输入至上次训练后的数据生成模型中，获得数据生成模型输出的第二合成样本数据；将所述第二合成样本数据中的特征信息输入至当次待训练的数据处理模型中，获得数据处理模型输出的第二处理结果；根据所述第二处理结果和所述第二合成样本数据中的标签信息，确定处理训练误差；将所述处理训练误差反向传播至当次待训练的数据处理模型中，调整数据处理模型中的模型参数，完成数据处理模型的当次训练。7.一种模型性能评估方法，其特征在于，包括：获取随机噪声样本数据；将所述随机噪声样本数据输入至目标生成对抗网络中的目标数据生成模型中，所述目标数据生成模型是预先基于预设敏感属性对应的预设偏见程度、所述目标生成对抗网络中的数据判别模型和数据处理模型进行训练获得的；根据所述...

【专利技术属性】
技术研发人员：何凤翔，胡郅昊，
申请(专利权)人：北京京东世纪贸易有限公司，
类型：发明
国别省市：