用于生成公平性输出的方法、装置、电子设备和介质制造方法及图纸

本公开的实施例涉及用于生成公平性输出的方法、装置、电子设备和介质。该方法包括确定针对输入数据的基线分类输出。该方法还包括基于输入数据和基线分类输出，生成针对输入数据的弃权输出，其中弃权输出指示是否放弃基线分类输出。该方法还包括响应于弃权输出指示不放弃基线分类输出，基于输入数据和基线分类输出，生成针对输入数据的翻转输出，其中翻转输出指示是否将基线分类输出进行翻转。此外，该方法还包括基于基线分类输出和翻转输出，生成针对输入数据的公平性输出。该方法能够让输出满足公平性的同时，不影响输出的准确性，做到二者同时兼顾，以此让模型能够更好地发挥作用。用。用。

【技术实现步骤摘要】
用于生成公平性输出的方法、装置、电子设备和介质


[0001]本申请涉及计算机
，尤其具体地涉及用于生成公平性输出的方法、装置、电子设备以及介质。

技术介绍

[0002]随着机人工智能算法被应用于社会各个领域，用以辅助或代替人们进行决策，特别是在一些具有重要影响的领域，例如司法、医疗等公共领域，极大改善了决策效率，提升了用户的使用体验。
[0003]近些年来，关于人工智能算法的公平性问题受到了极大关注，人们希望在利用人工智能算法时，其决策结果是公平性的或者无偏见的。导致人工智能算法的决策结果不公平性的原因可能是训练数据的分布、模型结构等等。但是，为了能够让人工智能算法更好地服务社会，人们需要对现有的人工智能算法进行改进，来训练出更加公平性的人工智能算法模型。

技术实现思路

[0004]本公开的实施例提供了一种用于生成公平性输出的方法、装置、电子设备和介质。
[0005]根据本公开的第一方面，提供了一种用于生成公平性输出的方法。该方法包括确定针对输入数据的基线分类输出。该方法还包括基于输入数据和基线分类输出，生本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于生成公平性输出的方法，包括确定针对输入数据的基线分类输出；基于所述输入数据和所述基线分类输出，生成针对所述输入数据的弃权输出，其中所述弃权输出指示是否放弃所述基线分类输出；响应于所述弃权输出指示不放弃所述基线分类输出，基于所述输入数据和所述基线分类输出，生成针对所述输入数据的翻转输出，其中所述翻转输出指示是否将所述基线分类输出进行翻转；以及基于所述基线分类输出和所述翻转输出，生成针对所述输入数据的公平性输出。2.根据权利要求1所述的方法，还包括：响应于确定所述弃权输出指示放弃所述基线分类输出，放弃所述基线分类输出。3.根据权利要求2所述的方法，其中生成针对所述输入数据的所述公平性输出包括：响应于所述翻转输出指示对所述基线输出进行翻转，生成将所述基线分类输出进行翻转的所述公平性输出；以及响应于所述翻转输出指示不对所述基线输出进行翻转，生成与所述基线分类输出相同的所述公平性输出。4.根据权利要求1所述的方法，其中所述基线分类输出经由基线分类器生成，所述弃权输出经由代理模型中的弃权模型生成，所述翻转输出经由所述代理模型中的翻转模型生成，并且所述基线分类器、所述弃权模型以及翻转模型被包括在公平性分类器中。5.根据权利要求4所述的方法，还包括：基于所述公平性分类器中的所述基线分类器和训练数据，利用整数规划确定针对所述训练数据的弃权结果和翻转结果，其中所述整数规划至少限定针对所述公平性分类器的无损性约束；以及基于所述基线分类器、所述训练数据、所述弃权结果、以及所述翻转结果，生成所述公平性分类器中的所述翻转模型和所述弃权模型，其中所述翻转模型和所述弃权模型用于对来自基线分类器的基线结果进行调整。6.根据权利要求5所述的方法，其中利用所述整数规划模型确定所述弃权结果和所述翻转结果包括：基于所述基线分类器和所述训练数据，构建所述整数规划模型；以及利用所述整数规划模型，确定所述弃权结果和所述翻转结果。7.根据权利要求...

【专利技术属性】
技术研发人员：JF，
申请(专利权)人：脸萌有限公司，
类型：发明
国别省市：