【技术实现步骤摘要】
本专利技术属于人工智能，具体涉及一种用于评价图像识别模型的偏见性评估方法。
技术介绍
1、人工智能是研究、开发用于模拟、延展和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支，主要用于了解智能的实质，并产生出一种新的能以人类智能相似的方式做出反应的智能机器，该邻域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，未来人工智能带来的科技产品，将会是人类智慧的容器。
2、目前，人工智能已经取得了巨大的进步，并且越来越多地应用于生活中的方方面面。其中，人工智能检测技术是人工智能应用的重要一环，逐渐影响人类日常生活的决策判断，主要包括以下方面：自动驾驶、面部识别、欺诈检测、图像分类、情绪分析、医学诊断以及语音理解。人工智能检测技术的广泛应用，对个人、社会都有巨大的帮助和贡献，并且能够在复杂任务上达到甚至超过人类决策的水平。然而，人工智能检测技术在带来便利的同时，也可能会产生偏差，对检测的群体表现出偏见行为，从而对个人和社会产生潜在的负面影响。因此，需要对人工智能检测进行研究并有效地降低偏差发生的几率，使人工智能检测技术能够更好更安全更公平地运用到日常生活当中。
3、人工智能检测算法是检测技术的核心，通过运行检测算法从而产生对人类判断和决策有利的结果，同时也是产生偏见和错误的主要缘由。人工智能检测算法偏见来源主要包括以下方面：数据时间偏见、数据先验偏见、数据后验偏见、数据行为偏见、数据群体偏见、模型预
技术实现思路
1、为解决以上现有技术存在的问题，本专利技术提出了一种用于评价图像识别模型的偏见性评估方法，包括：
2、s1：构建评估模型，该模型用于评估目标检测模型的偏见性；
3、s2：获取评估模型训练集，将训练集中的数据输入到评估模型中进行优化训练；
4、s3：获取待识别的图像，将待识别的图像输入到待检测的图像识别模型中进行分类，得到分类结果；
5、s4：将分类结果输入到训练后的评估模型中，得到当前待检测模型的偏见性；
6、s5：根据目标检测模型的偏见性评估结果对用户进行模型推荐。
7、优选的，评估模型包括：注释器、数据分类模块、检测模块以及指标评价模块；对评估模型进行优化训练的过程包括：
8、步骤1：获取训练数据集，采用注释器模块对训练数据集中的数据添加敏感标签；
9、步骤2：将添加敏感标签的数据输入到数据分类模块中，得到分类结果；
10、步骤3：将分类结果输入到检测模块中，得到检测结果；
11、步骤4：将检测结果输入到指标评价模块，得到不同属性的公平指标；
12、步骤5：采用优化器对指标评价模块中的阈值参数进行优化，计算不同属性公平指标的差值；
13、步骤6：将计算出的差值与优化后的阈值参数进行对比，若大于设置的阈值参数，则模型就具有偏见性，否则模型无偏见性；
14、步骤7：计算模型损失函数，当模型损失函数收敛时，得到训练后的评估模型，并保存最优的阈值参数。
15、进一步的，敏感标签包括年龄、种族、性别、疾病以及宗教信仰。
16、进一步的，检测模块为卷积神经网络，采用卷积神经网络对分类结果进行处理的过程包括：提取分类后的图像的全局特征，采用通道权重学习机制来捕获通道特征之间的依赖关系；其中权重学习机制包括：对通道特征沿着通道维度进行全局平均池化操作，得到由c个特征图的数值分布构成的向量g，根据向量g建立通道之间的关系，并通过学习参数为每个特征通道分配不同的权重；采用遗传算法对分配权重进行优化；根据优化后的分配权重通过乘法逐通道加权到先前的特征上，完成在通道维度上的对原始特征的重标定，得到时空特征图；对时空特征图进行识别，得到检测结果。
17、进一步的，遗传算法对分配权重进行优化包括：
18、步骤1：设置原始种群，初始化种群数，其中原始种群为目标图像的通道，将输入图像的各个通道作为初始种群；设置遗传算法的相关参数，该参数包括种群大小、粒子维数、粒子位置和速度、粒子群的个体最优值、全局最优值以及迭代次数；
19、步骤2：计算种群中各个种群通道与原始种群中的相似度，设置相似度阈值，将计算出的相似度与设置的相似度阈值进行对比，筛选出大于相似度阈值的种群；
20、步骤3：根据筛选出的种群以及相关参数计算每个粒子的适应度函数值，该函数值为每个图像通道的重要程度；
21、步骤4：将筛选出的种群进行选择、交叉以及变异操作，得到新一代种群；迭代次数加1；
22、步骤5：采用衰减策略分别对惯性权重、个体学习因子以及全局学习因子进行更新；
23、步骤6：根据更新后惯性权重、个体学习因子以及全局学习因子对新一代种群进行基因筛查，得到最优基因的个体；
24、步骤7：判断当前迭代次数是否达到最大迭代次数，若达到最大迭代次数，则输出最优种群所对应的适应度函数值，并为该通道分配权重，否则返回步骤3。
25、进一步的，衰减策略包括：
26、
27、
28、
29、
30、优选的，公平性指标包括阳性预测值、真阳性率与假阳性率；其中阳性预测值的计算公式为：
31、
32、真阳性率的计算公式为：
33、
34、假阳性率的计算公式为：
35、
36、优选的，优化器对指标评价模块中的阈值参数进行优化包括采用权重衰减策略对参数进行优化衰减，其公式为：
37、
38、
39、优选的，模型的损失函数表达为：
40、
41、带有l2范数惩罚项的新损失函数为：
42、
43、本专利技术的有益效果：
44、本专利技术提出了一种面向人工智能检测算法的偏见性评估模型，首先通过注释器以及局部忽略法获取带有敏感属性的分类数据集，输入到人工智能检测算法中并收集检测结果，通过原始数据集以及检测结果计算tp、tn、fp、fn的值，确认使用的公平性指标以及影响公平性指标的权重比，使用公平性指标对算法进行评估，从而建立评估模型。然后使用优化器优化评估模型的公平性指标权重比，并使用权重衰减这个正则化技术控制模型的复杂度，避免过拟合，从而优化评估模型。最后，将人工智能检测算法输入到评估模型中，得到算法的偏见性评估结果，从而评估算法。与现有的评估方法相比，该模型避免了使用单一公平性指标从而产生算法覆盖率低、评估精度低的问题，通过对模型的优化，使模型能够更加准确的对现有检测算法进行有效评估。通过对算法偏见性的评估，可以得到算法的偏见程度、偏见来源以及偏见属性等重要信息，对以后的算法偏本文档来自技高网...
【技术保护点】
1.一种用于评价图像识别模型的偏见性评估方法，其特征在于，包括：
2.根据权利要求1所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，评估模型包括：注释器、数据分类模块、检测模块以及指标评价模块；对评估模型进行优化训练的过程包括：
3.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，敏感标签包括年龄、种族、性别、疾病以及宗教信仰。
4.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，检测模块为卷积神经网络，采用卷积神经网络对分类结果进行处理的过程包括：提取分类后的图像的全局特征，采用通道权重学习机制来捕获通道特征之间的依赖关系；其中权重学习机制包括：对通道特征沿着通道维度进行全局平均池化操作，得到由c个特征图的数值分布构成的向量g，根据向量g建立通道之间的关系，并通过学习参数为每个特征通道分配不同的权重；采用遗传算法对分配权重进行优化；根据优化后的分配权重通过乘法逐通道加权到先前的特征上，完成在通道维度上的对原始特征的重标定，得到时空特征图；对时空特征图进行识别，得到检测结果。>
5.根据权利要求4所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，遗传算法对分配权重进行优化包括：
6.根据权利要求5所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，衰减策略包括：
7.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，公平性指标包括阳性预测值、真阳性率与假阳性率；其中阳性预测值的计算公式为：
8.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，优化器对指标评价模块中的阈值参数进行优化包括采用权重衰减策略对参数进行优化衰减，其公式为：
9.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，模型的损失函数表达为：
...【技术特征摘要】
1.一种用于评价图像识别模型的偏见性评估方法，其特征在于，包括：
2.根据权利要求1所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，评估模型包括：注释器、数据分类模块、检测模块以及指标评价模块；对评估模型进行优化训练的过程包括：
3.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，敏感标签包括年龄、种族、性别、疾病以及宗教信仰。
4.根据权利要求2所述的一种用于评价图像识别模型的偏见性评估方法，其特征在于，检测模块为卷积神经网络，采用卷积神经网络对分类结果进行处理的过程包括：提取分类后的图像的全局特征，采用通道权重学习机制来捕获通道特征之间的依赖关系；其中权重学习机制包括：对通道特征沿着通道维度进行全局平均池化操作，得到由c个特征图的数值分布构成的向量g，根据向量g建立通道之间的关系，并通过学习参数为每个特征通道分配不同的权重；采用遗传算法对分配权重进行优...
【专利技术属性】
技术研发人员：冷涛，周悦宁，陈自刚，朱海华，王振，刘凡，李丹珑，陈龙，
申请(专利权)人：四川警察学院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。