【技术实现步骤摘要】
本专利技术涉及可解释人工智能，特别是涉及基于特征归因的图像分类解释及纠偏方法与系统。
技术介绍
1、本部分的陈述仅仅是提到了与本专利技术相关的
技术介绍
，并不必然构成现有技术。
2、随着人工智能的持续发展，机器学习和深度学习等相关算法变得越来越先进和复杂，广泛应用于生活和工业等多个领域。然而，在一些高风险领域，如金融和医疗等，人工智能算法需要能够提供决策的过程或依据。传统的机器学习和深度学习模型通常是黑盒模型，难以解释其内部的工作原理和推理过程，这限制了它们在某些关键应用领域的可靠性和可接受性。可解释技术的目标为提供一种解释模型决策的方法，使用户和利益相关者能够理解为何模型做出特定的预测或决策。考虑到人工智能可解释性的重要性，目前，学术界和工业界提出了许多解释人工智能模型的方法。其中特征归因通过解释模型对输入特征的重要性和影响程度，帮助用户了解哪些特征对模型的决策起到关键作用，包括对序列、图像、图结构和表格的解释，是主流的人工智能解释方法。然而，深度学习模型的不确定性会对解释的可信度产生负面影响。这可以理解为数据规格不足所造成...
【技术保护点】
1.基于特征归因的图像分类解释及纠偏方法，其特征是，包括：
2.如权利要求1所述的基于特征归因的图像分类解释及纠偏方法，其特征是，获取待分类图像，将待分类图像输入到训练后的图像分类模型中，输出分类结果，其中，训练后的图像分类模型，训练过程包括：
3.如权利要求1所述的基于特征归因的图像分类解释及纠偏方法，其特征是，采用特征归因算法，对训练后的图像分类模型进行解释，得到预测解释，还包括：
4.如权利要求3所述的基于特征归因的图像分类解释及纠偏方法，其特征是，基于训练集和训练后的图像分类模型，对若干种特征归因算法进行筛选，筛选出最优特征...
【技术特征摘要】
1.基于特征归因的图像分类解释及纠偏方法，其特征是，包括：
2.如权利要求1所述的基于特征归因的图像分类解释及纠偏方法，其特征是，获取待分类图像，将待分类图像输入到训练后的图像分类模型中，输出分类结果，其中，训练后的图像分类模型，训练过程包括：
3.如权利要求1所述的基于特征归因的图像分类解释及纠偏方法，其特征是，采用特征归因算法，对训练后的图像分类模型进行解释，得到预测解释，还包括：
4.如权利要求3所述的基于特征归因的图像分类解释及纠偏方法，其特征是，基于训练集和训练后的图像分类模型，对若干种特征归因算法进行筛选，筛选出最优特征归因算法，具体包括：
5.如权利要求1所述的基于特征归因的图像分类解释及纠偏方法，其特征是，采用训练后的解释纠偏框架，对所...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。