一种图像处理装置、方法、设备及介质制造方法及图纸

本申请公开了一种图像处理装置、方法、电子设备及计算机可读存储介质，该装置包括：图像输入模块，用于将原始图像数据输入至图像分类初始模型；蒙版确定模块，用于获取图像分类初始模型中各非线性层对原始图像数据的计算输出状态，确定各非线性层的计算蒙版；模板替换模块，用于将各非线性层替换为对应的计算蒙版以生成图像区域分析模型；区域分析模块，用于将原始图像数据中在目标图像子区域外的数据置零后输入至图像区域分析模型中，以获取目标图像子区域对目标图像类别的实际贡献度；模型校验模块，用于比较实际贡献度与对应的理论贡献度，对图像分类初始模型进行效果校验。本申请通过图像子区域分析可高效实现对图像分类模型的合理性校验。

【技术实现步骤摘要】
一种图像处理装置、方法、设备及介质
本申请涉及图像处理
，特别涉及一种图像处理装置、方法、电子设备及计算机可读存储介质。
技术介绍
随着人工智能与深度神经网络模型的快速发展与应用，越来越多的领域对模型的合理性提出了更高的要求。其中，图像处理(如图像识别分类)问题是深度神经网络模型应用的一个重要场景。为了对模型本身的合理性进行有效校验，相关技术中使用有层级相关性传播方法。该方法利用神经网络模型中的反向传播，并设计了系列的规则和限定条件。通过反向传播，将高层的相关性分值信息传播到低层直至最终的输入层，最终得到输入图像对模型输出结果的影响热力图，进而可对模型本身进行评判和校验。但是，该方法由于采用的是反向传播的基本思想，其相关性计算过程均采用全局计算，因而计算量较大，无法针对图像中的特定子区域单独进行计算与分析。鉴于此，提供一种解决上述技术问题的方案，已经是本领域技术人员所亟需关注的。
技术实现思路
本申请的目的在于提供一种图像处理装置、方法、电子设备及计算机可读存储介质，以便有效获取目标图像子区域对模型输出本文档来自技高网...

【技术保护点】
1.一种图像处理装置，其特征在于，包括：/n图像输入模块，用于将原始图像数据输入至图像分类初始模型进行图像分类；/n蒙版确定模块，用于获取所述图像分类初始模型中的各个非线性层对所述原始图像数据的计算输出状态，并根据所述计算输出状态确定各所述非线性层的计算蒙版；所述计算输出状态包括通过或置零；/n模板替换模块，用于将所述图像分类初始模型中的各所述非线性层分别替换为对应的所述计算蒙版，以生成图像区域分析模型；/n区域分析模块，用于将所述原始图像数据中在目标图像子区域外的数据进行置零处理，以生成区域分析图像数据，并将所述区域分析图像数据输入至所述图像区域分析模型中，以获取所述目标图像子区域对目标图像...

【技术特征摘要】
1.一种图像处理装置，其特征在于，包括：
图像输入模块，用于将原始图像数据输入至图像分类初始模型进行图像分类；
蒙版确定模块，用于获取所述图像分类初始模型中的各个非线性层对所述原始图像数据的计算输出状态，并根据所述计算输出状态确定各所述非线性层的计算蒙版；所述计算输出状态包括通过或置零；
模板替换模块，用于将所述图像分类初始模型中的各所述非线性层分别替换为对应的所述计算蒙版，以生成图像区域分析模型；
区域分析模块，用于将所述原始图像数据中在目标图像子区域外的数据进行置零处理，以生成区域分析图像数据，并将所述区域分析图像数据输入至所述图像区域分析模型中，以获取所述目标图像子区域对目标图像类别的实际贡献度；
模型校验模块，用于将所述实际贡献度与对应预设的理论贡献度进行比较，以便对所述图像分类初始模型进行效果校验。


2.根据权利要求1所述的图像处理装置，其特征在于，
所述图像输入模块还用于：在所述将原始图像数据输入至图像分类初始模型进行图像分类之后，获取所述原始图像数据对所述目标图像类别的实际总贡献度；
所述区域分析模块还用于：在所述获取所述目标图像子区域对目标图像类别的实际贡献度之后，计算所述实际贡献度与所述实际总贡献度的比值，作为所述目标图像子区域对所述目标图像类别的实际相对贡献度。


3.根据权利要求1所述的图像处理装置，其特征在于，所述蒙版确定模块具体用于：
若所述计算输出状态为通过，则将所述计算蒙版中对应的布尔值置为TRUE；
若所述计算输出状态为置零，则将所述计算蒙版中对应的布尔值置为FALSE。


4.根据权利要求1所述的图像处理装置，其特征在于，所述图像分类初始模型基于神经网络模型训练生成。


5.根据权利要求4所述的图像处理装置，其特征在于，所述非线性层包括线性整流层或最大池化层。


6.根据权利要求1至5任一项...

【专利技术属性】
技术研发人员：朱克峰，阚宏伟，仝培霖，
申请(专利权)人：广东浪潮大数据研究有限公司，
类型：发明
国别省市：广东;44