对神经网络中节点进行染色的方法及装置制造方法及图纸

本发明专利技术提出一种对神经网络中节点进行染色的方法及装置，其中，方法包括：获取训练数据，并对所述训练数据进行预处理；通过预设的特征提取网络提取预处理后的训练数据对应的特征，并通过话的分类网络对所述特征进行分类，输出所述分类对应的类别向量；将所述特征提取网络和所述分类网络的节点参数按照顺序存储于预先建立的节点存储区；遍历所述节点存储区的节点信息，并对节点进行标签分类，并对各类别的节点进行染色操作。该方法通过对完成训练的深度神经网络模型进行染色，实现对神经网络中节点作用的研究，解决现有技术中深度神经网络中各个节点的可解释性问题。经网络中各个节点的可解释性问题。经网络中各个节点的可解释性问题。

【技术实现步骤摘要】
对神经网络中节点进行染色的方法及装置


[0001]本专利技术属于计算机多媒体
，涉及图像分类、目标检测等技术。

技术介绍

[0002]近年来，以深度神经网络为代表的人工智能迅猛发展。目前，在许多领域，如自然语言、计算机视觉、语音和多媒体等领域，深度神经网络模型都展现了其强大的能力。然而，深度学习模型以“端到端”为基本架构，通过大量标注数据驱动误差的反向传播来不断优化模型参数，最终实现特定的功能。这样的一种学习过程被称作“黑盒子”，这导致人们很难甚至无法理解深度神经网络。由于目前的深度神经网络的可解释性较弱，在对可靠性要求高，可解释性要求强的领域，深度神经网络的应用受到了阻碍。在诸如自动驾驶、医疗和金融决策等“高风险”领域，在利用深度神经模型进行重大决策时，不仅需要知道决策是什么，还需要知道算法给出决策的依据。因此，研究深度神经网络的可解释性具有重要意义。
[0003]目前，深度神经网络的可解释性引起了国内外学者的广泛关注。计算机视觉、机器学习和人工智能领域的顶级国际会议都举办了关于神经网络可解释相关的研讨会，进一步扩大了深度神经网本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对神经网络中节点进行染色的方法，其特征在于，包括以下步骤：获取训练数据，并对所述训练数据进行预处理；通过预设的特征提取网络提取预处理后的训练数据对应的特征，并通过话的分类网络对所述特征进行分类，输出所述分类对应的类别向量；将所述特征提取网络和所述分类网络的节点参数按照顺序存储于预先建立的节点存储区；遍历所述节点存储区的节点信息，并对节点进行标签分类，并对各类别的节点进行染色操作。2.根据权利要求1所述的方法，其特征在于，对所述训练数据进行预处理，包括：获取所述训练数据中的图片，根据标注信息在图片中不同位置的物体标注出类型，将每张图片的预处理结果存储在向量中。3.根据权利要求2所述的方法，其特征在于，所述向量表示为：[(X
i
,y
i
),X
′
i
]＝[(X
i
,y
i
),(x
i1
,x
i2
,...,x
ij
)]，其中，X
i
代表图片的原始信息，y代表对图片的分类，代表图片中某一物体标注框的坐标信息，y
ij
代表这个标注框的类别信息，i代表第i张图片，j代表图片中第j个物体，k代表标注框的第k个顶点。4.根据权利要求1所述的方法，其特征在于，所述对节点进行标签分类，并对各类别的节点进行染色操作，包括：对于所述特征提取网络中的卷积核，将每个卷积核与图片的原始信息进行卷积操作，并将卷积结果最大的区域作为节点的作用区域；判断所述作用区域属于的标签框，将所述标签框的类别标签作为所述卷积核的标签类别；将标签类别为图片分类的节点的值进行等比放大或缩小，确定分类结果为所述图片分类的数据在经过染色后的分类准确率的变化。5.根据权利要求1
‑
4任一项所述的方法，其特征在于，在对各类别的节点进行...

【专利技术属性】
技术研发人员：郭雨晨，戴琼海，丁贵广，
申请(专利权)人：清华大学，
类型：发明
国别省市：