【技术实现步骤摘要】
本专利技术属于图像分类，具体涉及一种基于多样化自适应知识蒸馏的图像分类方法及系统。
技术介绍
1、本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
信息，不必然构成在先技术。
2、图像分类是计算机视觉领域的重要研究方向之一，通过训练网络模型，实现图像的自动识别准确归类。随着深度学习的发展，特别是卷积神经网络的出现，计算机视觉领域的发展取得了巨大的突破，图像分类技术也逐渐成熟，在医学影像诊断、自动驾驶、安防监控等领域得到了广泛的应用。深度学习方法得益于其能够自动学习图像中的层次化特征，显著提高了模型的分类准确性，并成为图像分类领域的主流方法。但是，现有的深度学习方法常常采用加深网络、增加参数等方式来提升模型性能，导致模型变得臃肿，大幅增多了模型的推理时间和计算资源利用，不利于模型部署落地。
3、知识蒸馏作为一种模型压缩技术，为模型的轻量化提供了新思路。基于特征的知识蒸馏是常用的知识蒸馏方法，但是这种方法在进行蒸馏时常常对特征知识利用不够充分；若仅提取局部细粒度特征，则容易忽略全局任务相关信息而导致分类结果不够鲁棒；若仅利用全局特征，则易忽略细粒度的局部信息，对分类结果产生负面影响。基于样本中间层特征关系知识能够帮助学生模型学到更加抽象和通用的知识，可更好的模拟教师模型的数据流向，从而提高模型的泛化能力。学生模型在学习过程中，对于不同样本、不同知识具有不一样的偏好和倾向，若不合理分配，会导致学习效果表现不佳。目前对可学习知识的挖掘以及模型对不同知识的偏好仍旧匮乏。如何有效地表示和提取教师模型在基于知识蒸馏的图
技术实现思路
1、为了解决上述问题，本专利技术提出了一种基于多样化自适应知识蒸馏的图像分类方法及系统，采用多样化知识学习，将多种知识应用在多个蒸馏过程中，结合元学习实现图像分类的自适应蒸馏，进而提升了图像分类的精确度。
2、根据一些实施例，本专利技术的第一方案提供了一种基于多样化自适应知识蒸馏的图像分类方法，采用如下技术方案：
3、一种基于多样化自适应知识蒸馏的图像分类方法，包括：
4、获取待分类的图像；
5、提取所获取的待分类图像的局部细粒度特征和全局特征；
6、对待分类图像局部细粒度特征进行局部细粒度特征知识蒸馏；
7、对待分类图像全局特征分别进全局特征关系知识蒸馏和全局特征知识蒸馏；
8、对待分类图像的局部细粒度特征和全局特征进行软标签知识蒸馏；
9、分别计算局部细粒度特征知识蒸馏、全局特征关系知识蒸馏、全局特征知识蒸馏和软标签知识蒸馏的蒸馏损失函数；
10、根据所得到的蒸馏损失函数构建待分类图像的蒸馏总损失函数；
11、以待分类图像的蒸馏总损失函数最小为目标，进行待分类图像的多样化自适应知识蒸馏的图像分类，得到图像类别。
12、作为进一步的技术限定，将所得到的局部细粒度特征知识蒸馏、全局特征关系知识蒸馏、全局特征知识蒸馏和软标签知识蒸馏的蒸馏损失函数分别输入到元学习器中，在元学习器中隐藏层的多层感知器的作用下分别得到不同类别蒸馏损失函数的权重。
13、进一步的，待分类图像的蒸馏总损失函数根据所得到的不同类别的蒸馏损失函数和权重进行加权求和得到。
14、作为进一步的技术限定，对获取的待分类图像进行数据增强的预处理，将预处理后的图像分别输入到学生网络和教师网络中，通过卷积操作提取一次特征以构造待分类图像的全局特征关系，经多次卷积操作后提取待分类图像的样本特征，即得到待分类图像的局部细粒度特征。
15、进一步的，根据所得到的局部细粒度特征和自注意力机制，捕获待分类图像的长距离注意力特征，得到待分类图像的全局特征。
16、作为进一步的技术限定，以待分类图像的蒸馏总损失函数最小为目标，得到最优知识蒸馏模型权重，根据所得到的最优知识蒸馏模型权重构建预测模型，结合待分类图像，得到图像类别概率。
17、根据一些实施例，本专利技术的第二方案提供了一种基于多样化自适应知识蒸馏的图像分类系统，采用如下技术方案：
18、一种基于多样化自适应知识蒸馏的图像分类系统，包括：
19、图像获取模块，其被配置为获取待分类的图像；
20、特征提取模块，其被配置为提取所获取的待分类图像的局部细粒度特征和全局特征；
21、知识蒸馏模块，其被配置为对待分类图像局部细粒度特征进行局部细粒度特征知识蒸馏；对待分类图像全局特征分别进全局特征关系知识蒸馏和全局特征知识蒸馏；对待分类图像的局部细粒度特征和全局特征进行软标签知识蒸馏；
22、图像分类模块，其被配置为分别计算局部细粒度特征知识蒸馏、全局特征关系知识蒸馏、全局特征知识蒸馏和软标签知识蒸馏的蒸馏损失函数；根据所得到的蒸馏损失函数构建待分类图像的蒸馏总损失函数；以待分类图像的蒸馏总损失函数最小为目标，进行待分类图像的多样化自适应知识蒸馏的图像分类，得到图像类别。
23、根据一些实施例，本专利技术的第三方案提供了一种计算机可读存储介质，采用如下技术方案：
24、一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现如本专利技术第一方案所述的基于多样化自适应知识蒸馏的图像分类方法中的步骤。
25、根据一些实施例，本专利技术的第四方案提供了一种电子设备，采用如下技术方案：
26、一种电子设备，包括存储器、处理器及存储在存储器上并在处理器上运行的程序，所述处理器执行所述程序时实现如本专利技术第一方案所述的基于多样化自适应知识蒸馏的图像分类方法中的步骤。
27、根据一些实施例，本专利技术的第五方案提供了一种计算机程序产品，采用如下技术方案：
28、一种计算机程序产品，包括软件代码，所述软件代码中的程序执行如本专利技术第一方案所述的基于多样化自适应知识蒸馏的图像分类方法中的步骤。
29、与现有技术相比，本专利技术的有益效果为：
30、本专利技术通过挖掘多样化知识来丰富学生模型的学习，引入基于元学习的自适应蒸馏方法，对重点知识重点蒸馏，提高了知识蒸馏的有效性，进一步提升学生模型的特征提取能力、鲁棒性和泛化性能；引入全局和局部的双粒度特征蒸馏方法，将全局区分性信息和局部区分性信息蒸馏到学生模型中，帮助学生模型学习全局特征和局部细粒度特征知识，从而提高模型的特征提取能力；构建样本间关系知识，将样本的全局特征关系到学生模型中，促使学生模型学习教师的结构化知识，拟合数据在教师网络中的数据流向，提高模型的泛化能力；构建输出软标签知识，学习教师模型最终输出概率分布，并引入基于元学习的自适应蒸馏方法，在蒸馏时，为各个蒸馏过程赋予不同的权重，最大程度提高模型的特征提取能力和泛化性能。
31、本专利技术引入了多样化知识的学习，将多种知识应用在多个蒸馏过程中，既丰富了学生模型的学习内容，又极大的挖掘了特征知识的利用潜能。轻量级的学生模型能够利用多样化知识去提高自身本文档来自技高网...
【技术保护点】
1.一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，包括：
2.如权利要求1中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，将所得到的局部细粒度特征知识蒸馏、全局特征关系知识蒸馏、全局特征知识蒸馏和软标签知识蒸馏的蒸馏损失函数分别输入到元学习器中，在元学习器中隐藏层的多层感知器的作用下分别得到不同类别蒸馏损失函数的权重。
3.如权利要求2中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，待分类图像的蒸馏总损失函数根据所得到的不同类别的蒸馏损失函数和权重进行加权求和得到。
4.如权利要求1中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，对获取的待分类图像进行数据增强的预处理，将预处理后的图像分别输入到学生网络和教师网络中，通过卷积操作提取一次特征以构造待分类图像的全局特征关系，经多次卷积操作后提取待分类图像的样本特征，即得到待分类图像的局部细粒度特征。
5.如权利要求4中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，根据所得到的局部细粒度特征和自注意力机制，捕获待分
6.如权利要求1中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，以待分类图像的蒸馏总损失函数最小为目标，得到最优知识蒸馏模型权重，根据所得到的最优知识蒸馏模型权重构建预测模型，结合待分类图像，得到图像类别概率。
7.一种基于多样化自适应知识蒸馏的图像分类系统，其特征在于，包括：
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现了如权利要求1-6任一项所述的基于多样化自适应知识蒸馏的图像分类方法的步骤。
9.一种电子设备，包括存储器、处理器及存储在存储器上并在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现了如权利要求1-6任一项所述的基于多样化自适应知识蒸馏的图像分类方法的步骤。
10.一种计算机程序产品，包括软件代码，其特征在于，所述软件代码中的程序执行如权利要求1-6任一项所述的基于多样化自适应知识蒸馏的图像分类方法的步骤。
...【技术特征摘要】
1.一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，包括：
2.如权利要求1中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，将所得到的局部细粒度特征知识蒸馏、全局特征关系知识蒸馏、全局特征知识蒸馏和软标签知识蒸馏的蒸馏损失函数分别输入到元学习器中，在元学习器中隐藏层的多层感知器的作用下分别得到不同类别蒸馏损失函数的权重。
3.如权利要求2中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，待分类图像的蒸馏总损失函数根据所得到的不同类别的蒸馏损失函数和权重进行加权求和得到。
4.如权利要求1中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，对获取的待分类图像进行数据增强的预处理，将预处理后的图像分别输入到学生网络和教师网络中，通过卷积操作提取一次特征以构造待分类图像的全局特征关系，经多次卷积操作后提取待分类图像的样本特征，即得到待分类图像的局部细粒度特征。
5.如权利要求4中所述的一种基于多样化自适应知识蒸馏的图像分类方法，其特征在于，根据所得到的局部...
【专利技术属性】
技术研发人员：袭肖明，李永珂，宁一鹏，陈关忠，钱娜，孟令钊，张欣瑶，邵文柯，聂秀山，尹义龙，
申请(专利权)人：山东建筑大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。