基于特征金字塔与知识引导的知识蒸馏的图像处理方法技术

本发明专利技术公开基于特征金字塔与知识引导的知识蒸馏的图像处理方法，包括将图像分别输入至相互并列的轻量模型和重量模型；将两个图像处理结果通过基于特征金字塔与知识引导的知识蒸馏方法，融合成新的图像；在特征融合蒸馏阶段，基于不同阶段生成的特征图信息构成特征金字塔，并利用知识蒸馏去融合对应的特征图结果；在知识引导修正阶段，使用引导知识技术来纠正特征金字塔融合过程知识的错误差异；在自适应调整阶段，将融合后的特征图进行多维度损失计算，并且在计算损失时，使用自适应匹配的方式设定损失函数的系数。本发明专利技术缩小了轻量模型与重量模型的架构差异与模型能力差异，增加了模型的鲁棒性；同时也解决了小样本数据集表现差的问题。现差的问题。现差的问题。

【技术实现步骤摘要】
基于特征金字塔与知识引导的知识蒸馏的图像处理方法


[0001]本专利技术属于图像处理
，特别是涉及基于特征金字塔与知识引导的知识蒸馏的图像处理方法。

技术介绍

[0002]知识蒸馏是当前人工智能在计算机视觉领域最为重要的模型压缩技术攻关之一。相比于低秩分解，权值量化，剪枝等模型压缩方法，知识蒸馏更为简易以及通用，在不改变模型结构的条件下以完成高质量的图像合成效果。近几年人工智能的快速发展使得知识蒸馏技术取得了重大突破，目前通过知识蒸馏的轻量模型已经能够在各个通用数据集上拥有逼近庞大模型的准确度和表现能力，在各个领域都有很好的表现(如分类、目标检测、语义分割等)。随着人工智能2.0时代的到来，计算机视觉被赋予了更多的使命，其中最关键的是让计算机视觉能够更准确的理解人类的主观思想从而更好的服务于人类。在这种环境下，大型计算机视觉任务目前正朝着不断优化的方向去发展，即拥有高计算能力的大型计算机视觉模型能够按照人的意图去实现对应的视觉任务和实际应用。但是在边缘计算，移动计算等方面，无法拥有高计算能力以及无法部署大型计算机视觉的模型，所以知识蒸馏技本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于特征金字塔与知识引导的知识蒸馏的图像处理方法，其特征在于，包括步骤：S10,将图像分别输入至相互并列的轻量模型和重量模型，分别进行处理得到两个对应的图像处理结果；S20,将两个图像处理结果通过基于特征金字塔与知识引导的知识蒸馏方法，将不同层次的特征图结合到一起去融合成新的图像；包括步骤：S201,特征融合蒸馏阶段，基于不同阶段生成的特征图信息构成特征金字塔，并利用知识蒸馏去融合对应的特征图结果；S202,知识引导修正阶段，使用引导知识技术来纠正特征金字塔融合过程知识的错误差异；S203,自适应调整阶段，将融合后的特征图进行多维度损失计算，并且在计算损失时，使用自适应匹配的方式设定损失函数的系数。2.根据权利要求1所述的基于特征金字塔与知识引导的知识蒸馏的图像处理方法，其特征在于，所述重量模型采用ResNet152模型，所述轻量模型采用Resnet50模型。3.根据权利要求1所述的基于特征金字塔与知识引导的知识蒸馏的图像处理方法，其特征在于，在所述步骤S201中,特征融合蒸馏阶段，基于不同阶段生成的特征图信息去融合对应的特征图结果；将轻量模型和重量模型输出的低层纹理信息和高层语义信息融合到一起，同时结合知识蒸馏，将原本直接进行蒸馏的特征图进行特征融合蒸馏。4.根据权利要求3所述的基于特征金字塔与知识引导的知识蒸馏的图像处理方法，其特征在于，在轻量模型和重量模型输出融合过程中：使用均方误差MSE作为损失函数，对特征金字塔融合后每对轻量模型和重量模型输出的特征图之间差异进行计算，将所有对的损失函数值，使用SoftMax函数计算相应对的权重Weig...

【专利技术属性】
技术研发人员：俞文心，王琪，刘露，邓知雨，曾燕楠，
申请(专利权)人：西南科技大学，
类型：发明
国别省市：