一种基于稀疏注意力InterWindow块的Light Swin图像分类方法技术

技术编号:42391492 阅读:35 留言:0更新日期:2024-08-16 16:16
基于稀疏注意力InterWindow块的Light Swin图像分类方法,步骤包括:首先,对图像数据集进行Mixup、水平翻转、随机剪裁等图像增强处理,并打上相应的标签,然后使用Swin Transformer预训练模型进行训练,获取图像的低维度分层特征表示,接着使用基于稀疏注意力InterWindow块进行训练,强化图像的空间特征表示,最后利用分类器对提取的特征进行处理,得到最终的图像分类结果。本发明专利技术提出的Light Swin模型结合了CNN架构和Transformer架构的优势,实现了轻量化的高效特征提取,同时,在预训练阶段,本发明专利技术采用了l<subgt;∞</subgt;范数控制模型注意力权重的稀疏程度,使得模型能够自我调节注意力分布,提高了图像分类的准确率和预测速度。

【技术实现步骤摘要】

本专利技术适用于计算机视觉(computer vison)领域,具体涉及到基于swintransformer模型,以及注意力模块的稀疏化方法,其优越性在于采用基于稀疏注意力interwindow块强化图像空间特征的提取,进而提高图像分类的准确性,同时提高模型的参数利用率,实现模型的轻量化,取得的效果较为明显。


技术介绍

1、目前,图像分类是计算机视觉领域的热门研究方向,在此领域中,每个模型建立的核心目标都是更加有效地提取图像的信息,通过分析图像内容,提取关键特征,进而实现准确的分类。因此,如何设计能够高效提取图像信息的模型,成为了图像分类研究的关键所在。卷积神经网络(cnn)通过对图像像素单元进行特征映射,构建了强大的特征表示,成为各种视觉任务的主要骨干网络。随着卷积神经网络的深入研究,cnn的架构逐渐增大,连接更为广泛,卷积形式也变得更加复杂。

2、而在自然语言处理(natural language processing)领域,transformer通过引入注意力机制在每个令牌或像素单元上进行动态交互,模仿人类的注意力机制,这一成功经验促使t本文档来自技高网...

【技术保护点】

1.一种基于稀疏注意力InterWindow块的Light Swin图像分类方法,其特征在于包括以下步骤:

【技术特征摘要】

1.一种基于稀疏注意力interwindow块的lig...

【专利技术属性】
技术研发人员:左韬涂钰龙
申请(专利权)人:武汉科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1