System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于信息处理,尤其涉及基于跨维度注意力神经网络的图像特征提取方法及系统。
技术介绍
1、本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
信息,不必然构成在先技术。
2、随着深度学习的发展,卷积神经网络(cnn)成为图像特征提取的主流方法,其通过层层堆叠的卷积层和池化层来学习图像中的特征,从而实现端到端的特征提取和图像分类;通过反向传播算法,cnn能够自动学习图像中的抽象特征;随着注意力机制的发展,图像特征提取的性能不断提升,为各种计算机视觉任务提供了更强大的工具。
3、现有的特征提取方法,多采用卷积神经网络对图像进行学习,并通过注意力机制来提高模型的可解释性;然而,目前的方法忽略了图像在空间信息上的相互依赖性;在医学图像中(以青光眼为例),诊断的有效区域通常只占很小一部分,而背景占据了很大一部分,利用空间相互依赖性来更有效地考虑相关区域的注意力权重可以更好地突出模型的决策过程;在注意力机制的使用中,现有方法所使用的通道注意力存在降维操作,降维方法打破了特征通道与权值的直接映射关系,会影响通道注意力机制的学习效果。
技术实现思路
1、为克服上述现有技术的不足,本专利技术提供了基于跨维度注意力神经网络的图像特征提取方法及系统,引入跨维度注意力机制,通过结合通道注意力和空间注意力整合不同维度的有效信息,强调特征提取过程中图像有效区域特征映射的重要性,提高特征提取的准确性,为疾病辅助诊断提供更为清晰和准确的支持。
2、为实现上述目的,本专利技
3、本专利技术第一方面提供了基于跨维度注意力神经网络的图像特征提取方法。
4、基于跨维度注意力神经网络的图像特征提取方法,包括:
5、获取待提取的图像,并进行预处理和数据增强;
6、将增强后的图像输入到训练好的特征提取模型中,得到最终的图像特征;
7、其中,所述特征提取模型是在神经网络中引入跨维度注意力机制,通过使用避免降维的通道注意力机制学习每个通道的权重,增强有效的特征和抑制无关的特征,并通过空间注意力进行补充将注意力集中在空间位置上,得到关键信息,基于关键信息,提取图像特征。
8、进一步的,所述预处理,具体为:
9、通过取窗口中像素的中值来替代中心像素的值,去除图像中噪声;
10、通过受限自适应直方图均衡法,均匀灰度级分布。
11、进一步的,所述数据增强,是随机对图像进行随机旋转、随机翻转和随机缩放操作。
12、进一步的,所述特征提取模型,包括神经网络层、跨维度注意力层和卷积层;
13、所述神经网络层,从增强后的图像中提取初级特征;
14、所述跨维度注意力层,从初级特征中捕获关键信息;
15、所述卷积层,从关键信息中提取最终的图像特征。
16、进一步的,所述跨维度注意力层,包括依次连接的通道注意力和空间注意力;
17、所述通道注意力,以初级特征为输入,通过使用避免降维的通道注意力机制学习每个通道的权重,增强有效的特征和抑制无关的特征;
18、所述空间注意力,以通道注意力的输出为输入,将注意力集中在空间位置上,得到关键信息。
19、进一步的,所述通道注意力,具体为:
20、计算每个通道的全局信息;
21、对全局信息进行卷积操作实现局部交互,得到通道注意力权重;
22、对通道注意力权重与初级特征加权,得到通道注意力特征。
23、进一步的,所述空间注意力,具体为:
24、通过平均池化和最大池化操作对通道注意力特征的通道信息进行聚合,得到跨通道的平均池化和最大池化特征;
25、对平均池化和最大池化特征进行标准卷积聚合,生成二维空间注意力权重;
26、对通道注意力特征进行空间注意力加权,得到跨纬度加权后的关键信息。
27、本专利技术第二方面提供了基于跨维度注意力神经网络的图像特征提取系统。
28、基于跨维度注意力神经网络的图像特征提取系统,包括图像获取模块和特征提取模块:
29、图像获取模块,被配置为:获取待提取的图像,并进行预处理和数据增强;
30、特征提取模块,被配置为:将增强后的图像输入到训练好的特征提取模型中,得到最终的图像特征;
31、其中,所述特征提取模型是在神经网络中引入跨维度注意力机制,通过使用避免降维的通道注意力机制学习每个通道的权重,增强有效的特征和抑制无关的特征,并通过空间注意力进行补充将注意力集中在空间位置上,得到关键信息,基于关键信息,提取图像特征。
32、本专利技术第三方面提供了计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如本专利技术第一方面所述的基于跨维度注意力神经网络的图像特征提取方法中的步骤。
33、本专利技术第四方面提供了电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现如本专利技术第一方面所述的基于跨维度注意力神经网络的图像特征提取方法中的步骤。
34、以上一个或多个技术方案存在以下有益效果:
35、本专利技术采用了跨维度注意力机制,整合了图像的通道和空间信息,有助于捕捉图像中不同区域之间的相互依赖性,强调了特征提取过程中图像有效区域特征映射的重要性;相比于现有方法中通道注意力的降维操作,跨维度注意力有助于更好地维持特征通道与权值的直接映射关系,提高了通道注意力机制的学习效果。
36、本专利技术关注图像在空间信息上的相互依赖性,以更有效地考虑相关区域的注意力权重,有助于突显模型的决策过程,提高了模型的可解释性。
37、本专利技术附加方面的优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本专利技术的实践了解到。
本文档来自技高网...【技术保护点】
1.基于跨维度注意力神经网络的图像特征提取方法,其特征在于,包括:
2.如权利要求1所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述预处理,具体为:
3.如权利要求1所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述数据增强,是随机对图像进行随机旋转、随机翻转和随机缩放操作。
4.如权利要求1所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述特征提取模型,包括神经网络层、跨维度注意力层和卷积层;
5.如权利要求4所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述跨维度注意力层,包括依次连接的通道注意力和空间注意力;
6.如权利要求5所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述通道注意力,具体为:
7.如权利要求5所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述空间注意力,具体为:
8.基于跨维度注意力神经网络的图像特征提取系统,其特征在于,包括图像获取模块和特征提取模块:
9.一种
10.一种存储介质,其特征是,非暂时性地存储计算机可读指令,其中,当所述非暂时性计算机可读指令由计算机执行时,执行权利要求1-7任一项所述的方法。
...【技术特征摘要】
1.基于跨维度注意力神经网络的图像特征提取方法,其特征在于,包括:
2.如权利要求1所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述预处理,具体为:
3.如权利要求1所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述数据增强,是随机对图像进行随机旋转、随机翻转和随机缩放操作。
4.如权利要求1所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述特征提取模型,包括神经网络层、跨维度注意力层和卷积层;
5.如权利要求4所述的基于跨维度注意力神经网络的图像特征提取方法,其特征在于,所述跨维度注意...
【专利技术属性】
技术研发人员:郭伟,李程志,鹿旭东,闫中敏,何伟,孔兰菊,崔立真,
申请(专利权)人:山东大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。