当前位置: 首页 > 专利查询>东南大学专利>正文

一种基于组卷积神经网络使用共享卷积核的改进方法技术

技术编号:23315897 阅读:34 留言:0更新日期:2020-02-11 18:05
本发明专利技术公开了一种基于组卷积神经网络使用共享卷积核的改进方法,在一般的分组卷积中每个组都占用了与其他组不同的卷积核,这对硬件实现上带来许多不变。针对这个问题,提出了共享卷积核组卷积(KSGC)的概念,即将输入的通道平均分成多个组,并且对每个组分别进行卷积操作,特别之处在于,这个输入通道中的所有组都使用的是同一个卷积核进行卷积,在此基础上,还将组与组之间有信息交流的组卷积的卷积核改为共享的进行测试。这种共享卷积核组网络,使用了更少的参数,提高了卷积神经网络的计算效率,进一步解决了神经网络参数复杂度过高的问题,在硬件上也减少了逻辑资源消耗。

An improved method of using shared convolution kernel based on group convolution neural network

【技术实现步骤摘要】
一种基于组卷积神经网络使用共享卷积核的改进方法
本专利技术涉及图像处理
,尤其是一种基于组卷积神经网络使用共享卷积核的改进方法。
技术介绍
近年来,深度学习在解决高层次抽象认知问题上有着显著的成果,卷积神经网络(CNN)是深度学习的最为重要的工具之一,它的权值共享网络使之更类似生物神经网络结构,减少了权重数量,降低了模型的规模。卷积神经网络对图像的平移,缩放,旋转等形式的变形具有高度的适应性,在图像识别和目标检测等领域应用广泛,如微软利用卷积神经网络做阿拉伯文和中文的手写识别系统,谷歌使用卷积神经网络来识别街景图片中的人脸和车牌等等。CNN的性能正在迅速提高:ImageNet挑战的获胜者将分类准确率从2012年的84.7%(AlexNet)提高到2015年的96.5%(ResNet-152)。然而,精度的提高是以高计算复杂度为代价的。例如,AlexNet需要1.4×1010FLOPs来处理单个224×224图像,ResNet-152需要2.26×1011FLOPs。在移动嵌入式设备端,一个最主要的挑战在于大量的运算需要过多的硬件资本文档来自技高网...

【技术保护点】
1.一种基于组卷积神经网络使用共享卷积核的改进方法,其特征在于:其算法包括以下步骤:/n(1)在总通道个数M上进行以T个通道作为一组进行输入,D个通道作为该组的输出通道,进行卷积操作;一共进行M/T次卷积操作,特别之处在于每组卷积所使用的卷积核都是同一个卷积核,并且每次的输出通道D都相等;/n(2)接下来将M/T组输出通道D对应每张特征图的维度进行加法操作,将M/T个结果相加起来得到一个所有维度与D相同的一组输出张量。/n

【技术特征摘要】
1.一种基于组卷积神经网络使用共享卷积核的改进方法,其特征在于:其算法包括以下步骤:
(1)在总通道个数M上进行以T个通道作为一组进行输入,D个通道作为该组的输出通道,进行卷积操作;一共进行M/T次卷积操作,特别之处在于每组卷积所使用的卷积核都是同一个卷积核,并且每次的输出通道D都相等;
(2)接下来将M/T组输出通道D对应每张特征图的维度进行加法操作,将M/T个结果相加起来得到一个所有维度与D相同的一组输出张量。


2.根据权利要求1所述的基于组卷积神经网络使用共享卷积核的改进方法,其特征在于,步骤(1)中,对组卷积的一个输入通...

【专利技术属性】
技术研发人员:张萌段斌李国庆
申请(专利权)人:东南大学
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1