一种FPGA实现残差网络中激活函数的方法技术

技术编号:16838273 阅读:39 留言:0更新日期:2017-12-19 20:28
本发明专利技术公开了一种FPGA实现残差网络中激活函数的方法,该方法包括:每次进入残差网络的一个新的卷积层时,从FGPA芯片的缓存DDR中读取激活函数所需的参数;将经过FGPA芯片的卷积模块处理后的数据,通过内存通道channel读入激活函数处理模块中;在激活函数处理模块中将数据依次经过代入批归一化函数、缩放函数和线性激活函数进行处理,将处理后的数据通过内存通道channel写回到缓存DDR中。该方法实现减少不同激活函数间的数据传输I/O损耗。

A method of FPGA to implement the activation function in the residual network

The invention discloses a FPGA function to activate residual network, the method includes: the convolution of a new layer of each into the residual network, read the activation parameters required function from the cache DDR FGPA chip; the convolution module FGPA chip processing the data through the memory channel channel read the activation function processing module in the data processing module; followed by substituting group of normalized function, zoom function and linear activation function of activation function, the processed data through the channel write back cache memory channel DDR. This method can reduce the I/O loss of data transmission between different activation functions.

【技术实现步骤摘要】
一种FPGA实现残差网络中激活函数的方法
本专利技术涉及深度学习加速
,特别是涉及一种FPGA实现残差网络中激活函数的方法。
技术介绍
目前,大数据技术的快速发展极大的推动了深度学习技术发展的进程,而FPGA则是加速深度学习的有效手段之一。在通常的由CPU实现的卷积神经网络结构中,不同种类的激活函数均处于单独的模块中,以实现搭建不同网络结构的复用与重载。涉及到FPGA实现残差网络中激活函数的使用,但在FPGA中各激活函数的模块没有可复用性,各模块之间数据通过内存通道(channel)进行通信,因此反复的读写芯片缓存(DDR)必然会带来输入与输出上的效率损耗,即不同激活函数间的数据传输I/O损耗较多。因此如何减少不同激活函数间的数据传输I/O损耗是亟待解决的问题。
技术实现思路
本专利技术的目的是提供一种FPGA实现残差网络中激活函数的方法,以实现减少不同激活函数间的数据传输I/O损耗。为解决上述技术问题,本专利技术提供一种FPGA实现残差网络中激活函数的方法,包括:每次进入残差网络的一个新的卷积层时,从FGPA芯片的缓存DDR中读取激活函数所需的参数;将经过FGPA芯片的卷积模块处本文档来自技高网...
一种FPGA实现残差网络中激活函数的方法

【技术保护点】
一种FPGA实现残差网络中激活函数的方法,其特征在于,包括:每次进入残差网络的一个新的卷积层时,从FGPA芯片的缓存DDR中读取激活函数所需的参数;将经过FGPA芯片的卷积模块处理后的数据,通过内存通道channel读入激活函数处理模块中;在激活函数处理模块中将数据依次经过代入批归一化函数、缩放函数和线性激活函数进行处理,将处理后的数据通过内存通道channel写回到缓存DDR中。

【技术特征摘要】
1.一种FPGA实现残差网络中激活函数的方法,其特征在于,包括:每次进入残差网络的一个新的卷积层时,从FGPA芯片的缓存DDR中读取激活函数所需的参数;将经过FGPA芯片的卷积模块处理后的数据,通过内存通道channel读入激活函数处理模块中;在激活函数处理模块中将数据依次经过代入批归一化函数、缩放函数和线性激活函数进行处理,将处理后的数据通过内存通道channel写回到缓存DDR中。2.如权利要求1所述的方法,其特征在于,所述将经过FGPA芯片的卷积模块处理后的数据,通过内存通道channel读入激活函数处理模块中,包括:将经过FGPA芯片的卷积模块处理...

【专利技术属性】
技术研发人员:丁良奎
申请(专利权)人:郑州云海信息技术有限公司
类型:发明
国别省市:河南,41

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1