The present invention provides a processing system applied to a two valued weighted convolution neural network. The system includes at least one storage unit for storing data and instructions; at least one control unit, used to get stored in the storage unit instructions and send control signals; at least one calculation unit for two weight value data and obtained by performing addition and subtraction operations under a layer of a layer of nodes the convolution in the neural network and the corresponding value obtained from the storage unit. The system of the invention reduces the convolutional neural network calculation process, improve the data width of convolution operation speed and reduce the storage capacity and energy consumption.
【技术实现步骤摘要】
应用于二值权重卷积网络的处理系统及方法
本专利技术涉及计算机
,尤其涉及一种应用于二值权重卷积网络的处理系统及方法。
技术介绍
深度学习技术在近几年得到了飞速的发展,深度神经网络,尤其是卷积神经网络,在图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐和智能机器人等领域取得了广泛的应用。通过深度学习获得的深度网络结构是一种运算模型,其中包含大量数据节点,每个数据节点与其他数据节点相连,各个节点间的连接关系用权重表示。伴随着神经网络复杂度的不断提高,神经网络技术在实际应用过程中存在占用资源多、运算速度慢、能量消耗大等问题。在现有技术中,为解决上述问题,将二值权重卷积神经网络模型应用到图像识别、增强现实和虚拟现实等领域。二值权重卷积神经网络通过将权重二值化(例如,采用1和-1表示权重)减少了数据位宽,极大地降低了参数容量并且提高了网络模型运算速度。二值权重卷积神经网络的出现降低了图像识别等复杂系统运行所需要的硬件配置,扩展了卷积神经网络的应用领域。然而,目前大部分的深度学习应用是使用中央处理器和图形处理单元等实现的,这些技术能效不高,在嵌入式设备或低 ...
【技术保护点】
一种应用于二值权重卷积神经网络的处理系统,其特征在于,包括:至少一个存储单元,用于存储数据和指令;至少一个控制单元,用于获得保存在所述存储单元的指令并发出控制信号;至少一个计算单元,用于从所述存储单元获得卷积神经网络中的一层的节点值和对应的二值权重值数据并通过执行加减操作获得下一层的节点值。
【技术特征摘要】
1.一种应用于二值权重卷积神经网络的处理系统,其特征在于,包括:至少一个存储单元,用于存储数据和指令;至少一个控制单元,用于获得保存在所述存储单元的指令并发出控制信号;至少一个计算单元,用于从所述存储单元获得卷积神经网络中的一层的节点值和对应的二值权重值数据并通过执行加减操作获得下一层的节点值。2.根据权利要求1所述的系统,其特征在于,所述计算单元包括卷积单元和累加器,其中,所述卷积单元接收卷积神经网络中的一层的节点值和对应的二值权重值数据,所述卷积单元的输出耦合到所述累加器。3.根据权利要求2所述的系统,其特征在于,所述卷积单元包括数值取反单元、多路选择单元和加法器,其中,输入数据分别通过所述数值取反单元接入至所述多路选择单元以及直接接入至所述多路选择单元,二值权重值数据接入至所述多路选择单元以控制所述多路选择单元的信号选通,所述多路选择单元的输出接入至所述加法器。4.根据权利要求1所述的系统,...
【专利技术属性】
技术研发人员:韩银和,许浩博,王颖,
申请(专利权)人:中国科学院计算技术研究所,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。