计算装置和方法制造方法及图纸

技术编号:16970279 阅读:56 留言:0更新日期:2018-01-07 06:57
一种计算装置和方法,所述计算装置包括运算单元,用于接收指令对所述权值和所述相应的输入神经元执行用于稀疏连接的人工神经网络运算,得到输出神经元。本公开的装置解决了CPU和GPU运算性能不足,前端译码开销大的问题,有效提高了对人工神经网络运算算法的支持,避免了内存带宽成为人工神经网络运算及其训练算法性能瓶颈的问题。

【技术实现步骤摘要】
计算装置和方法
本公开涉及数据处理
,更具体地涉及一种计算装置和方法。
技术介绍
人工神经网络(ArtificialNeuralNetworks,ANNs)简称为神经网络(NNs),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间的相互连接关系,从而达到处理信息的目的。神经网络用到的算法就是向量乘法,并且广泛采用符号函数及其各种逼近。就像大脑里的神经网络一样,神经网络由一些互相连接的节点组成,如图1所示,每个圆圈表示一个神经元,每个箭头表示两个神经元之间的连接又被称为权值。神经元的计算公式可以简单的描述成:其中,x表示所有和输出神经元相连接的输入神经元,w表示x和输出神经元之间对应的权值。f(x)是一个非线性函数,通常称作激活函数,常用的函数如:等。神经网络被广泛应用于各种应用场景:计算视觉、语音识别和自然语言处理等。在近几年的时间里,神经网络的规模一直在增长。在1998年,Lecun用于手写字符识别的神经网络的规模小于1M个权值;在2012年,krizhevsky用于参加ImageNet竞赛的规模是6本文档来自技高网...
计算装置和方法

【技术保护点】
一种计算装置,其特征在于,包括:映射单元,用于接收输入数据,输入数据包括输入神经元,权值,和连接关系;映射单元还用于根据连接关系将每个权值一一对应于相应的输入神经元和权值;运算单元,用于接收指令对所述权值和所述相应的输入神经元执行用于稀疏连接的人工神经网络运算,得到输出神经元。

【技术特征摘要】
1.一种计算装置,其特征在于,包括:映射单元,用于接收输入数据,输入数据包括输入神经元,权值,和连接关系;映射单元还用于根据连接关系将每个权值一一对应于相应的输入神经元和权值;运算单元,用于接收指令对所述权值和所述相应的输入神经元执行用于稀疏连接的人工神经网络运算,得到输出神经元。2.如权利要求1所述的计算装置,其特征在于,所述连接关系包括:第一种情形:采用1表示有连接,0表示无连接,每个输出神经元与所有输入输出神经元的连接状态组成一个0和1的字符串来表示该输出神经元的连接关系;或者采用1表示有连接,0表示无连接,每个输入神经元与所有输出神经元的连接状态组成一个0和1的字符串来表示该输入神经元的连接关系;或者第二种情形:将一输出神经元的第一个有连接的输入神经元所在的位置距离第一个输入神经元的距离、所述输出神经元的第二个有连接的输入神经元距离第一个有连接的输入神经元的距离,所述输出神经元的第三个有连接的输入神经元距离第二个有连接的输入神经元距离,……,依次类推,直到穷举所述输出神经元的所有输入神经元,来表示所述输出的连接关系。3.如权利要求1-2中任一所述的计算装置,其特征在于,所述运算单元接收指令对所述相应的输入神经元和所述权值执行运算,得到输出神经元包括:所述...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:南京艾溪信息科技有限公司
类型:发明
国别省市:江苏,32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1