System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种用于超大规模类脑神经网络的突触信息路由和存储方法技术_技高网

一种用于超大规模类脑神经网络的突触信息路由和存储方法技术

技术编号:41130831 阅读:3 留言:0更新日期:2024-04-30 18:00
本发明专利技术公开了一种用于超大规模类脑神经网络的突触信息路由和存储方法,涉及类脑人工智能技术领域,通过查找片上路由表中神经元群ID对应的路由信息,对每个收到的数据包进行转发和/或接收。根据路由信息,数据包可能会被转发至临近的芯片,也可能被该芯片接收处理。通过源芯片和中途芯片在路由过程中对一个数据包的转发,目的地芯片对数据包进行接收处理,一次多播路由过程以此完成。目的地芯片根据数据包信息解码获得相应突触信息完成后续突触计算。本方法有效地解决当神经元网络规模极大时传统路由方法中路由表以及存储突触信息所需的巨大存储空间问题。

【技术实现步骤摘要】

本专利技术涉及类脑人工智能,尤其是一种用于超大规模类脑神经网络的突触信息路由和存储方法


技术介绍

1、脉冲神经网络(snn)被称为第三代人工神经网络,更加接近于人脑处理信息的方式。脉冲神经网络对单个神经元进行建模使其更接近于真实神经元的行为。神经元之间通过突触放电产生脉冲来进行信息交互。神经突触连接决定了神经网络的行为。类脑计算网络将这一过程通过硬件来实现从而达到模拟大脑的目的。

2、在类脑计算中,神经元模型可以通过模拟电路或者数字电路来实现。模拟电路通过拟合神经元电学特性来模拟神经元,而数字电路则通过实现神经元模型对神经元进行行为上模拟。数字电路神经元实现又可分为专用数字电路实现以及通用处理器运行神经元模型实现。

3、神经元在内部达到发放阈值时会通过突触发放脉冲到下一级神经元实现信息传递。我们把发放脉冲的神经元叫做突出前神经元,接收脉冲的神经元叫突触后神经元。在大脑中,一个神经元可能与成千上万的神经元有突触连接。在类脑计算系统中,如果直接用脉冲信号进行信息传递,那么需要任意神经元之间都有直接的连接。当神经元规模极大时,这在硬件实现中是不可能的。我们通常对脉冲信号进行编码,用来标记是从哪个神经元发出的脉冲。然后通过片上路由传递到目的神经元,从而实现神经元间信息交互。

4、人大脑中大约有近千亿神经元,对所有神经元编码需要40位数据作为神经元id。如果要支持人脑规模神经元网络的实现,在每个芯片上保存所有脉冲信号的路由需要近千亿个地址的存储器,同样也需要具有近千亿个地址的存储器来保存突触前神经元在当前芯片中的突触信息。这在硬件上是无法实现的。同时在人脑中,并不是所有神经元相互之间都会产生突触连接,而是呈现稀疏性。

5、如何利用稀疏性有效压缩存储空间并且支持超大规模神经元网络是当前亟需解决的一个问题。


技术实现思路

1、本专利技术针对现有技术的不足,提出一种用于超大规模类脑神经网络的突触信息路由和存储方法,通过查找片上路由表中神经元群id对应的路由信息,对每个收到的数据包进行转发或(和)接收。根据路由信息,数据包可能会被转发至临近的芯片,以及可能被该芯片接收处理。通过源芯片和中转芯片在路由过程中对一个数据包的转发,目的地芯片对数据包进行接收处理,一次多播路由过程以此完成。

2、路由表中仅包含有效路由信息实现稀疏性压缩。通过查表实现从神经元群id到匹配项索引的映射,从而实现路由表存储空间压缩。然后使用匹配项索引以及神经元群内id来获取神经突触信息。实现突触信息存储空间的压缩。

3、为了实现上述专利技术目的,本专利技术提供以下技术方案:

4、一种用于超大规模类脑神经网络的突触信息路由和存储方法,将类脑计算芯片上的神经元划分为若干神经元群,每个所述神经元群包含唯一群id,所述群id对应唯一路由表信息并且该路由表中仅包含涉及当前芯片(中转或目的地)的路由信息;所述类脑计算芯片间的神经元脉冲以数据包的形式传递,数据包包含突触前神经元id;数据包的处理包括如下步骤:

5、步骤(1)类脑计算芯片接收其它类脑计算芯片发送的数据包;

6、步骤(2)提取所述数据包中的突触前神经元id,获取所述神经元id对应的群id;

7、步骤(3)通过所述群id在路由表中查找匹配项,获取对应的路由表的路由信息;

8、步骤(4)根据所述路由信息决定所述数据包的转发或(和)接收处理;

9、步骤(5)当需要接收处理时,由匹配项地址以及神经元群内id组成新的地址来获取相应突出前神经元在该芯片的突触信息。

10、优选的,所述路由表由若干m位群id和对应的j位路由信息组成,所述j位路由信息包括标记数据包转发方向的标志位,和标记数据包是否被当前芯片接收处理的标志位。

11、优选的,单个芯片的类脑计算芯片的所述路由表的长度为k条(k≤2^m)。

12、优选的,单个芯片的类脑计算芯片的所述突触信息表的长度为k*2^n条(k*2^n≤2^(m+n))。

13、有益效果

14、本专利技术所提供的一种用于超大规模类脑神经网络的突触信息路由和存储方法,通过查找片上有效路由表中群id对应匹配项的路由信息,对每个收到的数据包进行转发或(和)接收处理。根据路由信息,数据包可能会被转发至临近的芯片,以及可能被该芯片接收处理。到达目的芯片时,用压缩后的突触前神经元id(匹配项索引+群内id)去索引获取相应突触连接信息。本方法有效地解决传统路由方法中路由表所需的巨大体积问题以及传统方法中保存突触前神经元在当前芯片中突触信息所需的巨大存储空间问题,特别是当神经元规模极大增加时,传统方式所需存储空间是不可能实现的。

本文档来自技高网...

【技术保护点】

1.一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:将类脑计算芯片上的神经元划分为若干神经元群,每个所述神经元群中包含若干神经元,每个所述神经元群包含唯一群ID,所述群ID对应唯一路由表的信息,所述路由表包含当前芯片的路由信息;所述神经元包含唯一神经元ID,所述神经元ID由两部分组成:M位用于标识神经元群的群ID和N位用来区分群内神经元的群内ID;所述群ID对应唯一路由表信息,并以神经元群为单位进行路由;所述神经元通过突触来传递数据包的脉冲,发出脉冲的神经元为突触前神经元,接收脉冲的神经元为突触后神经元;所述数据包的处理包括:

2.根据权利要求1所述一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:以神经元群为单位路由时,每个芯片包含一个由K条M位群ID组成的路由条目表以及一个由K条J位路由方向构成的路由信息表;通过查找路由条目表获得是否有匹配项结果,若有匹配项则获得匹配项索引,完成群ID到匹配项索引的压缩,并根据匹配项索引在路由信息表里查找相应路由信息。

3.根据权利要求2所述一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:所述路由表的长度为K条,其中K≤2^M。

4.根据权利要求2所述一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:所述群内ID用来指定某个神经元群的特定神经元,再加上匹配项索引去获取来自该神经元的在当前芯片的突触信息,突触信息存于突触信息表中。

5.根据权利要求4所述一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:所述突触信息表的长度为K*2^N条,其中K*2^N≤2^(M+N)。

...

【技术特征摘要】

1.一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:将类脑计算芯片上的神经元划分为若干神经元群,每个所述神经元群中包含若干神经元,每个所述神经元群包含唯一群id,所述群id对应唯一路由表的信息,所述路由表包含当前芯片的路由信息;所述神经元包含唯一神经元id,所述神经元id由两部分组成:m位用于标识神经元群的群id和n位用来区分群内神经元的群内id;所述群id对应唯一路由表信息,并以神经元群为单位进行路由;所述神经元通过突触来传递数据包的脉冲,发出脉冲的神经元为突触前神经元,接收脉冲的神经元为突触后神经元;所述数据包的处理包括:

2.根据权利要求1所述一种用于超大规模类脑神经网络的突触信息路由和存储方法,其特征在于:以神经元群为单位路由时,每个芯片包含一个由k条m位群id组成的路由条目表以及一...

【专利技术属性】
技术研发人员:马宁环宇翔贾浩邹卓郑立荣
申请(专利权)人:广东省智能科学与技术研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1