针对指定应用的类脑处理器NoC设计空间探索方法、系统及介质技术方案

技术编号:25949900 阅读:33 留言:0更新日期:2020-10-17 03:42
本发明专利技术公开了一种针对指定应用的类脑处理器NoC设计空间探索方法、系统及介质,本发明专利技术首先随机生成一种NoC的结构作为当前解P,然后在当前解P的基础上不断通过扰动在当前解P附近生成新的结构C,并基于历史最优值搜索下一个设计点,有效地解决了NoC的搜索空间是离散的、不同的设计参数之间存在依赖性的特性,确保搜索过程稳定找出历史最优解,本发明专利技术实现了针对指定应用的类脑处理器NoC设计空间探索(Design space exploration,DSE),能够对指定的SNN应用找到具有最低通信延迟、且满足实时性要求的类脑处理器NoC体系结构,所采用的启发式算法能够在保证搜索效果前提下,大幅降低搜索时间。

【技术实现步骤摘要】
针对指定应用的类脑处理器NoC设计空间探索方法、系统及介质
本专利技术设及的领域包括类脑处理器、脉冲神经网络(SNN)和片上网络(NoC)等领域,具体涉及针对指定应用的类脑处理器NoC设计空间探索(Designspaceexploration,DSE)方法、系统及介质。
技术介绍
类脑计算(NeuromorphicComputing)是人工智能领域的一个重要分支。目前业界已经存在一些优秀的类脑处理器。因为其存在低功耗、高并行、容错性等特点,类脑处理器已经被广泛地用于图像识别、语音识别、目标追踪等诸多领域。类脑处理器是类脑计算技术的基础设施,能够实现海量神经元的计算和互连,为类脑计算算法提供运行平台。近年来在国内外有许多类脑处理器研制成功,包括IBM的TrueNorth、Intel的Loihi、瑞士神经信息研究所的DYNAPs,曼彻斯特大学的SpiNNaker和清华大学的天机等等。片上网络(Network-on-Chip,NoC)是片上系统(system-on-chip,SoC)的一种通信方法,它的概念在2000年左右由学术界提出。产业界也推动着NoC的发展,从Sun的8核处理器UltraSPARCT1的交叉开关互连,到IBM的9核处理器Cell的环形互连,再到Tilera的64核处理器TILE64的二维Mesh网络互连,商业多核微处理器片上互连方式也在不断演化向NoC的方式迈进。经过学术界和产业界十余年的推动和发展,NoC已逐渐成为多核SoC片上互连的主流通信架构。NoC包括计算和通信两类节点,有效实现了计算与通信的分离。与传统的总线及交叉开关互连结构相比,片上网络具有这些优势:1)高带宽、低功耗;2)可扩展性;3)可重用性。这些特性使得其非常适合用于类脑处理器中的互连结构的实现。脉冲神经网络(spikingneuralnetwork,SNN)为第三代神经网络。常见的脉冲网络有MLP、RC。其中MLP中每一层的神经元都与下一层中的所有神经元全连接。RC网络为液体状态机的一种,它由输入层、液体层、输出层三部分组成。液体层中的神经元递归连接。SNN与传统的人工神经网络最大的不同是该网络中神经元之间通过离散的脉冲进行通信。离散的脉冲(spike)串可以理解为011001这样的序列,脉冲串中每个元素的坐标为脉冲产生的时间步,若该元素值为1,则说明该神经元在该时间步产生了一个脉冲。类脑处理器主要包括计算、互连以及存储。大脑中有大约有860亿个神经元,每个神经元的计算功能相对简单,但是每个神经元与其它神经元大约有1000-10,000个突触连接。神经元之间互不影响,并行运行。互连系统是类脑处理器中至关重要的组成部分,它的性能直接决定了类脑处理器性能的好坏。类脑处理器中运行的为脉冲神经网络。因此,脉冲神经网络中的时间步也要在类脑处理器中通过硬件实现这种机制。在硬件结构中,时间都是通过时钟(cycle)数来表示的。在NoC中进行数据传输时是有延迟的,因为出传输一个数据包涉及到路由计算、存储转发等各个阶段。不同的NoC结构有着不同的数据包传输延迟。为了实现高性能、可扩展、大量并行、低延迟、低功耗的目标,目前研究人员都采用片上网络(NetworkonChip,NoC)来设计类脑芯片中的通信系统。现有各个研究小组的类脑芯片中的片上网络都各不相同,拓扑方案有树形拓扑、网状拓扑、混合拓扑;路由方案有源路由、目的路由;针对SNN的时间同步方案有固定循环时间(TrueNorth)、动态循环时间(Loihi);网络中的数据包的格式设计有定长数据包、变长数据包。但是,不同的应用所适用的最佳NoC结构是不同的。同时,NoC又有很大的设计空间,要在如此庞大的设计空间中找到适合指定应用(Application)的最佳NoC设计是非常耗费时间与资源的。因此,需要一个探索框架,能够针对指定应用,探索NoC的实际空间(designspaceexploration,DSE),快速找到具有最低通信延迟、且满足实时性要求的NoC设计。
技术实现思路
本专利技术要解决的技术问题:针对现有技术的上述问题,提供一种针对指定应用的类脑处理器NoC设计空间探索方法、系统及介质,本专利技术实现了针对指定应用的类脑处理器NoC设计空间探索(Designspaceexploration,DSE),能够对指定的SNN应用找到具有最低通信延迟、且满足实时性要求的类脑处理器NoC体系结构,所采用的启发式算法能够在保证搜索效果前提下,大幅降低搜索时间。为了解决上述技术问题,本专利技术采用的技术方案为:一种针对指定应用的类脑处理器NoC设计空间探索方法,该方法包括:1)针对指定的脉冲神经网络,提取在运行过程中神经元与神经元之间的通信流量经过映射后得到核间通信流量,作为每个路由器中通信行为Trace;2)初始化迭代次数k和模拟退火算法的当前温度T,随机生成一种NoC的结构作为当前解P,并将核间通信行为Trace作为当前解P的输入,计算当前解P的预设性能指标L(P);3)通过扰动在当前解P附近生成新的结构C,计算结构C的预设性能指标L(C);4)判断当前解P的预设性能指标L(P)大于结构C的预设性能指标L(C)是否成立,若成立,则跳转执行步骤6);否则执行下一步;5)计算用于接受新的结构C的概率p,若概率p大于阈值r,则执行下一步;否则跳转执行步骤7;6)将新的结构C赋值给当前解P、结构C的预设性能指标L(C)赋值给当前解P的预设性能指标L(P),使得新的结构C成为新的当前解P;7)更新迭代次数k,判断迭代次数k是否满足退出条件,若满足退出条件,则执行下一步;否则跳转执行步骤3)继续进行下一轮迭代;8)判断模拟退火算法的当前温度T小于预设阈值Tmin是否成立,若成立则执行下一步;否则更新当前温度T的值,并跳转执行步骤3)继续进行下一轮搜寻;9)将得到的当前解P作为类脑处理器NoC的最优结构输出。可选地,步骤5)中计算用于接受新的结构C的概率p的函数表达式为:p=exp((L(P)–L(C))/T)上式中,L(P)为当前解P的预设性能指标,L(C)为结构C的预设性能指标,T为模拟退火算法的当前温度,exp为预设的关系函数。可选地,步骤5)中阈值r为预先生成区间在(0,1)内的随机数。可选地,所述当前解P、新的结构C均为包括拓扑结构、路由算法、虚通道分配方法、仲裁类型、优先级类型、虚通道数量、虚通道深度共七个维度数据。可选地,步骤3)中通过扰动在当前解P附近生成新的结构C的步骤包括:对当前解P中每一个维度数据的每一项数据生成新数据,将得到的所有新数据构成的新的维度数据,并将所有新的维度数据拼接得到新的结构C。可选地,所述对当前解P中每一个维度数据的每一项数据生成新数据的步骤包括:S1)输入该项数据对应的维度数据X、该项数据在对应维度数据中的索引号x、模拟退火算法的当前温度T;S2)计算维度数据X的长度length,并根据索引本文档来自技高网
...

【技术保护点】
1.一种针对指定应用的类脑处理器NoC设计空间探索方法,其特征在于,该方法包括:/n1)针对指定的脉冲神经网络,提取在运行过程中神经元与神经元之间的通信流量经过映射后得到核间通信流量,作为每个路由器中通信行为Trace;/n2)初始化迭代次数k和模拟退火算法的当前温度T,随机生成一种NoC的结构作为当前解P,并将核间通信行为Trace作为当前解P的输入,计算当前解P的预设性能指标L(P);/n3)通过扰动在当前解P附近生成新的结构C,计算结构C的预设性能指标L(C);/n4)判断当前解P的预设性能指标L(P)大于结构C的预设性能指标L(C)是否成立,若成立,则跳转执行步骤6);否则执行下一步;/n5)计算用于接受新的结构C的概率p,若概率p大于阈值r,则执行下一步;否则跳转执行步骤7);/n6)将新的结构C赋值给当前解P、结构C的预设性能指标L(C)赋值给当前解P的预设性能指标L(P),使得新的结构C成为新的当前解P;/n7)更新迭代次数k,判断迭代次数k是否满足退出条件,若满足退出条件,则执行下一步;否则跳转执行步骤3)继续进行下一轮迭代;/n8)判断模拟退火算法的当前温度T小于预设阈值T...

【技术特征摘要】
1.一种针对指定应用的类脑处理器NoC设计空间探索方法,其特征在于,该方法包括:
1)针对指定的脉冲神经网络,提取在运行过程中神经元与神经元之间的通信流量经过映射后得到核间通信流量,作为每个路由器中通信行为Trace;
2)初始化迭代次数k和模拟退火算法的当前温度T,随机生成一种NoC的结构作为当前解P,并将核间通信行为Trace作为当前解P的输入,计算当前解P的预设性能指标L(P);
3)通过扰动在当前解P附近生成新的结构C,计算结构C的预设性能指标L(C);
4)判断当前解P的预设性能指标L(P)大于结构C的预设性能指标L(C)是否成立,若成立,则跳转执行步骤6);否则执行下一步;
5)计算用于接受新的结构C的概率p,若概率p大于阈值r,则执行下一步;否则跳转执行步骤7);
6)将新的结构C赋值给当前解P、结构C的预设性能指标L(C)赋值给当前解P的预设性能指标L(P),使得新的结构C成为新的当前解P;
7)更新迭代次数k,判断迭代次数k是否满足退出条件,若满足退出条件,则执行下一步;否则跳转执行步骤3)继续进行下一轮迭代;
8)判断模拟退火算法的当前温度T小于预设阈值Tmin是否成立,若成立则执行下一步;否则更新当前温度T的值,并跳转执行步骤3)继续进行下一轮搜寻;
9)将得到的当前解P作为类脑处理器NoC的最优结构输出。


2.根据权利要求1所述的针对指定应用的类脑处理器NoC设计空间探索方法,其特征在于,步骤5)中计算用于接受新的结构C的概率p的函数表达式为:
p=exp((L(P)–L(C))/T)
上式中,L(P)为当前解P的预设性能指标,L(C)为结构C的预设性能指标,T为模拟退火算法的当前温度,exp为预设的关系函数。


3.根据权利要求1所述的针对指定应用的类脑处理器NoC设计空间探索方法,其特征在于,步骤5)中阈值r为预先生成区间在(0,1)内的随机数。


4.根据权利要求1所述的针对指定应用的类脑处理器NoC设计空间探索方法,其特征在于,所述当前解P、新的结构C均为包括拓扑结构、路由算法、虚通道分配方法、仲裁类型、优先级类型、虚通道数量、虚通道深度共七个维度数据。


5.根据权利要求1所述的针对指定应...

【专利技术属性】
技术研发人员:王蕾康子扬王世英李石明曲连华石伟龚锐潘国腾周海亮苏金树
申请(专利权)人:中国人民解放军国防科技大学
类型:发明
国别省市:湖南;43

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1