一种环形总线结构及防止死锁的方法、AI芯片及电子设备技术

技术编号:38603808 阅读:23 留言:0更新日期:2023-08-26 23:36
本申请涉及一种环形总线结构及防止死锁的方法、AI芯片及电子设备。该环形总线结构包括:环形节点网络,其包含环形连接的多个RS节点,任意相邻RS节点之间均配置有一对虚拟传输路径,多个RS节点之间的一对虚拟传输路径形成外环虚拟传输路径和内环虚拟传输路径;将外环虚拟传输路径上的首尾路径、内环虚拟传输路径上的首尾路径均配置为不连接;并将外环虚拟传输路径上的首路径与内环虚拟传输路径上的尾路径连接,或,外环虚拟传输路径上的尾路径与内环虚拟传输路径上的首路径连接。该环形总线结构在待连接的模块数量增加时,仅需要增加连接节点,并重新将各个连接节点连接起来即可,具有灵活性好、兼容性高的优点。兼容性高的优点。兼容性高的优点。

【技术实现步骤摘要】
一种环形总线结构及防止死锁的方法、AI芯片及电子设备


[0001]本申请涉及电子电路领域,具体涉及一种环形总线结构及防止死锁的方法、AI芯片及电子设备。

技术介绍

[0002]AI(Artificial Intelligence,人工智能)芯片内部存在多个相互通信的模块,比如视频编解码模块对内存的访问、IO(Input Output)模块对内存的访问、内存管理单元对内存的访问、计算模块对视频编解码模块、IO模块、内存的访问等。为了实现这些模块之间的通信,常采用交叉开关网络实现,如图1所示。所有模块连接到交叉开关网络,当模块1要访问模块M时,请求信号需要经过交叉开关网络到达模块M,模块M的返回信号同样要经过交叉开关网络到达模块1。
[0003]在芯片面积较小的情况下,芯片内部相互通信的模块数量不多,并且在芯片的布局上距离较近,采用交叉开关网络能够在硬件资源开销较小的情况下实现通信。然而随着对AI芯片的算力需求越来越大,AI芯片的面积也越做越大,AI芯片内部相互通信的模块数量也随之增多,模块之间的距离也随之增大,所使用的交叉开关网络的结构也随之变得复杂;并且这种通信方式不够灵活,当模块数量变化时需要重新设计交叉开关网络,且模块数量越多,交叉开关网络的结构越复杂,所占用的面积也越大。

技术实现思路

[0004]鉴于此,本申请的目的在于提供一种环形总线结构及防止死锁的方法、AI芯片及电子设备,以改善当前采用交叉开关网络来连接AI芯片中求的各个模块时所存在的问题。
[0005]本申请的实施例是这样实现的:
[0006]第一方面,本申请实施例提供了一种环形总线结构,包括:环形节点网络,所述环形节点网络包含环形连接的多个RS节点,任意相邻RS节点之间均配置有一对虚拟传输路径,所述多个RS节点之间的一对虚拟传输路径形成外环虚拟传输路径和内环虚拟传输路径;其中,将所述外环虚拟传输路径上的首尾路径、所述内环虚拟传输路径上的首尾路径均配置为不连接;并将所述外环虚拟传输路径上的首路径与所述内环虚拟传输路径上的尾路径连接,或,所述外环虚拟传输路径上的尾路径与所述内环虚拟传输路径上的首路径连接。
[0007]本申请实施例中,该环形总线结构能够在待连接的模块数量增加时,也不需重新设计其的主体结构,仅需要增加连接节点,并重新将各个连接节点连接起来即可,具有灵活性好、兼容性高的优点;同时,通过在任意相邻RS节点之间均配置有一对虚拟传输路径,并将形成的外环虚拟传输路径上的首尾路径、内环虚拟传输路径上的首尾路径均配置为不连接,将外环虚拟传输路径上的首路径与内环虚拟传输路径上的尾路径连接,或,外环虚拟传输路径上的尾路径与内环虚拟传输路径上的首路径连接,有效防止了环形网络的死锁,保证了请求信息包传输的可靠性。
[0008]结合第一方面实施例的一种可能的实施方式,每个RS节点被配置为:响应于传输
接收到的请求信息包的操作,比较本节点的ID编号与所述请求信息包中目的节点的ID编号的大小,根据比较结果选择传输所述请求信息包的目标虚拟传输路径;其中,所述目标虚拟传输路径为所述外环虚拟传输路径或所述内环虚拟传输路径。
[0009]本申请实施例中,通过比较本节点的ID编号与请求信息包中目的节点的ID编号的大小,根据比较结果选择传输请求信息包的目标虚拟传输路径,例如,如果比较结果表征本节点的ID编号小于目的节点的ID编号,选用外环虚拟传输路径传输该请求信息包,如果比较结果表征本节点的ID编号大于等于目的节点的ID编号,选用内环虚拟传输路径传输该请求信息包,这样可以使各个请求信息包较均衡的被分到2个虚拟传输路径(外环虚拟传输路径和内环虚拟传输路径)上,便于流量均衡。
[0010]结合第一方面实施例的一种可能的实施方式,所述环形节点网络包括:多个RS节点和总线环;每个RS节点还被配置于与存在数据交互需求的至少一个模块连接;总线环被配置为将所述多个RS节点环形的连接在一起。
[0011]本申请实施例中,利用总线环将多个RS节点环形的连接在一起,这样可以快速的构成环形节点网络,且便于后期扩展,在增加或减少RS节点时,仅需要重新连接即可。
[0012]结合第一方面实施例的一种可能的实施方式,所述总线环为包含顺时针环和逆时针环的双向总线环。
[0013]本申请实施例中,采用包含顺时针环和逆时针环的双向总线环来实现环形总线结构,增加了结构的可靠性,即便其中一个环路出现故障,也可以依靠另一个环路仅请求信息包传输出去。
[0014]结合第一方面实施例的一种可能的实施方式,每个RS节点还被配置为:响应于传输接收到的请求信息包的操作,根据本节点与所述请求信息包中目的节点的距离选择传输所述请求信息包的环路;其中,所述环路为所述顺时针环或所述逆时针环。
[0015]本申请实施例中,根据本节点与请求信息包中目的节点的距离,选择传输请求信息包的环路,即可以选择走顺时针环还是走逆时针环,从而选择传输距离最近的传输通路,这样可以提高传输效率,减少对资源的占用。
[0016]结合第一方面实施例的一种可能的实施方式,针对所述顺时针环中的任意相邻RS节点之间均配置有一对虚拟传输路径,以及,针对所述逆时针环中的任意相邻RS节点之间均配置有一对虚拟传输路径。
[0017]本申请实施例中,当总线环为包含顺时针环和逆时针环的双向总线环时,会针对顺时针环配置一对虚拟传输路径,以及,针对逆时针环配置一对虚拟传输路径,以避免出现死锁。
[0018]结合第一方面实施例的一种可能的实施方式,任意相邻RS节点之间还额外配置有一对高优先级虚拟传输路径,所述高优先级虚拟传输路径用于传输优先级高于指定优先级的请求信息包。
[0019]本申请实施例中,通过额外配置有一对高优先级虚拟传输路径,以便用于传输优先级高于指定优先级的请求信息包,以提高传输效率,提高优先级高的请求信息包的处理效果。
[0020]第二方面,本申请实施例还提供了一种AI芯片,包括:多个模块和上述环形总线结构;所述环形总线结构中的每个RS节点用于连接所述多个模块中的至少一个模块。
[0021]第三方面,本申请实施例还提供了一种电子设备,包括:本体和上述的AI芯片。
[0022]第四方面,本申请实施例还提供了一种防止环形总线结构死锁的方法,所述防止环形总线结构包含环形连接的多个RS节点,所述方法包括:在所述多个RS节点中的任意相邻RS节点之间均配置一对虚拟传输路径;其中,所述多个RS节点之间的一对虚拟传输路径形成外环虚拟传输路径和内环虚拟传输路径;将所述外环虚拟传输路径上的首尾路径、所述内环虚拟传输路径上的首尾路径均配置为不连接;将所述外环虚拟传输路径上的首路径与所述内环虚拟传输路径上的尾路径连接,或,所述外环虚拟传输路径上的尾路径与所述内环虚拟传输路径上的首路径连接。
[0023]本申请的其他特征和优点将在随后的说明书阐述。本申请的目的和其他优点可通过在所写的说明书以及附图中所特别指出的结构来实现和获得。
附图说明本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种环形总线结构,其特征在于,包括:环形节点网络,所述环形节点网络包含环形连接的多个RS节点,任意相邻RS节点之间均配置有一对虚拟传输路径,所述多个RS节点之间的一对虚拟传输路径形成外环虚拟传输路径和内环虚拟传输路径;其中,将所述外环虚拟传输路径上的首尾路径、所述内环虚拟传输路径上的首尾路径均配置为不连接;并将所述外环虚拟传输路径上的首路径与所述内环虚拟传输路径上的尾路径连接,或,所述外环虚拟传输路径上的尾路径与所述内环虚拟传输路径上的首路径连接。2.根据权利要求1所述的环形总线结构,其特征在于,每个RS节点被配置为:响应于传输接收到的请求信息包的操作,比较本节点的ID编号与所述请求信息包中目的节点的ID编号的大小,根据比较结果选择传输所述请求信息包的目标虚拟传输路径;其中,所述目标虚拟传输路径为所述外环虚拟传输路径或所述内环虚拟传输路径。3.根据权利要求1所述的环形总线结构,其特征在于,所述环形节点网络包括:多个RS节点,每个RS节点还被配置于与存在数据交互需求的至少一个模块连接;总线环,被配置为将所述多个RS节点环形的连接在一起。4.根据权利要求3所述的环形总线结构,其特征在于,所述总线环为包含顺时针环和逆时针环的双向总线环。5.根据权利要求4所述的环形总线结构,其特征在于,每个RS节点还被配置为:响应于传输接收到的请求信息包的操作,根据本节点与所述请求信息包中目的节点的距离选择传输所述请...

【专利技术属性】
技术研发人员:方建荣贺鹏
申请(专利权)人:上海天数智芯半导体有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1