当前位置: 首页 > 专利查询>英特尔公司专利>正文

用于高带宽存储器的可缩放芯片上网络制造技术

技术编号:23459408 阅读:26 留言:0更新日期:2020-03-03 05:27
本文描述了用于集成电路的存储器控制器,该存储器控制器实现芯片上网络(NoC)来提供对存储器的访问,以将集成电路的处理核耦合到存储器装置。该NoC可专用于服务存储器控制器,并且可包括一个或多个路由器以促进对存储器控制器的访问的管理。

Scalable on chip network for high bandwidth memory

【技术实现步骤摘要】
用于高带宽存储器的可缩放芯片上网络相关申请的交叉引用本申请要求来自序列号为62/722,741的美国临时申请的优先权以及其益处,该美国临时申请标题为“用于高带宽存储器的高效率且可缩放的芯片上网络拓扑以及应用(AnEfficientAndScalableNetwork-On-ChipTopologyForHigh-BandwidthMemory,AndApplications)”,提交于2018年8月24日,出于所有目的通过引用将其整体地结合于本文中。
技术介绍
本公开涉及数字电路,并且具体来说,涉及数字电子装置中的数据路由电路。本部分旨在向读者介绍可能与本公开的各个方面相关的技术的各个方面,本公开的所述各个方面在下面描述和/或要求保护。相信该讨论将有助于向读者提供背景信息以促进本公开的各个方面的更好的理解。因此,应理解,这些陈述要从这个角度来阅读,而不是作为对现有技术的承认。可编程逻辑装置是一类集成电路,该类集成电路可被编程以执行各种各样的操作。可编程逻辑装置可包括可编程逻辑元件,所述可编程逻辑元件能够被配置成执行定制操作或被配置成实现一个或多个数据处理电路。在可编程逻辑装置中被编程的数据处理电路可经由接口彼此交换数据以及与电路外(off-circuit)装置交换数据。为此,可编程逻辑装置可包括路由资源(例如,专用互连)以将不同的数据处理电路连接到外部接口(例如,存储器控制器、收发器)。作为示例,某些装置可以以系统级封装(SiP)形式配置,其中诸如现场可编程门阵列(FPGA)之类的可编程装置使用高带宽接口耦合到诸如高带宽存储器(HBM)之类的存储器。FPGA可实现可经由路由资源访问HBM的多个数据处理电路。随着数据量、处理速度以及装置中的功能块的数目的增加,路由资源可能变得不足以提供所请求的访问,并且在某些情况下,可能变成可能降低电子装置的操作容量的瓶颈。附图说明在阅读以下详细描述之后并且在参考附图之后,可更好地理解本公开的各个方面,附图中:图1是根据实施例的利用电路设计来编程的可编程逻辑装置的框图;图2是根据实施例的可使用可编程逻辑装置来快速响应于数据处理请求的数据处理系统的框图;图3是根据实施例的包括系统级封装(SiP)的电子装置的框图,该系统级封装(SiP)包括耦合到存储器装置的可编程逻辑装置;图4是根据实施例的具有带有专用芯片上网络(NoC)的存储器接口的可编程逻辑装置的示图,所述存储器接口用于将数据路由至存储器控制电路和从存储器控制电路路由数据,并且所述存储器接口连接到可编程逻辑装置NoC;图5是根据实施例的使用带有专用NoC的存储器接口来与存储器装置交换数据的方法的流程图示图;图6是根据实施例的具有专用NoC的存储器接口的框图;图7是根据实施例的可由存储器接口的专用NoC使用的路由器的示图;图8是根据实施例的可用于带有专用NoC的存储器接口的桥电路的示图;图9是根据实施例的可用于支持用于存储器控制的虚拟通道的NoC路由器的逻辑示图;图10是根据实施例的示出通过存储器接口中的专用NoC的路由器的可能数据路径的逻辑示图;图11是根据实施例的带有配置成提供对多个核的访问的专用NoC的存储器接口的示图;图12是根据实施例的带有专用NoC的存储器接口的示图,所述专用NoC配置成通过采用缓冲器旁路提供宽的输入/输出(I/O)带宽;以及图13是根据实施例的用于将NoC路由器配置成执行缓冲器旁路的方法的流程图。具体实施方式以下将描述一个或多个特定实施例。试图提供这些实施例的简明描述,并未在说明书中描述实际实现的所有特征。可理解,在任何这种实际实现的开发中,如在任何工程或设计项目中那样,必须做出大量特定于实现的决策以实现开发者的特定目标,诸如遵从与系统相关的和与商业相关的约束,这可能因实施而异。此外,可理解,这样的开发努力可能是复杂且耗时的,但是对于具有本公开益处的本领域技术人员来说,将只不过是常规的设计、制造和制作任务。当介绍本公开的各种实施例的元素时,冠词“一”、“一个”和“该”旨在表示存在一个或多个元素。术语“包含”、“包括”和“具有”旨在是包含性的,并且意味着可能存在除所列出的元素之外的额外元素。此外,应理解,对本公开的“一个实施例”或“实施例”的引用不旨在被解释为排除也结合了所叙述的特征的额外实施例的存在。此外,短语A“基于”B旨在表示A至少部分地基于B。此外,除非另有明确陈述,否则术语“或”旨在是包括性的(例如,逻辑或(OR))而不是排他性的(例如,逻辑异或(XOR))。换句话说,短语A“或”B旨在表示A、B、或A和B两者。可编程逻辑装置的高度灵活性质使它们非常适于加速许多计算任务。可编程逻辑装置越来越多地被用作机器学习、视频处理、语音识别、图像识别以及许多其它高度专业化的任务的加速器,具体来说是那些在处理器上运行的软件中会太慢或效率低的高度专业化的任务。随着可编程逻辑装置的大小和复杂性的增加,存在由可编程逻辑装置内实现的功能块(例如,加速器、处理器、协处理器、数字信号处理器)处理的数据量和数目的增加。由于核之间和/或核与外部装置之间交换的数据量也增加,消耗了可编程装置的大量的互连资源。此外,在异构系统(例如,带有具有不同的操作频率和/或带宽的多个处理单元或核的系统),要求对存储器进行访问的核可接收预分配的量的存储器,该预分配的量可以是固定的。在操作期间,一些核可要求比已预分配给它们的存储器空间更多的存储器空间,而其它核由于较低的工作负载而可能未充分利用存储器空间。管理这种分配可使由存储器控制器执行的任务变得更加复杂。为了防止通过可编程装置的核访问外部装置时的瓶颈,可使用高级数据路由拓扑。本公开描述了诸如芯片上网络(NoC)拓扑之类的基于路由器拓扑的使用,以促进与诸如存储器接口之类的外部接口的连接。可编程逻辑装置可具有NoC,该NoC将可编程装置的多个数据处理核连接到存储器接口。此外,外部接口(例如,存储器接口)可包括连接到FPGANoC的专用NoC,以允许使用数据分组对接口进行访问。专用NoC还可允许用于数据分组的灵活的路由,以便减少或防止由可编程装置的多个数据处理核同时对接口进行访问的数据拥塞。本文描述的接口控制器可配置成通过采用桥而允许可编程逻辑装置中的核与接口之间的直接通信,和/或可配置成旁路模式以允许对存储器控制器进行直接访问。存储器接口的NoC还可包括虚拟通道,以允许通过接口对某些数据分组进行优先化,以提供服务质量(QoS)功能性,并且对多个通道进行分组,以允许数据处理核与接口之间的宽的接口连接。本文描述的系统可用于例如系统级封装(SiP)装置,其中,在单个封装中处理器和存储器装置可与现场可编程门阵列(FPGA)装置耦合,由高带宽接口(例如,2.5D接口、互连桥、微凸起(microbump)接口)进行耦合。通过介绍,图1示出了根据本文提出的实施例的系统10的框图,该系统10可采用可编程逻辑装置12,该可编程逻辑装置12可被配置成实现一个或多个数本文档来自技高网...

【技术保护点】
1.一种可编程逻辑装置,包括:/n可编程组构;以及/n存储器控制器,所述存储器控制器包括路由器,所述路由器可配置成将所述可编程组构耦合到存储器装置。/n

【技术特征摘要】
20180824 US 62/722741;20181228 US 16/2356081.一种可编程逻辑装置,包括:
可编程组构;以及
存储器控制器,所述存储器控制器包括路由器,所述路由器可配置成将所述可编程组构耦合到存储器装置。


2.如权利要求1所述的可编程逻辑装置,其中所述路由器包括端口的集合和可配置成链接所述端口的集合中的端口的交叉开关电路。


3.如权利要求2所述的可编程逻辑装置,其中所述路由器包括将所述端口的集合中的第一端口耦合到所述端口的集合中的第二端口的旁路模式。


4.如权利要求3所述的可编程逻辑装置,其中所述第一端口可配置成与所述可编程组构交换数据,并且所述第二端口可配置成与所述存储器装置交换数据。


5.如权利要求1或2所述的可编程逻辑装置,其中所述存储器控制器包括芯片上网络(NoC),所述芯片上网络包括所述路由器。


6.如权利要求1、2或5所述的可编程逻辑装置,其中所述可编程组构包括芯片上网络(NoC),所述芯片上网络包括耦合到所述存储器控制器的所述路由器的可编程组构路由器。


7.如权利要求6所述的可编程逻辑装置,其中所述可编程组构路由器和所述存储器控制器的所述路由器可配置成使用NoC协议。


8.如权利要求6所述的可编程逻辑装置,其中所述存储器控制器的所述路由器通过所述路由器的第一端口耦合到所述可编程组构路由器,并且所述存储器控制器的所述路由器通过所述路由器的第二端口和桥耦合到所述可编程组构的数据处理核,其中所述桥可配置成在NoC协议和存储器接口协议之间转换数据。


9.如权利要求8所述的可编程逻辑装置,其中所述存储器接口协议包括高级可扩展接口4(AXI4)协议、AXI3协议、AXI-精简版协议、AXI一致性拓展(ACE)协议或Avalon接口协议。


10.一种电子装置,包括:
存储器装置;
现场可编程门阵列(FPGA),所述现场可编程门阵列使用高带宽桥耦合到所述存储器装置,其中所述FPGA包括:
多个数据处理核;以及
存储器控制器,所述存储器控制器耦合到所述高带宽桥,其中所述存储器控制器包括存储器控制器芯片上网络(NOC),所述存储器控制器芯片上网络包括多个存储器控制器路由器。


11.如权利要求10所述的电子装置,其中所述FPGA包括耦合到所述存储器控制器NoC的FPGANoC。


12.如权利要求11所述的电子装置,所述电子装置包括经由第二桥耦合到所述FPGA的处理器,其中所述处理器可配置成通过所述FPGANoC访问所述存储器控制器NoC。


13.如权利要求11或12所述的电子装置,其中第一数据处理核可配置成通过所述FPGANoC来访问所述存储器控制器。


14.如权利要求10或11所述的电子装置,其中第一数据处理核...

【专利技术属性】
技术研发人员:郑志学王育颖黄忠贤
申请(专利权)人:英特尔公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1