结构架构中用于基于服务质量进行节流的技术制造技术

用于在结构架构中基于服务质量进行节流的技术包括经由互连结构跨结构架构互连的多个网络节点的网络节点。该网络节点包括主机结构接口（HFI），其被配置成促进往/来于网络节点的数据传送，监视用于处理和传送数据的网络节点的资源的服务质量等级，基于监视的服务质量等级的结果检测节流条件。HFI还被配置成响应于已经检测到节流条件，生成节流消息并将其传送到互连网络节点中的一个或多个。HFI另外被配置成从网络节点中的另一个网络节点接收节流消息，并基于接收到的节流消息对资源中的一个或多个执行节流动作。本文描述了其他实施例。

Technology for throttling service quality based on Architecture

Technologies for throttling in an architecture based on quality of service include network nodes of multiple network nodes interconnected across the architecture via an interconnection structure. The network node includes a Host Structural Interface (HFI) configured to facilitate data transfer to/from the network node, monitor the quality of service level of the resources of the network node used to process and transmit data, and detect throttling conditions based on the results of the monitored quality of service level. HFI is also configured to generate throttling messages and transmit them to one or more of the interconnection network nodes in response to throttling conditions that have been detected. HFI is also configured to receive throttle messages from another network node in a network node and to perform throttle operations on one or more of the resources based on the received throttle messages. Other embodiments are described in this paper.

【技术实现步骤摘要】
【国外来华专利技术】结构架构中用于基于服务质量进行节流的技术相关美国申请的交叉引用本申请要求2016年4月1日提交的、名为“TECHNOLOGIESFORQUALITYOFSERVICEBASEDTHROTTLINGINFABRICARCHITECTURES”的、序列号为15/088,948的美国实用专利申请的优先权。
技术介绍
由个体、研究人员和企业对计算装置的增加的计算性能和存储容量的需求已经导致被开发来满足这些需求的各种计算技术。例如，诸如基于企业云的应用（例如，软件即服务（SaaS）应用）、数据挖掘应用、数据驱动建模应用、科学计算问题解决应用等的计算密集型应用通常依赖于复杂的、大规模计算环境（例如，高性能计算（HPC）环境、云计算环境等）以执行计算密集型应用，以及存储大量数据。此类大规模计算环境可以包括经由高速互连（例如，采用统一结构的互连结构）连接的数千个（例如，企业系统）到数万个（例如，HPC系统）的多处理器/多核网络节点。为了实行此类处理器密集型计算，已经实现了各种计算技术以跨不同的网络计算装置分配工作负载，例如并行计算，分布式计算等。以此类分布式工作负载的操作的支持，多处理器硬件架构（例如，共享存储器的多个多核处理器）已被开发来使用各种并行计算机存储器设计架构来促进跨本地和远程共享存储器系统的多处理（即，由多个处理器来协调的、同时处理），并行计算机存储器设计架构诸如非统一存储器访问（NUMA）、和其他分布式存储器架构。因此，来自多个互连网络节点的存储器请求可以与具体网络节点的本地存储器请求占用相同共享缓冲器（例如，超级队列、请求表等）。然而，此类共享的缓冲器在大小上是有限的（例如，包含数十个条目），这可能导致其他存储器请求被排队，直到对于当前在共享缓冲器中的那些存储器请求的数据从存储器子系统返回。像这样，共享缓冲器的条目倾向于被那些针对提供高时延访问的存储器的那些存储器请求（例如，从远程网络节点接收的存储器请求）或正被过度利用的存储器的那些存储器请求占用。因此，由于没有可用于执行所述存储器请求的可用共享缓冲器条目，因此针对更快或非拥塞存储器的其他请求（例如，本地存储器请求）（即，将更快地被服务的存储器请求）可能在核中变得饥饿。附图说明本文描述的概念在随附附图中作为示例而不是作为限制被示出。为了示出的简单和清晰，附图中示出的元件不一定按比例绘制。在认为合适的情况下，引用标记在附图中已经被重复以指示相应或类似的元件。图1是用于在结构架构中基于服务质量进行节流的系统的至少一个实施例的简化框图，该系统包括经由互连结构通信地耦合的多个互连网络节点；图2是图1的系统的网络节点之一的至少一个实施例的简化框图；图3是图2的网络节点的另一实施例的简化框图；图4是可以由图2的网络节点建立的环境的至少一个实施例的简化框图；图5是可以由图2的网络节点来执行的用于处理来自远程网络节点的本地存储器请求的方法的至少一个实施例的简化流程图；图6是可以由图2的网络节点来执行的用于访问远程网络节点的存储器的方法的至少一个实施例的简化流程图；图7是可以由图2的网络节点来执行的用于生成对一个或多个远程网络节点的外部传输的节流消息的方法的至少一个实施例的简化流程图；以及图8是可以由图2的网络节点来执行的用于处理从远程网络节点接收的节流消息的方法的至少一个实施例的简化流程图。具体实施方式虽然本专利技术的概念易受各种修改和替换形式的影响，但是其特定实施例已经在附图中作为示例被示出并且将在本文中详细描述。然而，应该理解的是，没有将本专利技术的概念限制于所公开的具体形式的意图，而是相反，意图在于覆盖与本专利技术和所附的权利要求书一致的所有修改、等同物和替代方案。在本说明书中对“一个实施例”、“一实施例”，“说明性实施例”等的引用指示所描述的实施例可以包括具体特征、结构或特性，但是每个实施例可以包括或可以不一定包括该具体特征、结构或特性。另外，此类短语不一定指的是相同实施例。此外，当结合一实施例描述具体特征、结构或特性时，无论是否明确描述，认为与其他的实施例结合来实现此类特征、结构或特性在本领域技术人员的知识之内。另外，应当领会的是，包括在以“A、B和C中的至少一个”的形式的列表中的项可以表示（A）;（B）;（C）；(A和B）;（A和C）;（B和C）;或（A、B和C）。类似地，以“A、B或C中的至少一个”的形式列示的项可以表示（A）;（B）;（C）;（A和B）;（A和C）;（B和C）;或（A、B和C）。在一些情况下，公开的实施例可以采用硬件、固件、软件或其任何的组合来实现。公开的实施例还可以被实现为由一个或多个暂态或非暂态机器可读（例如，计算机可读）存储介质（例如，存储器、数据存储等）携带的或存储在其上的指令，其可以由一个或多个处理器来读取和执行。机器可读存储介质可以实现为用于以由机器可读的形式存储或传送信息的任何存储装置、机构、或其他物理结构（例如，易失性或非易失性存储器、媒体盘、或其他媒体装置）。在附图中，一些结构或方法特征以特定布置和/或排序被示出。然而，应该领会的是，可能此类特定布置和/或排序可以不是必需的。而是，在一些实施例中，这些特征可以采用与附图中所示的方式和/或排序不同的方式和/或排序来布置。另外，在具体图中结构或方法特征的包括不意味着暗示在所有实施例中都需要此类特征，并且在一些实施例中，可以不包括此类特征或者此类特征可以与其他特征组合。现在参考图1，在说明性实施例中，用于在结构架构中基于服务质量进行节流的系统100包括经由互连结构114通信地耦合的多个互连的网络节点102。说明性系统100包括各种类型的网络节点102，包括多个计算节点104和存储节点112。说明性计算节点104包括被指定为计算节点（1）106的第一计算节点、被指定为计算节点（2）108的第二计算节点、以及被指定为计算节点（N）110的第三计算节点（即，计算节点104的“第N个”计算节点，其中“N”是正整数并且指定一个或多个附加计算节点104）。应当领会的是，在其他实施例中，可以存在任何数量的计算节点104和/或存储节点112。说明性地，互连结构114包括用于通信地耦合网络节点102的网络交换机116和多个结构互连118。然而，应当领会的是，虽然仅示出了单个网络交换机116，但是在其他互连结构实施例中可以存在任何数量的网络交换机116。在使用中，网络节点102监视与本地资源（例如，物理和/或虚拟组件）相关联的服务质量等级，以检测与此类资源相关联的节流条件（例如，拥塞、饱和、过度利用、工作负载分配不公平性等）并在检测到这种节流条件时，将节流消息传送到结构架构的其他网络节点102，请求由接收网络节点102执行的节流动作。节流消息可以包括针对对网络节点102的具体资源进行节流的各种类型的节流请求。例如，节流消息可以包括存储器节流请求、I/O节流请求、加速器节流处理请求、HFI饱和节流请求等。应当领会的是，在检测到节流条件的时间段内会周期性地传送节流消息。换句话说，网络节点102继续传送节流消息直到相应的节流条件消失为止。为了这样做，不像在当前技术中网络节点102不外部地传送节流消息，从而使得节流局限于只能够节流对网络节点102本地的那些资源，网络节点102和相关联的互连结构114本文档来自技高网...

【技术保护点】
1.一种用于在结构架构中基于服务质量进行节流的网络节点，其中所述网络节点是所述结构架构的多个互连网络节点之一，所述网络节点包括：处理器;主机结构接口（HFI），所述主机结构接口用于促进通过所述结构架构的互连结构在所述多个互连网络节点之间数据传送；以及一个或多个数据存储装置，所述一个或多个数据存储装置中存储了多个指令，当由所述处理器执行时，所述多个指令促使所述网络节点：监视所述网络节点的服务质量等级；基于监视的服务质量等级的结果来检测节流条件；响应于已检测到所述节流条件，基于与检测到的所述节流条件相关联的请求类型来生成节流消息；以及将生成的节流消息传送到经由所述互连结构通信地耦合到所述网络节点的所述多个互连网络节点中的一个或多个。

【技术特征摘要】
【国外来华专利技术】2016.04.01 US 15/0889481.一种用于在结构架构中基于服务质量进行节流的网络节点，其中所述网络节点是所述结构架构的多个互连网络节点之一，所述网络节点包括：处理器;主机结构接口（HFI），所述主机结构接口用于促进通过所述结构架构的互连结构在所述多个互连网络节点之间数据传送；以及一个或多个数据存储装置，所述一个或多个数据存储装置中存储了多个指令，当由所述处理器执行时，所述多个指令促使所述网络节点：监视所述网络节点的服务质量等级；基于监视的服务质量等级的结果来检测节流条件；响应于已检测到所述节流条件，基于与检测到的所述节流条件相关联的请求类型来生成节流消息；以及将生成的节流消息传送到经由所述互连结构通信地耦合到所述网络节点的所述多个互连网络节点中的一个或多个。2.如权利要求1所述的网络节点，其中监视所述网络节点的服务质量等级包括监视所述网络节点的一个或多个资源的利用等级，并且其中所述网络节点的所述一个或多个资源包括所述处理器、所述一个或多个数据存储装置、或所述HFI中的至少一项。3.如权利要求2所述的网络节点，其中所述网络节点的所述一个或多个资源包括多个非统一存储器访问（NUMA）域，其中所述多个NUMA域中的每一个包括所述处理器的处理器核的分配的部分和所述一个或多个数据存储装置的分配的部分，并且其中所述多个NUMA域中的每一个经由所述处理器的管芯上互连通信地耦合到所述HFI。4.如权利要求1所述的网络节点，其中监视所述网络节点的所述服务质量等级包括监视工作负载分配、所述HFI的饱和等级、或从所述处理器的代理实体接收到的节流信号中的至少一项。5.如权利要求1所述的网络节点，其中将生成的节流消息传送到所述多个互连网络节点中的所述一个或多个包括以下中的一个：经由单播传送将生成的节流消息传送到所述多个互连网络节点中的一个、或经由多播传送将生成的节流消息传送到所述多个互连网络节点中的多于一个。6.如权利要求1所述的网络节点，其中将生成的节流消息传送到所述多个互连网络节点中的所述一个或多个包括在检测到的节流条件的持续时间内以周期性注入速率将生成的节流消息传送到所述多个互连网络节点中的所述一个或多个。7.一种用于跨结构架构基于服务质量进行节流的方法，所述方法包括：通过所述结构架构的网络节点的主机结构接口（HFI）监视所述网络节点的服务质量等级，其中所述网络节点是所述结构架构的多个互连网络节点之一，其中所述多个互连网络节点中的每一个通过所述结构架构的互连结构被互连；通过所述HFI基于监视的服务质量等级的结果检测节流条件；响应于已检测到所述节流条件，通过所述HFI基于与检测到的所述节流条件相关联的请求类型生成节流消息；以及通过所述HFI将生成的节流消息传送到经由所述互连结构通信地耦合到所述网络节点的所述多个互连网络节点中的一个或多个。8.如权利要求7所述的方法，其中监视所述网络节点的服务质量等级包括监视所述网络节点的一个或多个资源的利用等级，其中所述网络节点的所述一个或多个资源包括所述网络节点的处理器、所述网络节点的一个或多个数据存储装置、或者所述HFI中的至少一项。9.如权利要求8所述的方法，其中所述网络节点的所述一个或多个资源包括多个非统一存储器访问（NUMA）域，其中所述多个NUMA域中的每一个包括所述处理器的处理器核的分配的部分和所述一个或多个数据存储装置的分配的部分，并且其中所述多个NUMA域中的每一个经由所述处理器的管芯上互连通信地耦合到所述HFI。10.如权利要求7所述的方法，其中监视所述网络节点的所述服务质量等级包括监视工作负载分配、所述HFI的饱和等级、或从所述网络节点的处理器的代理实体接收到的节流信号中的至少一个。11.如权利要求7所述的方法，其中将生成的节流消息传送到所述多个互连网络节点中的所述一个或多个包括以下中的一个：经由单播传送将生成的节流消息传送到所述多个互连网络节点中的一个、或经由多播传送将生成的节流消息传送到所述多个互连网络节点中的多于一...

【专利技术属性】
技术研发人员：FG伯纳特，K库马尔，T威尔哈尔姆，RK拉马努詹，B斯莱克塔，
申请(专利权)人：英特尔公司，
类型：发明
国别省市：美国,US