用于分布式分组调度的系统和方法技术方案

技术编号:18582243 阅读:35 留言:0更新日期:2018-08-01 15:14
一种方法包括:由第一网络分组调度器从多个网络分组调度器中的每个其他网络分组调度器接收关于定义网络分组的相对传输优先级的多个流量类别中每个流量类别的虚拟分组;由第一网络分组调度器接收多个流量类别中的第一流量类别的网络分组;由第一网络分组调度器将每个虚拟分组发送至为每个流量类别创建的、多个虚拟连接中的一个虚拟连接;由第一网络分组调度器调度网络分组或虚拟分组作为缓冲器中的下一分组以用于传输;由第一网络分组调度器确定缓冲器中的下一分组是虚拟分组;以及响应于确定缓冲器中的下一分组是虚拟分组,由第一网络分组调度器丢弃该虚拟分组。

Systems and methods for distributed packet scheduling

One method includes: receiving each other network packet scheduler from each of the multiple network packet schedulers by the first network packet scheduler, the virtual packet of each traffic category in the multiple traffic classes that define the relative transmission priority of the network packet; the first network packet scheduler receives the number of multiple traffic categories. A network packet of a traffic class; the first network packet scheduler sends each virtual packet to a virtual connection created by each traffic category to each of the traffic categories; the first network packet scheduler schedules the network packet or the virtual packet as the next packet in the buffer to be used for transmission; the first network is used. The network packet scheduler determines that the next packet in the buffer is a virtual packet; and the next packet in the determined buffer is a virtual packet, and the virtual packet is discarded by the first network packet scheduler.

【技术实现步骤摘要】
【国外来华专利技术】用于分布式分组调度的系统和方法相关申请本申请要求在2015年10月30日提交的、名称为“SystemsandMethodsForDistributedPacketScheduling”的美国非临时申请No.14/927867的权益和优先权,通过引用将该美国申请全部包含于此,以用于所有目的。
本申请总的涉及网络分组调度。本申请尤其涉及用于对并行工作的多个网络分组调度器进行同步的系统和方法。
技术介绍
网络分组调度器用于调节网络流量并对其划分优先级。网络调度器在分组交换通信网络中的节点上执行或由分组交换通信网络中的节点执行,其是仲裁器程序,管理该节点的网络接口控制器(其充当缓冲器)的发送和接收队列中网络分组的顺序。网络分组调度器决定接下来从缓冲器发送哪个网络分组。缓存空间可以分为不同的队列,每个队列根据配置的分组分类规则保存一个流的分组;例如,可以按分组的源和目标IP地址将分组划分到流中。
技术实现思路
网络调度算法及其相关设置确定网络调度器如何管理缓冲器。有许多用于网络分组调度的算法,例如自适应虚拟排队、基于类的排队、基于信用的公平排队、差额轮询、分层公平服务、分层令牌桶、公平排队、加权公平排队、分层加权公平排队等等。这些算法的典型实现使用昂贵的堆/排序操作来对网络流量进行优先级排序。这些操作使网络分组调度成为非常高CPU密集型过程。由于这些网络分组调度算法并未被设计为以并行方式运行,因此如果多个实例同时向同一瓶颈链路发送分组,则实例化多个分组调度器可能会造成问题。因此,本公开针对用于同步多个网络分组调度器实例的系统和方法。这种同步可以通过向分组调度器的所有实例广播的“虚拟”分组来完成。这些虚拟分组是由每个实例针对每个瓶颈链路-流量类别对来定期地发送的。如果网络分组调度器支持任意流量类别层次结构,则仅针对最底层的流量类别发送该信息,该最底层的流量类别具有实际连接作为其子元素。这样的虚拟分组的大小可以是自上次广播以来的时间段中排队至该流量类别的字节数。每个分组调度器实例可以对于在此期间具有排队的流量的每个流量类别广播该信息。接收广播信息的其他分组调度器实例将接收到的虚拟分组提供给与虚拟分组所标识的流量类别对应的虚拟连接(例如,可以为每个流量类别创建一个虚拟连接)。这些虚拟分组以与真实分组类似的方式放入队列中,并且即使在队列已达到或超过最大队列大小的情况下也会添加到队列中。当虚拟分组被分组调度器调度时,它们被丢弃并且不用于实际传输。相应地,虚拟分组同步所有分组调度器实例中的分组调度信息,并在多个分组调度器实例之间保持唯一的分组调度层次结构。由于广播虚拟分组的延迟,在很多实现中,分组调度器实例不一定具有完全相同的分组调度器信息,但是它们的状态可足够接近以对于流量调节和优先级排序保持非常低的误差容限。分布式分组调度可用于分组处理和分组调度功能驻留在同一个二进制文件(守护进程、驱动程序或其他可执行代码)或分开的二进制文件中的情况。通过使用不同形式的进程间通信(IPC),分布式分组调度可以由驻留在不同盒子(集群成员或负载均衡对等体)上的分组调度器使用。这使得在部署中以前不可能使用的服务质量(QoS)控制成为可能,例如在存在外部负载平衡器的情况下。由于分布式分组调度线性地扩展,因此可以通过简单地增加专用于处理调度的CPU数量来增加网络分组调度能力。此外,这允许将“虚拟QoS”部署为云服务,允许将任意数量的地理位置不同的站点组合到统一的分布式策略空间中。附图说明通过参考下述结合附图的描述,本专利技术的前述和其它目的、方面、特征和优点将会更加明显并更易于理解,其中:图1A是客户机经由设备访问服务器的网络环境的实施例的框图;图1B是经由设备从服务器传送计算环境到客户机的环境的实施例的框图;图1C是经由设备从服务器传送计算环境到客户机的环境的又一个实施例的框图;图1D是经由设备从服务器传送计算环境到客户机的环境的又一个实施例的框图;图1E到1H是计算装置的实施例的框图;图2A是用于处理客户机和服务器之间的通信的设备的实施例的框图;图2B是用于优化、加速、负载平衡和路由客户机和服务器之间的通信的设备的又一个实施例的框图;图3是用于经由设备与服务器通信的客户机的实施例的框图;图4A是虚拟化环境的实施例的框图;图4B是虚拟化环境的又一个实施例的框图;图4C是虚拟设备的实施例的框图;图5A是在多核系统中实现并行机制的方法实施例的框图;图5B是使用多核系统的系统实施例的框图;图5C是多核系统方面的另一实施例的框图;图6是集群系统的实施例的框图;图7A是接收虚拟分组的方法的实施例的流程图;图7B是广播虚拟分组的方法的实施例的流程图;图7C是网络分组调度器及保存网络分组和虚拟分组的队列的实施例的框图;图7D是虚拟分组的实施例的示意图。从下面结合附图所阐述的详细描述,本专利技术的特征和优点将更明显,其中,同样的参考标记在全文中标识相应的元素。在附图中,同样的附图标记通常表示相同的、功能上相似的和/或结构上相似的元素。具体实施方式为了阅读下文各种实施例的描述,下述对于说明书的部分以及它们各自内容的描述是有用的:-A部分描述可用于实施本文描述的实施例的网络环境和计算环境;-B部分描述用于将计算环境传送到远程用户的系统和方法的实施例;-C部分描述用于加速客户机和服务器之间的通信的系统和方法的实施例;-D部分描述用于对应用传送控制器进行虚拟化的系统和方法的实施例。-E部分描述用于提供多核架构和环境的系统和方法的实施例;以及-F部分描述用于提供集群式设备架构环境的系统和方法的实施例;以及-G部分描述了用于同步多个网络分组调度器的系统和方法的实施例。A.网络和计算环境在讨论设备和/或客户机的系统和方法的实施例的细节之前,讨论可在其中部署这些实施例的网络和计算环境是有帮助的。现在参见图1A,描述了网络环境的实施例。概括来讲,网络环境包括经由一个或多个网络104、104’(总的称为网络104)与一个或多个服务器106a-106n(同样总的称为服务器106,或远程机器106)通信的一个或多个客户机102a-102n(同样总的称为本地机器102,或客户机102)。在一些实施例中,客户机102通过设备200与服务器106通信。虽然图1A示出了在客户机102和服务器106之间的网络104和网络104’,客户机102和服务器106可以位于同一个的网络104上。网络104和104’可以是相同类型的网络或不同类型的网络。网络104和/或104’可为局域网(LAN)例如公司内网,城域网(MAN),或者广域网(WAN)例如因特网或万维网。在一个实施例中,网络104可为专用网络并且网络104’可为公网。在一些实施例中,网络104可为专用网并且网络104’可为公网。在又一个实施例中,网络104和104’可都为专用网。在一些实施例中,客户机102可位于公司企业的分支机构中,通过网络104上的WAN连接与位于公司数据中心的服务器106通信。网络104和/或104’可以是任何类型和/或形式的网络,并且可包括任何下述网络:点对点网络,广播网络,广域网,局域网,电信网络,数据通信网络,计算机网络,ATM(异步传输模式)网络,SONET(同步光纤网络)网络,SDH(同步数字体系)网络,无本文档来自技高网...

【技术保护点】
1.一种用于同步多个网络分组调度器实例的方法,所述方法包括:由第一网络分组调度器从多个网络分组调度器中每个其他网络分组调度器接收定义网络分组的相对传输优先级的多个流量类别中每个流量类别的虚拟分组;由所述第一网络分组调度器接收所述多个流量类别中第一流量类别的网络分组;由所述第一网络分组调度器将每个虚拟分组传输至为每个流量类别创建的、多个虚拟连接中的一个虚拟连接中;由所述第一网络分组调度器调度网络分组或虚拟分组作为缓冲器中的下一分组以进行传输;由所述第一网络分组调度器确定缓冲器中的下一分组是虚拟分组;以及响应于确定缓冲器中的下一分组是虚拟分组,由所述第一网络分组调度器丢弃该虚拟分组。

【技术特征摘要】
【国外来华专利技术】2015.10.30 US 14/9278671.一种用于同步多个网络分组调度器实例的方法,所述方法包括:由第一网络分组调度器从多个网络分组调度器中每个其他网络分组调度器接收定义网络分组的相对传输优先级的多个流量类别中每个流量类别的虚拟分组;由所述第一网络分组调度器接收所述多个流量类别中第一流量类别的网络分组;由所述第一网络分组调度器将每个虚拟分组传输至为每个流量类别创建的、多个虚拟连接中的一个虚拟连接中;由所述第一网络分组调度器调度网络分组或虚拟分组作为缓冲器中的下一分组以进行传输;由所述第一网络分组调度器确定缓冲器中的下一分组是虚拟分组;以及响应于确定缓冲器中的下一分组是虚拟分组,由所述第一网络分组调度器丢弃该虚拟分组。2.根据权利要求1所述的方法,其中接收虚拟分组还包括:由所述第一网络分组调度器从每个其他网络分组调度器接收关于进一步定义用于流量类别传输的绝对带宽限制的流量类别与传输流量类别的绝对带宽限制的网络链路的每个配对的虚拟分组。3.根据权利要求1所述的方法,还包括:由所述第一网络分组调度器将网络分组及第一流量类别的每个虚拟分组排队至与多个流量类别相对应的多个队列中的第一队列中。4.根据权利要求3所述的方法,其中对网络分组及第一流量类别的每个虚拟分组排队还包括由所述第一网络分组调度器响应于第一队列中网络分组的数量与第一流量类别的虚拟分组的数量之和超过该队列的最大大小,将第一流量类别的每个虚拟分组排队至第一队列中。5.根据权利要求1所述的方法,还包括:由所述第一网络分组调度器确定缓冲器中第二个下一分组是网络分组;以及由所述第一网络分组调度器响应于确定第二个下一分组是网络分组,从所述缓冲器传输该网络分组。6.一种用于同步多个网络分组调度器实例的方法,所述方法包括:由第一网络分组调度器为定义网络分组的相对传输优先级的多个流量类别中的每个流量类别选择多个节点中的第一节点;由第一网络分组调度器确定所述第一节点具有对接收到的所述多个流量类别中第一流量类别的网络分组的总大小的非零字节计数;以及响应于确定第一节点具有非零字节计数,由第一网络分组调度器将第一流量类别的虚拟分组广播至多个网络分组调度器中的每个其他网络分组调度器。7.根据权利要求6所述的方法,还包括:选择所述多个节点中的第二节点;由第一网络分组调度器确定所述第二节点具有对接收到的多个流量类别中第二流量类别的网络分组的总大小的非零字节计数;以及响应于确定第二节点具有非零字节计数,由第一网络分组调度器将第二流量类别的虚拟分组广播至每个其他网络分组调度器。8.根据权利要求7所述的方法,还包括:由第一网络分组调度器生成第一流量类别的虚拟分组,该虚拟分组包括在自上一次广播第一流量类别的虚拟分组以来的一段时间内排队的第一流量类别的输入网络分组的字节数量的标识符。9.根据权利要求8所述的方法,还包括:由第一网络分组调度器在第一节点处对第一流量类别的输入网络分组进行排队;以及其中,广播第一流量类别的虚拟分组还包括由第一网络分组调度器响应于第一网络分组调度器在自上一次广播以来的一段时间内对第一流量类别的输入网络分组进行排队来广播虚拟分组。10.根据权利要求7所述的方法,其中选择节点、确定非零字节计数以及广播虚拟分组还包括响应于第一网络分组调度器支持任意流量类别层次结构,由第一网络分组调度器选择对应于最底层流量类别的节点,所述最底层流量类别进一步定义用于流量类别的传输的绝对带宽限制;...

【专利技术属性】
技术研发人员:M·K·泰斯蒂西奥格鲁S·基思
申请(专利权)人:思杰系统有限公司
类型:发明
国别省市:美国,US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1