向数据中心应用提供服务质量制造技术

在各种示例性实施方式中，提供了用于带宽(BW)管理系统的系统和方法。BW管理系统代表接收主机以由发送主机发送的流速接受第一单独流的数据包。带宽管理系统管理表示与分层带宽(HBT)中的节点相关联的流的集合的业务类别的带宽。第一单独流包括在与一个或多个业务类别相关联的单独流的集合内。BW管理系统通过管理节点的带宽使用以符合分配给节点的带宽限制，来控制发送主机使用滑动窗口协议传输第一单独流的数据包的速率。BW管理系统基于滑动窗口协议以调整的流速接收第一单独流的数据包。

【技术实现步骤摘要】
【国外来华专利技术】向数据中心应用提供服务质量优先权申明本申请要求2015年2月10日提交的美国专利申请No.14/619,008；和2015年2月9日提交的美国专利申请No.14/617,876的优先权益；两者均要求于2014年9月17日提交的题为“用于向数据中心应用提供服务质量的系统和方法”的62/051,674的优先权，所有这些都通过引用整体并入本文。
本申请涉及根据一个实施方式的用于在虚拟化计算环境中使用的方法和系统，并且更具体地涉及用于改善虚拟化计算环境中的网络协议性能的方法和系统。
技术介绍
调制解调器数据中心已经进入虚拟化领域，其中像CPU、存储器和磁盘这样的资源在虚拟机之间进行虚拟化和共享。通常，为了提供可预测和有保证的性能，尽力向虚拟机分配这些资源的固定量。网络是已经做了大量工作来提供性能隔离的这样一种资源。软件定义网络(SDN)在虚拟化网络层并提供控制平面的更好可管理性方面取得了长足的进步。但是在互联网协议(IP)/网络层(通常不具有端到端连接语义的可视性)提供保证并不一定意味着转化为数据中心应用的性能提高，也不会最佳地利用数据中心的网络资源。最终，数据中心管理员关心其应用的性能，并为应用提供性能保证。现有的网络性能隔离机制可以大致分为限制给定流的带宽的速率限制技术。尽管这些技术可以限制总体带宽使用，但这些技术无法增加流的带宽份额，浪费网络资源。附图说明各种实施方式通过示例的方式而非限制的方式在附图的各图中示出,附图中：图1A示出根据示例性实施方式的具有用于发送和接收数据包的多主机的数据中心。图1B示出根据示例性实施方式的具有驻留在虚拟化主机上的传输控制协议(TCP)发送器与TCP接收器之间的流的数据中心。图1C示出根据另一示例性实施方式的在TCP发送器与驻留在虚拟化主机上的TCP接收器之间的流的数据中心。图1D示出根据示例性实施方式的没有分层带宽管理器的两个流的初始带宽使用。图1E示出根据示例性实施方式的没有分层带宽管理器的两个流的当前带宽使用。图1F示出根据示例性实施方式的具有从分层带宽管理器分配的附加带宽的两个流的当前带宽使用。图2A是示出根据示例性实施方式的在虚拟化系统内的虚拟机管理(VMM)之上操作的虚拟传输控制协议(vTCP)模块的框图。图2B是示出根据示例性实施方式的在虚拟化系统内作为应用操作的vTCP模块的框图。图2C是示出根据示例性实施方式的在主机操作系统内作为容器操作的vTCP模块的框图。图2D是示出根据示例性实施方式的在虚拟化系统内的客户操作系统内作为容器操作的vTCP模块的框图。图2E是示出根据示例性实施方式的在虚拟化系统内作为虚拟机操作的vTCP模块的框图。图3A示出根据示例性实施方式的带宽(BW)管理系统的框图。图3B示出根据另一示例性实施方式的BW管理系统的框图。图3C示出根据示例性实施方式的BW管理系统的框图。图3D示出根据示例性实施方式的BW管理器的框图。图3E示出根据示例性实施方式的服务质量(QOS)管理器的框图。图3F示出根据示例性实施方式的窗口管理器(WM)的框图。图4A示出根据示例性实施方式的具有带有多个虚拟机(VM)的多个租户的服务器的框图。图4B示出根据示例性实施方式的运行多个应用的服务器的框图。图4C示出在多个服务器之间分配带宽资源的服务器的框图。图4D示出根据示例性实施方式的其带宽份额由两个应用使用的VM的框图。图5A示出根据示例性实施方式的TCP报头字段。图5B示出根据示例性实施方式的用于业务的分类的示例性字段。图6A示出根据示例性实施方式的用于显示由分层带宽管理器分配的带宽份额的分层带宽树(HBT)。图6B示出根据示例性实施方式的对应于图6A的HBT的BW管理器模块。图6C示出了根据示例性实施方式的图6A中示出的HBT细分为多个子树。图6D示出了根据示例性实施方式的图6A中示出的HBT具有多个分层级别。图6E示出了根据示例性实施方式的图6A中示出的HBT具有由BW管理器模块分配的带宽份额。图6F示出根据示例性实施方式的通过各种分类参数过滤的HBT。图6G示出根据示例性实施方式的具有父节点和配置用于最低保证的子节点的子树的实例。图7A示出根据示例性实施方式的与叶节点相关联的BW管理系统的一部分。图7B示出根据示例性实施方式的具有由QOS管理器分配和优先化的带宽份额的HBT。图7C示出根据示例性实施方式的与具有分配的应用优先级份额的叶节点相关联的BW管理系统的一部分。图7D示出根据示例性实施方式的BW管理系统的一部分，其与具有分配的流份额的叶节点相关联，所分配的流份额用于所分配的优先级份额中的一个。图8A示出根据示例性实施方式的在具有WM流请求的无压模式下操作的QOS管理器的实例。图8B示出根据示例性实施方式的在具有QOS流响应的无压模式下操作的QOS管理器的实例。图9A示出根据示例性实施方式的在具有WM流请求的欠压模式下操作的QOS管理器的实例。图9B示出根据示例性实施方式的在具有QOS流响应的欠压模式下操作的QOS管理器的实例。图10A示出在两个主机之间传输的TCP数据包。图10B示出根据示例性实施方式的以由分层带宽管理器管理的数据流在两个主机之间传输的TCP数据包。图10C示出了根据示例性实施方式的针对流1在两个主机之间传输的TCP数据包。图10D示出了根据示例性实施方式的针对流2在两个主机之间传输的TCP数据包。图10E示出根据示例性实施方式的具有随时间增加的流1和2的输出流速的表格。图10F示出根据示例性实施方式的用于具有流1和2的叶节点的分层带宽管理器的一部分。图11A示出了代表TCP接收器从TCP发送器接受数据包的方法的示例性流程图。图11B示出根据一个实施方式的用于控制发送主机使用滑动窗口协议传输数据包的速率的方法的示例性流程图。图11C示出根据另一实施方式的用于控制发送主机使用滑动窗口协议传输数据包的速率的方法的示例性流程图。图11D示出根据一个实施方式的用于确定每个流的带宽请求的方法的示例性流程图。图11E示出根据一个实施方式的用于确定针对流的集合的带宽请求的方法的示例性流程图。图11F示出根据一个实施方式的用于确定流的每个集合的带宽响应的方法的示例性流程图。图11G示出根据一个实施方式的用于确定每个流的带宽响应的方法的示例性流程图。图11H示出根据一个实施方式的用于为单独流生成窗口大小的方法的示例性流程图。图12示出根据一个实施方式的用于管理用于与服务器机器相关联的流的集合的带宽的方法的示例性流程图。图13是示出了根据一些示例性实施方式的可以安装在机器上的软件体系结构的实例的框图。图14示出根据示例性实施方式的以计算机系统的形式的机器的示意性表示，在该计算机系统中，可执行一组指令以使机器执行本文所讨论的任何一个或多个方法。在本文中提供的标题仅为了方便起见，并不一定影响所使用的术语的范围或含义。具体实施方式下面的描述包括体现本专利技术的说明性实施方式的系统、方法、技术、指令序列和计算机程序产品。在以下描述中，为了说明的目的，阐述了很多具体细节以便提供对专利技术主题的各种实施方式的理解。然而，对于本领域的技术人员明显的是，可在没有这些具体细节的情况下，实践专利技术主题的实施方式。一般来说，未详细示出众所周知的指令实例、协议、结构本文档来自技高网...

【技术保护点】
一种方法，包括：通过带宽(BW)管理系统代表接收主机接受发送主机以一流速发送的第一单独流的数据包，所述带宽管理系统被配置为管理业务类别的带宽，所述业务类别表示与分层带宽(HBT)中的节点相关联的流的集合，所述第一单独流包括在与一个或多个所述业务类别相关联的单独流的集合内；通过管理所述节点的带宽使用以符合分配给所述节点的带宽限制，由所述BW管理系统使用机器的处理器来控制所述发送主机使用滑动窗口协议传输所述第一单独流的数据包的速率；并且基于所述滑动窗口协议以调整的流速接收所述第一单独流的数据包。

【技术特征摘要】
【国外来华专利技术】2014.09.17 US 62/051,674;2015.02.09 US 14/617,876;1.一种方法，包括：通过带宽(BW)管理系统代表接收主机接受发送主机以一流速发送的第一单独流的数据包，所述带宽管理系统被配置为管理业务类别的带宽，所述业务类别表示与分层带宽(HBT)中的节点相关联的流的集合，所述第一单独流包括在与一个或多个所述业务类别相关联的单独流的集合内；通过管理所述节点的带宽使用以符合分配给所述节点的带宽限制，由所述BW管理系统使用机器的处理器来控制所述发送主机使用滑动窗口协议传输所述第一单独流的数据包的速率；并且基于所述滑动窗口协议以调整的流速接收所述第一单独流的数据包。2.根据权利要求1所述的方法，其中，通过所述BW管理系统控制所述发送主机使用所述滑动窗口协议传输所述第一单独流的数据包的速率进一步包括：基于分配给与所述业务类别相关联的单独流的集合中的单独流的应用优先级别，管理与所述业务类别相关联的带宽分配。3.根据权利要求1所述的方法，其中，所述业务类别包括表示与来自所述HBT中的节点的多个节点相关联的单独流的集合的多个业务类别，并且全面业务类别表示来自所述HBT中的节点的根节点；并且其中，所述全面业务类别表示具有与服务器机器相关联的流的集合的所述根节点，所述全面业务类别分成由所述多个节点表示的多个业务类别，所述多个节点表示与所述全面业务类别相关联的所述单独流的集合的子集。4.根据权利要求1所述的方法，其中，所述接收主机表示传输控制协议(TCP)接收器，并且所述发送主机表示TCP发送器。5.根据权利要求1所述的方法，其中，通过所述BW管理系统控制所述发送主机使用所述滑动窗口协议传输所述第一单独流的数据包的速率进一步包括：通过所述BW管理系统计算要通告至所述发送主机的窗口大小，通告的所述窗口大小基于对所述第一单独流的带宽请求的带宽响应。6.根据权利要求5所述的方法，通过所述BW管理系统计算要通告至所述发送主机的窗口大小进一步包括：基于所述接收主机从所述BW管理系统接收所述第一单独流的所接受的数据包的估计速率计算所述第一单独流的所述带宽请求。7.根据权利要求6所述的方法，其中，所述接收主机接收所接受的数据包的所述估计速率基于BW管理系统向所述接收主机发送所接受的数据包所使用的拥塞窗口和所述接收主机通告的窗口的最小值以及针对所述第一单独流在所述BW管理系统和所述接收主机之间的往返时间。8.根据权利要求5所述的方法，进一步包括：将确认数据包传输至所述发送主机，所述确认数据包包括所计算的窗口大小；并且基于所计算的窗口大小以调整的流速接收所述第一单独流的数据包。9.根据权利要求1所述的方法，其中，所述BW管理系统包括窗口管理器(WM)模块、服务质量(QOS)管理器模块及带宽(BW)管理器模块；其中，通过所述BW管理系统控制所述发送主机使用所述滑动窗口协议传输所述第一单独流的数据包的速率进一步包括：通过所述WM模块生成指示用于与所述业务类别相关联的所述单独流的集合中的单独流的带宽量的带宽请求，带宽量基于所述接收主机从所述BW管理系统接收所述单独流之一的所接受的数据包的估计速率；并且向所述QOS管理器模块发送指示所述带宽量的所述带宽请求。10.根据权利要求9所述的方法，进一步包括：通过所述QOS管理器模块接收指示所述带宽量的所述带宽请求；聚集与所述业务类别相关联的所述单独流的集合中的单独流的所述带宽量，以生成聚集的带宽量；并且将指示所聚集的带宽量的带宽请求发送至所述BW管理器模块。11.根据权利要求10所述的方法，进一步包括：通过所述BW管理器模块接收指示所聚集的带宽量的所述带宽请求；基于与所述业务类别相关联的所述单独流的集合的带宽使用和分配给所述HBT中的根节点和多个节点的带宽限制来确定用于与所述业务类别相关联的所述单独流的集合的可用带宽；并且基于用于与所述业务类别相关联的所述单独流的集合的可用带宽来向与所述业务类别相关联的所述单独流的集合分配带宽；并且向所述QOS管理器模块发送指示分配的带宽的带宽响应。12.根据权利要求11所述的方法，进一步包括：通过所述QOS管理器模块接收指示分配的带宽的所述带宽响应；基于与来自与所述业务类别相关联的所述单独流的集合的所述单独流相关联的应用优先级别，对分配给与所述业务类别相关联的所述单独流的集合的带宽的百分比份额进行分配；将来自所分配的百分比份额的流份额分配给来自与所述业务类别相关联的所述单独流的集合的单独流；并且将指示所分配的流份额的带宽响应发送至所述WM模块。13.根据权利要求12所述的方法，其中，将来自所分配的百分比份额的所述流份额分配给来自与所述业务类别相关联的所述单独流的集合中的单独流进一步包括：确定与所述业务类别相关联的所述单独流的集合中的所述单独流的操作模式；并且基于所述操作模式分配所述流份额。14.根据权利要求13所述的方法，进一步包括：通过所述WM模块接收指示所分配的流份额的所述带宽响应；并且基于所述第一单独流的所分配的流份额生成用于所述第一单独流的窗口大小以通告至所述发送主机。15.根据权利要求14所述的方法，其中，基于所述第一单独流的所分配的流份额生成用于所述第一单独流的所述窗口大小以通告至所述发送主机包括：基于指示所述第一单独流的所分配的流份额的所述带宽响应和针对所述第一单独流在所述发送主机与所述BW管理系统之间的往返时间生成所述第一单独流的所述窗口大小。16.根据权利要求1所述的方法，其中，所述发送主机和所述接收主机中至少一个表示与服务器机器相关联的虚拟化资源。17.根据权利要求1所述的方法，其中，所述发送主机和所述接收主机中至少一个表示软件容器。18.一种方法，包括：通过带宽(BW)管理系统代表接收主机以发送主机发送的流速接受第一单独流的数据包，所述带宽管理系统被配置为管理业务类别的带宽，所述业务类别表示与分层带宽(HBT)中的节点相关联的流的集合，所述第一单独流包括在与一个或多个所述业务类别相关联的所述单独流的集合内；通过基于分配给与所述业务类别相关联的所述单独流的集合中的单独流的应用优先级别来管理与业务类别相关联的单独流的带宽分配，由所述BW管理系统使用机器的处理器控制所述发送主机使用滑动窗口协议传输所述第一单独流的数据包的速率；并且基于所述滑动窗口协议以调整的流速接收所述第一单独流的数据包。19.根据权利要求18所述的方法，其中，通过所述BW管理系统控制所述发送主机使用所述滑动窗口协议传输所述第一单独流的数据包的速率进一步包括：通过管理所述节点的带宽使用以符合分配给所述节点的带宽限制，由所述BW管理系统使用机器的处理器来控制所述发送主机使用滑动窗口协议传输所述第一单独流的数据包的速率。20.根据权利要求18所述的方法，其中，所述业务类别包括表示与来自所述HBT中的节点的多个节点相关联的单独流的集合的多个业务类别，并且全面业务类别表示来自所述HBT中的节点的根节点；并且其中，所述全面业务类别表示具有与服务器机器相关联的流的集合的所述根节点，所述全面业务类别分成由所述多个节点表示的多个业务类别，所述多个节点表示与所述全面业务类别相关联的所述单独流的集合的子集。21.一种用于带宽管理的系统，包括：至少一个处理器，被配置为执行用于处理器实现的模块的操作，所述处理器实现的模块包括：带宽(BW)管理器模块，被配置为使用分配给业务类别的带宽限制管理业务类别的流的集合的带宽，所述业务类别布置为分层带宽树(HBT)，所述HBT的最高...

【专利技术属性】
技术研发人员：帕万·普拉卡什，特拉维斯·纽豪斯，哈尔西特·基塔利亚，帕兰塔普·罗伊，苏米特·辛格，
申请(专利权)人：阿普福米克斯有限公司，
类型：发明
国别省市：美国,US