用于最小化工作负荷空闲时间和工作负荷间干扰的网络和存储I/O请求的排序方案制造技术

一种方法包括从由一个或多个处理器(24)处理的一个或多个工作负荷(52)接收通过通信网络(40)或在存储设备(32)上访问数据的请求。根据旨在最小化一个或多个处理器在处理多个工作负荷中的总空闲时间的标准来限定在多个请求当中的顺序。根据所限定的顺序来服务请求。

【技术实现步骤摘要】
【国外来华专利技术】专利
本专利技术大体上涉及计算机系统中的数据网络通信和数据存储，且特别涉及用于服务网络和存储输入/输出(I/O)请求的方法和系统。专利技术概述在本文中所述的本专利技术的实施方式提供一种方法，其包括从由一个或多个处理器处理的一个或多个工作负荷接收通过通信网络或在存储设备上访问数据的请求。根据旨在最小化一个或多个处理器在处理多个工作负荷中的总空闲时间的标准来限定在多个请求当中的顺序。根据所限定的顺序来服务请求。在一些实施方式中，限定顺序包括区分开阻塞请求和非阻塞请求，以及给予一个或多个阻塞请求优于一个或多个非阻塞请求的优先级。在所公开的实施方式中，限定顺序包括给予由第一工作负荷发出的并且阻塞第二工作负荷的处理的请求优先级。在实施方式中，限定顺序包括从操作系统或从虚拟层接收提示以及基于提示来设定顺序。在示例实施方式中，工作负荷和操作系统或虚拟层在给定计算节点中运行，以及设定顺序包括将提示提供到在给定计算节点外部的远程元件。此外或可选地，限定顺序可包括从操作系统或从虚拟层接收给定工作负荷是空闲的通知以及基于通知来设定顺序。在示例实施方式中，限定顺序包括相对于不页入任何存储页面的第二I/O请求给予将存储页面从通信网络或从存储设备页入到本地存储器内的第一I/O请求优先级。在另一实施方式中，限定顺序包括相对于访问具有低于第一访问频率的第二访问频率的第二数据的第二I/O请求给予访问具有第一访问频率的第一数据的第一I/O请求优先级。在又一实施方式中，限定顺序包括相对于被识别为异步的第二I/O请求给予被识别为同步的第一I/O请求优先级。在再一实施方式中，限定顺序包括相对于被识别为非屏障写的第二写请求给予被识别为屏障写的第一写请求优先级。在另一实施方式中，限定顺序包括相对于写请求给予读请求优先级。在另一实施方式中，限定顺序包括相对于传输具有大于第一数据尺寸的第二数据尺寸的第二数据的第二I/O请求给予传输具有第一数据尺寸的第一数据的第一I/O请求优先级。在再一实施方式中，限定顺序包括相对于由第二类型的工作负荷发出的第二I/O请求给予由第一类型的工作负荷发出的第一I/O请求优先级。根据本专利技术的实施方式另外提供包括接口和处理器的装置。接口被配置用于连接到通信网络或存储设备。处理器被配置成从由一个或多个处理器处理的一个或多个工作负荷接收通过通信网络或在存储设备上访问数据的请求，以根据旨在最小化一个或多个处理器在处理多个工作负荷中的总空闲时间的标准来限定在请求当中的顺序并根据所限定的顺序服务请求。根据本专利技术的实施方式还提供计算机软件产品，该产品包括其中存储程序指令的有形非暂时性计算机可读介质，所述指令当由处理器读取时使处理器从由一个或多个处理器处理的一个或多个工作负荷接收通过通信网络或在存储设备上访问数据的请求，以根据旨在最小化一个或多个处理器在处理多个工作负荷中的总空闲时间的标准来限定在请求当中的顺序并根据所限定的顺序服务请求。本专利技术从结合附图的其实施方式的下面的详细描述中将被更充分理解，其中：附图的简要说明图1是示意性示出根据本专利技术的实施方式的计算系统的方框图；以及图2是示意性示出根据本专利技术的实施方式的用于服务I/O请求的方法的流程图。实施方式的详细描述综述在本文中所述的本专利技术的实施方式提供了用于在计算系统中提供用于服务由工作负荷发出的I/O请求的改进的方法和系统。在示例实施方式中，计算系统包括计算机，以及工作负荷包括发出I/O请求的虚拟机(VM)。可选地，计算系统可包括多个计算节点的集群。在所公开的实施方式中，计算系统包括运行一个或多个工作负荷的一个或多个处理器。作为系统操作的部分，工作负荷发出用于通过计算机网络或在存储设备上访问数据的I/O请求，例如读请求和写请求。系统还包括将I/O请求排序并调度I/O请求的调度器。与其它已知的或可能的调度方案不同，所公开的调度器根据旨在最小化处理器在处理工作负荷中的总空闲时间的标准来将I/O请求排序并服务I/O请求。被排序的I/O请求可属于相同的工作负荷或不同的工作负荷。在示例实施方式中，调度器区分开阻塞和非阻塞I/O请求，并以给予阻塞I/O请求优于非阻塞I/O请求的优先级的顺序来将I/O请求排序。当使用这个调度方案时，使工作负荷停止并等待响应的阻塞I/O请求首先被服务。作为结果，处理器的空闲时间减小了。在很多实际情况中，相同类型的I/O请求可以是阻塞或非阻塞的，取决于工作负荷的内部设计或组织。因此，区分开阻塞和非阻塞I/O请求常常涉及对产生I/O请求并消费它们的结果的工作负荷的一些了解。在本文描述了用于区分开阻塞和非阻塞I/O请求的几种示例技术。在一些实施方式中，I/O请求的排序由在本地计算节点外部的一个或多个远程元件执行，工作负荷在本地计算节点上运行。例如，当在网络上发送I/O请求时，在本地计算节点中的调度器可将区分开阻塞和非阻塞I/O请求的提示发送到将处理I/O请求的远程元件。这样的远程元件可包括例如在去往I/O请求的目的地的途中的网络交换机、远程NIC、远程计算节点和/或远程存储设备。远程元件可接着根据期望顺序基于提示来服务I/O请求。同样重要的是注意到所公开的技术一般只影响I/O请求被服务的顺序且不修改被分配到不同的工作负荷的带宽或其它服务等级目标(SLO)。例如，所公开的技术一般确保被分配相同的服务质量(QoS)等级的工作负荷仍然接收相似的带宽。所公开的技术一般不旨在提高访问网络或存储设备的效率，而是改善运行工作负荷的处理器的计算效率。然而，所公开的技术可与旨在更有效地利用网络或存储资源的调度方案组合，以便进一步改善计算系统的性能。系统描述图1是示意性示出根据本专利技术的实施方式的计算系统的方框图。在本例子中，计算系统包括计算机20，例如个人计算机、在数据中心或其它计算机集群中的服务器或任何其它适当的计算机。在图1的实施方式中，计算机20包括中央处理单元(CPU)24、易失性存储器28、磁盘接口30、一个或多个存储设备32和网络接口控制器(NIC)36。CPU 24一般包括一个或多个处理器，例如处理核心。易失性存储器28也被称为随机存取存储器(RAM)或仅仅是存储器，并可包括例如一个或多个动态RAM(DRAM)或静态RAM(SRAM)设备。存储设备32可包括例如一个或多个固态驱动器(SSD)和/或硬盘驱动器(HDD)。磁盘接口30可包括例如适当的HDD或SSD控制器。NIC 36将计算机20连接到计算机网络40，例如局域网(LAN)、诸如互联网的广域网(WAN)或任何其它适当的网络。在本例子中，NIC 36包括用于连接到网络40的网络接口60和执行NIC的各种处理功能的NIC处理器64。NIC驱动器44控制NIC 36。NIC驱动器44一般被实现为在CPU 24上运行的软件模块。CPU 24运行虚拟层，其将计算机20的物理资源分配到一个或多个工作负荷。在本例子中，虚拟层包括管理程序48，且工作负荷包括虚拟机(VM)52。被提供到工作负荷的物理资源可包括例如CPU资源、易失性存储器(例如RAM)资源、存储资源(例如磁盘32的资源)和联网资源，例如NIC36在访问网络40时的资源。除了VM 52之外或对本文档来自技高网...

【技术保护点】
一种方法，包括：从由一个或多个处理器处理的一个或多个工作负荷接收通过通信网络或在存储设备上访问数据的请求；根据旨在最小化所述一个或多个处理器在处理所述多个工作负荷中的总空闲时间的标准来限定在所述请求当中的顺序；以及根据所限定的顺序来服务所述请求。

【技术特征摘要】
【国外来华专利技术】2015.02.26 US 62/120,9351.一种方法，包括：从由一个或多个处理器处理的一个或多个工作负荷接收通过通信网络或在存储设备上访问数据的请求；根据旨在最小化所述一个或多个处理器在处理所述多个工作负荷中的总空闲时间的标准来限定在所述请求当中的顺序；以及根据所限定的顺序来服务所述请求。2.如权利要求1所述的方法，其中，限定所述顺序包括区分开阻塞请求和非阻塞请求，以及给予一个或多个所述阻塞请求优于一个或多个所述非阻塞请求的优先级。3.如权利要求1或2所述的方法，其中，限定所述顺序包括向由第一工作负荷发出的并且阻塞对第二工作负荷的处理的请求给予优先级。4.如权利要求1或2所述的方法，其中，限定所述顺序包括从操作系统或从虚拟层接收提示以及基于所述提示来设定所述顺序。5.如权利要求4所述的方法，其中，所述工作负荷和所述操作系统或虚拟层在给定计算节点中运行，以及其中设定所述顺序包括将所述提示提供到在所述给定计算节点外部的远程元件。6.如权利要求1或2所述的方法，其中，限定所述顺序包括从操作系统或从虚拟层接收给定工作负荷是空闲的通知以及基于所述通知来设定所述顺序。7.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于不页入任何存储页面的第二I/O请求，向将存储页面从所述通信网络或从所述存储设备页入到本地存储器内的第一I/O请求给予优先级。8.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于访问具有低于第一访问频率的第二访问频率的第二数据的第二I/O请求，给予访问具有所述第一访问频率的第一数据的第一I/O请求优先级。9.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于被识别为异步的第二I/O请求给予被识别为同步的第一I/O请求优先级。10.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于被识别为非屏障写的第二写请求给予被识别为屏障写的第一写请求优先级。11.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于写请求给予读请求优先级。12.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于传输具有大于第一数据尺寸的第二数据尺寸的第二数据的第二I/O请求，给予传输具有所述第一数据尺寸的第一数据的第一I/O请求优先级。13.如权利要求1或2所述的方法，其中，限定所述顺序包括相对于由第二类型的工作负荷发出的第二I/O请求，给予由第一类型的工作负荷发出的第一I/O请求优先级。14.一种装置，包括：接口，其用于连接到通信网络或存储设备；以及处理器，其被配置成从由一个或多个处理器处理的一个或多个工作负荷接收通过所述通信网络或在所述存储设备上访问数据的请求，以根...

【专利技术属性】
技术研发人员：亚龙·格林伯格，
申请(专利权)人：斯特拉托斯卡莱有限公司，
类型：发明
国别省市：以色列;IL