请求处理技术制造技术

一种计算机系统实施管理程序，所述管理程序则实施一个或多个计算机系统实例和控制器。所述控制器和计算机系统实例共享存储器。使用所述计算机系统实例和所述控制器两者的设备来处理请求。作为请求处理的一部分，信息经由共享存储器而在所述计算机系统实例与所述控制器之间传递。

【技术实现步骤摘要】
【国外来华专利技术】相关申请案的交叉参考本申请案主张2013年8月12日申请的标题为“根据请求的计算机系统实例(PERREQUESTCOMPUTERSYSTEMINSTANCES)”的第13/964,977号、标题为“应用引导映像(APPLICATIONBOOTIMAGE)”的第13/964,941号以及标题为“请求处理技术(REQUESTPROCESSINGTECHNIQUES)”的第13/964,889号共同待决的美国专利申请案，所述专利申请案的内容全文以引用的方式并入本文中。
技术介绍
电子请求的服务可能需要各种资源量。例如，请求服务的规模可以在微小的无状态计算到耗时的大规模并行应用的范围内。请求的服务通常只需要有限的计算资源量，通常少于计算机系统用来服务可用的请求的资源量。因此，计算资源经常没有被充分使用，并且一般来说，用于处理请求的传统技术具有很多的缺点。在很多方面，虚拟化改善了使用计算资源的方式，例如，允许单个物理计算机系统实施多个同时运行的虚拟计算机系统，从而提供可调整大小的能力，使得开发人员易于弹性增加规模。然而，归因于服务请求所需的资源以及加速和拆除虚拟计算机系统(实例)的成本摊销，传统虚拟化技术在开发人员减少计算规模的能力方面会受到基本限制。服务虚拟化的实际实施通常依赖于预期工作负载将占据几分钟、几小时或甚至更长时间。例如，在很多应用中，可以相对不常使用虚拟计算机系统。然而，为了让虚拟计算机系统能够为请求服务，虚拟计算机系统必须维持在操作状态，这需要用于计算机系统的操作系统的计算资源以及其他资源(例如，网络资源)。当此类计算机系统未被充分使用时，为那些计算机系统分配的资源中的至少一个通常不可用于其他用途。附图说明将参考附图描述根据本公开的各个实施方案，在附图中：图1A示出展示了本公开的各方面的图解的说明性示例；图1B示出展示了本公开的各方面的图解的说明性示例；图1C示出展示了本公开的各方面的图解的说明性示例；图2示出可以实施各个实施方案的环境的说明性示例；图3示出将通用计算机系统实例与请求实例进行比较的说明性图解；图4示出可以用来实施本公开的各个实施方案的计算机系统的配置的说明性示例；图5示出可以实施各个实施方案的环境的说明性示例；图6示出根据至少一个实施方案的用于处理请求的过程的说明性示例；图7示出根据至少一个实施方案的用于处理请求的过程的说明性示例；图8示出根据至少一个实施方案的用于处理请求的过程的说明性示例；图9示出可以实施各个实施方案的环境的说明性示例；图10示出根据至少一个实施方案的用于构建应用图像的过程的说明性示例；图11示出根据至少一个实施方案的用于识别应用代码执行中的安全点的过程的说明性示例；图12示出根据至少一个实施方案的用于识别应用代码执行中的安全点的过程的说明性示例；图13示出根据至少一个实施方案的工作者管理程序及其部件的说明性示例；图14示出根据至少一个实施方案的用于处理请求的过程的说明性示例；图15示出可以实施各个实施方案的环境。具体实施方式以下描述内容将描述各种实施方案。出于解释说明的目的，列出了具体配置和细节，以便全面理解实施方案。然而，所属领域的技术人员将显而易见的认识到，可以在没有这些具体细节的情况下实践这些实施方案。此外，众所周知的特征可被忽略或简化，以便不掩盖描述的实施方案。本文中描述和建议的技术涉及通过虚拟计算机系统来处理请求，为了计算效率、减少延迟和/或其他优势的目的，所述虚拟计算机系统缺少传统应用堆栈中的若干层。此类虚拟计算机系统可使用大体更少的资源实施，从而实现技术优势，例如，启动时间更快、计算开销减少，以及能够使用物理计算装置(主机计算机系统)来实施更大数量的虚拟机。在一个实施方案中，管理程序由计算机系统操作，以便将计算机系统的各种计算资源虚拟化，例如，处理资源、存储资源、网络资源等。尽管将底层计算机系统的物理计算资源虚拟化的管理程序始终用于说明的目的，但管理程序可以是若干虚拟化层中的一个，并且因此，可以将计算资源虚拟化，所述计算资源在所述管理程序看来是由另一管理程序提供的虚拟化资源。一般来说，管理程序可以用来在计算机系统、工作者控制器以及一个或多个虚拟计算机系统实例(实例)上实施。特定实例可以缺少传统上用来实施实例的应用程序堆栈中的各种层。例如，实例可以缺少操作系统和相关联的资源。在一些示例中，实例直接在管理程序上执行语言运行时，而不需要各种部件，例如，操作系统内核、各种进程、语言虚拟机、完整的网络堆栈和/或其他部件。工作者控制器可以被实施为在管理程序或以其他方式执行的进程，从而使得工作者控制器可以使用实例可能缺少的特权功能。在一些实施方案中，实例可能缺少实施协议堆栈的一个或多个层(例如，开放系统互联(OSI)模型协议堆栈的一到六级)，而控制器实施所述一个或多个层。此外，控制器和实例可以各自实施协议堆栈的至少一个共享层(例如，控制器和实例都可以实施OSI协议堆栈的第七层，即，应用层)。一个或多个共享层可以用来使用下文论述的共享存储区在控制器与实例之间传送信息。在一个实施方案中，实例利用工作者控制器的各种部件，以用于处理各种请求的目的。为了能够像这样利用工作者控制器的能力，管理程序可以实施由实例和工作者控制器共享的共享存储区。如下文更详细地论述，处理请求中涉及的数据(例如，响应于请求的数据)可以经由共享存储区传送到工作者控制器。可以利用各种技术来实现有效处理请求以及跟踪经过共享存储区的数据。在一个实施方案中，实例的已执行应用代码使用HTTP对象模型进行HTTP请求。应用代码可以实例化并且配置HTTP请求对象，以用于发送或接收HTTP请求。尽管结合HTTP描述了各种技术，但本公开的各种实施方案适于用在其他协议中，例如，文件传输协议(FTP)、域名服务(DNS)以及其他协议。在此特定的说明性示例中，HTTP对象模型可以访问半虚拟HTTP驱动器，所述驱动器通过管理程序来实现实例与工作者控制器之间的通信。尽管半虚拟HTTP驱动器用于说明的目的，但一般来说，可以通过与半虚拟装置驱动器的交互来实现从实例到控制器的共享存储区中的数据的通知。作为HTTP对象模型访问半虚拟HTTP驱动器的结果，半虚拟HTTP驱动器可以在实例和工作者控本文档来自技高网...

【技术保护点】
一种系统，其包括：实施管理程序的计算装置；前端监听器，其被配置来：接收通过网络传输的请求；针对接收的请求的至少子集中的每个请求，将对应于所述请求的工作令牌提供到所述管理程序；其中所述管理程序被配置来：接收来自所述前端监听器的工作令牌；针对来自接收的工作令牌的至少子集的每个工作令牌：至少部分基于所述工作令牌，选择可用于处理对应于所述工作令牌的请求的应用图像；通过至少识别用于所述选择的应用图像的复制部分的入口点地址以及至少部分基于识别的入口点开始执行应用代码，至少部分基于所述选择的应用图像来实例化虚拟计算机系统；以及使用所述工作令牌来从所述前端监听器获取对应于所述工作令牌的所述请求的复本，以及将对应于所述工作令牌的所述请求的所述复本提供到所述实例化的虚拟计算机系统以便由所述虚拟计算机系统处理。

【技术特征摘要】
【国外来华专利技术】2013.08.12 US 13/964,977;2013.08.12 US 13/964,941;1.一种系统，其包括：
实施管理程序的计算装置；
前端监听器，其被配置来：
接收通过网络传输的请求；
针对接收的请求的至少子集中的每个请求，将对应于所述请求的
工作令牌提供到所述管理程序；
其中所述管理程序被配置来：
接收来自所述前端监听器的工作令牌；
针对来自接收的工作令牌的至少子集的每个工作令牌：
至少部分基于所述工作令牌，选择可用于处理对应于所述工作令
牌的请求的应用图像；
通过至少识别用于所述选择的应用图像的复制部分的入口点地
址以及至少部分基于识别的入口点开始执行应用代码，至少部分基于
所述选择的应用图像来实例化虚拟计算机系统；以及
使用所述工作令牌来从所述前端监听器获取对应于所述工作令
牌的所述请求的复本，以及将对应于所述工作令牌的所述请求的所述
复本提供到所述实例化的虚拟计算机系统以便由所述虚拟计算机系
统处理。
2.根据权利要求1所述的系统，其中实例化所述虚拟计算机系统
包括将所述选择的应用图像的至少一部分复制到用于所述虚拟计算

\t机系统的存储分区。
3.根据权利要求1所述的系统，其中所述应用图像至少部分基于
另一虚拟计算机系统的快照，所述另一虚拟计算机系统已经部分执行
了对应于所述应用图像的应用代码的可执行部分。
4.根据权利要求1所述的系统，其中使用所述工作令牌来获取所
述请求的所述复本包括：
将在所述工作令牌中编码的用于所述请求的标识符提供到所述
前端监听器；以及
至少部分基于提供的标识符，由所述前端监听器定位出所述请
求；以及
将定位出的请求传送到所述计算装置。
5.一种用于响应请求的计算机实施的方法，其包括：
在配置有可执行指令的一个或多个计算机系统的控制下，
接收对应于由接收请求的前端监听器所接收的所述请求的令牌；
作为接收到所述令牌的结果，将虚拟计算机系统实例化以便处理
所述请求；
使用所述接收的令牌来获取来自所述前端监听器的所述请求的
复本；以及
使用所获取的所述请求的复本由所述虚拟计算机系统来处理所
述请求。
6.根据权利要求5所述的计算机实施的方法，其中所述前端监
听器和所述虚拟计算机系统由不同的计算装置实施。
7.根据权利要求5所述的计算机实施的方法，其中将所述虚拟
计算机系统实例化包括：
...

【专利技术属性】
技术研发人员：N·A·艾伦，
申请(专利权)人：亚马逊技术股份有限公司，
类型：发明
国别省市：美国;US