服务调度方法、装置、设备以及存储介质制造方法及图纸

本公开提供了一种服务调度方法、装置、设备以及存储介质，涉及云服务技术领域，可应用于云平台。该方法包括：接收至少一个客户端发送的并发请求；为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。本公开提供的方法充分利用了服务器资源以对前端并发请求进行处理，从而提升了服务器对请求的处理效率。率。率。

【技术实现步骤摘要】
服务调度方法、装置、设备以及存储介质


[0001]本公开涉及计算机
，具体涉及云存储
，尤其涉及服务调度方法、装置、设备以及存储介质。

技术介绍

[0002]随着科技的发展，互联网的通信架构层出不穷，其中C/S(Client
‑
Server，客户端
‑
服务器)架构最为常见，即“客户端/服务器”模式。这种结构是将需要处理的业务合理地分配到客户端和服务器端，这样可以大大降低通信成本，然而对于单服务器的服务，当客户端不断增加的时候，服务器端就需要考虑多并发的问题。

技术实现思路

[0003]本公开提供了一种服务调度方法、装置、设备以及存储介质。
[0004]根据本公开的第一方面，提供了一种服务调度方法，包括：接收至少一个客户端发送的并发请求；为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。
[0005]根据本公开的第二方面，提供了一种服务调度装置，包括：接收模块，被配置成接收至少一个客户端发送的并发请求；确定模块，被配置成为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；获取模块，被配置成响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；发送模块，被配置成将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。
[0006]根据本公开的第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
[0007]根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
[0008]根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。
[0009]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0010]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0011]图1是本公开可以应用于其中的示例性系统架构图；
[0012]图2是根据本公开的服务调度方法的一个实施例的流程图；
[0013]图3是根据本公开的服务调度方法的另一个实施例的流程图；
[0014]图4为不做处理时的并发请求的示意图；
[0015]图5为服务器并发处理请求的示意图；
[0016]图6为服务器对并发请求处理后的示意图；
[0017]图7是根据本公开的服务调度方法的一个应用场景的示意图；
[0018]图8是根据本公开的服务调度装置的一个实施例的结构示意图；
[0019]图9是用来实现本公开实施例的服务调度方法的电子设备的框图。
具体实施方式
[0020]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0021]需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
[0022]图1示出了可以应用本公开的服务调度方法或服务调度装置的实施例的示例性系统架构100。
[0023]如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
[0024]用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送信息等。终端设备101、102、103上可以安装有各种客户端应用。
[0025]终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
[0026]服务器105可以提供各种服务。例如，服务器105可以对从终端设备101、102、103获取的并发请求进行分析和处理，并生成处理结果(例如请求的预估排队时间)。
[0027]需要说明的是，服务器105可以是硬件，也可以是软件。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器105为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
[0028]需要说明的是，本公开实施例所提供的服务调度方法一般由服务器105执行，相应地，服务调度装置一般设置于服务器105中。
[0029]应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
[0030]继续参考图2，其示出了根据本公开的服务调度方法的一个实施例的流程200。该
服务调度方法包括以下步骤：
[0031]步骤201，接收至少一个客户端发送的并发请求。
[0032]在本实施例中，服务调度方法的执行主体(例如图1所示的服务器105)可以接收由至少一个客户端发送的并发请求。本实施例中的服务调度模式为单服务器
‑
多客户端的模式，也即服务器端同步处理请求，并返回响应结果。对于至少一个客户端中的每个客户端而言，设时间T为其发送请求的周期，则每隔一个周期，客户端向服务器端发送一条待处理请求。可选地，可以每24小时重置一次客户端状态。随着客户端的增加，会出现同一时间多个客户端发送大量的并发请求的情况，上述执行主体可以接收由至少一个客户端发送的并发请求。
[0033]步骤202，为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线。
[0034]在本实施例中，上述执行主体可以为步骤201接收的并发请求中的每个请求从预本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种服务调度方法，包括：接收至少一个客户端发送的并发请求；为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定所述目标流水线对所述请求的预估处理时间超过该请求的预设超时时间，获取该请求在所述目标流水线中的预估排队时间；将所述预估排队时间发送给发送该请求的客户端，以使所述客户端根据所述预估排队时间调整请求发送策略。2.根据权利要求1所述的方法，其中，所述多条流水线通过以下步骤生成：获取服务器的资源的上限值；基于所述上限值生成多条用于并发处理请求的流水线。3.根据权利要求1所述的方法，其中，所述为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线，包括：对于所述并发请求中的每个请求，基于贪心算法从所述多条流水线中确定用于处理该请求的目标流水线。4.根据权利要求1所述的方法，还包括：基于所述目标流水线处理请求的平均时间以及所述目标流水线中待处理请求的个数，得到所述目标流水线对所述请求的预估处理时间；将所述预估处理时间与所述请求的预设超时时间进行比较，确定所述预估处理时间是否超过所述预设超时时间。5.根据权利要求4所述的方法，其中，所述获取该请求在所述目标流水线中的预估排队时间，包括：将所述预估处理时间作为该请求在所述目标流水线中的预估排队时间。6.根据权利要求4所述的方法，还包括：响应于确定所述预估处理时间不超过所述预设超时时间，将所述请求直接放入处理队列。7.根据权利要求1
‑
6中任一项所述的方法，还包括：响应于确定所述客户端数量增加，增大所述客户端发送请求的周期。8.一种服务调度装置，包括：接收模块，被配置成接收至少一个客户端发送的并发请求；确定模块，被配置成为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；获取模块，被配置成响应于确定所述目标流水线对所述请求的预估处理时间超过该请求的预设超时时间，获取该请求在所述目标流水线中的预估排队时间；发送模块，被配置成将所...

【专利技术属性】
技术研发人员：李旺平，师小凯，
申请(专利权)人：北京精英路通科技有限公司，
类型：发明
国别省市：