服务请求处理方法、装置、电子设备及可读介质制造方法及图纸

本申请提供一种服务请求处理方法、装置、电子设备及可读介质，该方法包括：获取来自于函数服务的任务请求；若当前多个第一服务实例均不可用，从多个调度器中确定目标调度器；通过所述目标调度器在多个第二服务实例中为所述任务请求确定第三服务实例；以及通过所述第三服务实例处理所述任务请求。本申请的服务请求处理方法、装置、电子设备及可读介质，能够满足大规模调度函数服务的高吞吐量、低延迟以及资源自动伸缩的需求。

Service request processing methods, devices, electronic devices and readable media

【技术实现步骤摘要】
服务请求处理方法、装置、电子设备及可读介质
本申请涉及互联网领域，尤其涉及一种服务请求处理方法、装置、电子设备及计算机可读介质。
技术介绍
函数服务(FaaS-FunctionasaService)是一种新的云计算模式，它提供基于容器化技术，微服务技术和事件触发机制的计算服务。应用开发者通过简单的函数定义应用服务的基本逻辑，函数平台自动实现应用服务的快速搭建部署，容器资源的按需占用和按量伸缩，从而极大地提高应用开发者的效率和平台的资源利用率。函数平台的一个重要组成部分是资源调度器。资源调度器根据用户服务请求的数量动态地分配容器资源和启动服务实例。传统的调度器一般利用中央或者两层调度器来分配资源，包括Kubernetes,Mesos,YARN，Swarm。更新的调度器，例如Omega，Borg使用多个并发的独立调度器。这两类调度器需要整个集群的全局资源信息来进行调度决策。还有一类调度器使用随机算法，从整个集群中随机选取一小部分机器，从中根据适当的标准挑选最合适的机器来分配容器资源和运行函数服务实例，例如Sparrow和Tarcil。...

【技术保护点】
1.一种服务请求处理方法，其特征在于，包括：/n获取来自于函数服务的任务请求；/n若当前多个第一服务实例均不可用，从多个调度器中确定目标调度器服务实例；/n通过所述目标调度器在多个第二服务实例中为所述任务请求确定第三服务实例；以及/n通过所述第三服务实例处理所述任务请求。/n

【技术特征摘要】
1.一种服务请求处理方法，其特征在于，包括：
获取来自于函数服务的任务请求；
若当前多个第一服务实例均不可用，从多个调度器中确定目标调度器服务实例；
通过所述目标调度器在多个第二服务实例中为所述任务请求确定第三服务实例；以及
通过所述第三服务实例处理所述任务请求。


2.如权利要求1所述的方法，其特征在于，还包括：
通过资源表实时储存空闲资源、第一服务实例以及第二服务实例状态；
其中，所述第一服务实例、第二服务实例状态包括：等待、运行、以及终止。


3.如权利要求1所述的方法，其特征在于，还包括：
在当前的所述多个第一服务实例中的部分第一服务实例可用的情况下，为所述任务请求确定第四服务实例；以及
通过第四服务实例处理所述任务请求。


4.如权利要求2或3所述的方法，其特征在于，为所述任务请求确定第四服务实例包括：
通过所述资源表以及资源分配算法为所述任务请求确定所述第四服务实例。


5.如权利要求2所述的方法，其特征在于，从多个调度器中确定目标调度器包括：
通过负载平衡原则从多个调度器中确定所述目标调度器。


6.如权利要求2所述的方法，其特征在于，通过所述目标调度器在多个第二服务实例中为所述任务请求确定第三服务实例包括：
所述目标调度器根据采样算法确定多个第二服务实例；以及
根据所述任务请求在多个第二服务实例中为所述任务请求确定第三服务实例。


7.如权利要求6所述的方法，其特征在于，还包括：
实时获取所述资源表；
根据所述资源表判断所述第三服务实例是否冲突；以及
在所述第三服务实例冲突的情况下，通过所述目标调度器重新确定第三服务实例。


8.如权利要求6所述的方法，其特征在于，所述目标调度器根据采样算法确定多个第二服务实例包括：
所述目标调度器根据采样算法确定目标物理机；以及
在所述目...

【专利技术属性】
技术研发人员：陈源，刘海锋，佟欣，
申请(专利权)人：北京京东尚科信息技术有限公司，北京京东世纪贸易有限公司，
类型：发明
国别省市：北京;11