当前位置: 首页 > 专利查询>澳门大学专利>正文

支持高并发请求的云服务运行方法、系统及云服务器技术方案

技术编号:36205292 阅读:18 留言:0更新日期:2023-01-04 12:00
本申请涉及一种支持高并发请求的云服务运行方法、系统及云服务器,云服务运行方法包括:在运行应用程序时基于无服务器计算进行函数实例的调用;获取云服务器运行函数实例的流量信息;若流量信息满足预设要求,则在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。本申请在运行时环境分叉技术进程中进行内存复用和状态复用,可在高并发的情况下实现低时延的效果。情况下实现低时延的效果。情况下实现低时延的效果。

【技术实现步骤摘要】
支持高并发请求的云服务运行方法、系统及云服务器


[0001]本申请一般涉及云服务领域。更具体地,本申请涉及一种支持高并发请求的云服务运行方法、支持高并发请求的云服务运行系统及云服务器。

技术介绍

[0002]云服务是基于互联网的相关服务的增加、使用和交互模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云上服务在高并发场景下容易发生超时,从而导致违反服务级别协议(service

level agreement,缩写SLA)的问题。高并发(High Concurrency)是云服务系统设计的一个重要概念,它的目的是让系统能够同时并行处理多个请求。
[0003]现有方案通常采用中间件策略及体系结构与分布式资源管理策略,中间件策略是通过在中间件级别进行数据缓存,数据库分库分表,服务分区操作,读写分离,服务负载均衡等操作降低服务单点故障所产生的扩散风险;通过页面静态化,并发处理,队列处理,內容分发网络等方式减少集群内部数据通讯开销,从而提升响应时间。
[0004]分布式资源管理策略则是高并发时,通过对云服务环境进行自动扩缩容,从而充分地利用了云数据中心的分布式系统优势,将负载平均地分摊到集群中的其他机器上,降低局部效应对单个服务点的影响。
[0005]现有的方案中,云计算体系结构以及操作系统在进行服务级别的扩容时,创建虚拟环境的过程中开销过大,从而使得整体的响应时间没法在SLA的要求内达到低时延的效率要求。

技术实现思路

[0006]本申请提供一种支持高并发请求的云服务运行方法、支持高并发请求的云服务运行系统及云服务器,以解决现有云服务在高并发请求的情况下无法在SLA的要求内达到低时延效率要求的问题。
[0007]为解决上述技术问题,本申请提供一种支持高并发请求的云服务运行方法,包括:在运行应用程序时基于无服务器计算进行函数实例的调用;获取所述云服务器运行函数实例的流量信息;若所述流量信息满足预设要求,则在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。
[0008]在一个实施例中,所述云服务运行方法还包括:若所述流量信息满足预设要求,则复制所述函数实例;在完成所述函数实例的复制后,重新进行函数实例的调用。
[0009]在一个实施例中,所述若所述流量信息满足预设要求,包括:若所述流量信息中的流量达到阈值,则判定所述流量信息满足预设要求。
[0010]在一个实施例中,所述在运行应用程序时基于无服务器计算进行函数调用,包括:在运行应用程序时基于无服务器计算复用函数模板,以进行函数调用。
[0011]在一个实施例中,所述云服务运行方法还包括:在运行所述函数实例时进行中心
化存储。
[0012]在一个实施例中,所述云服务运行方法还包括:在所述函数实例运行完成后,释放复用和复制。
[0013]为解决上述技术问题,本申请提供一种支持高并发请求的云服务运行系统,包括:高并发执行组件,用于在运行应用程序时基于无服务器计算进行函数实例的调用;高并发感知组件,用于感知所述云服务器运行函数实例的流量信息;扩缩容组件,用于在所述流量信息满足预设要求时,在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。
[0014]在一个实施例中,所述扩缩容组件还用于,在所述流量信息满足预设要求时,复制所述函数实例;所述高并发执行组件还用于,在完成所述函数实例的复制后,重新进行函数实例的调用。
[0015]在一个实施例中,所述高并发执行组件还用于,在运行应用程序时基于无服务器计算复用函数模板,以进行函数调用。
[0016]为解决上述技术问题,本申请提供一种云服务器包括:处理器、存储器;所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如上述云服务运行方法的操作。
[0017]与现有技术不同,本申请云服务运行方法包括:在运行应用程序时基于无服务器计算进行函数实例的调用;获取云服务器运行函数实例的流量信息;若流量信息满足预设要求,则在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。本申请在运行时环境分叉技术进程中进行内存复用和状态复用,可在高并发的情况下实现低时延的效果。
附图说明
[0018]通过参考附图阅读下文的详细描述,本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本公开的若干实施方式,并且相同或对应的标号表示相同或对应的部分,其中:
[0019]图1是根据本申请支持高并发请求的云服务运行方法第一实施例的流程示意图;
[0020]图2是根据本申请支持高并发请求的云服务运行方法第二实施例的流程示意图;
[0021]图3是根据本申请支持高并发请求的云服务运行系统实施例的结构示意图;
[0022]图4是根据本申请实施例云服务器的结构示意图。
具体实施方式
[0023]下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
[0024]请参阅图1,本实施例支持高并发请求的云服务运行方法包括以下步骤。
[0025]S11:在运行应用程序时基于无服务器计算进行函数实例的调用。
[0026]本实施例是基于无服务器计算,无服务器计算(Serverless Computing)是指在构
建和运行应用时无需管理服务器等基础设施。它描述了一个更细粒度的部署模型,在该模型中,应用被拆解为一个或多个细粒度的函数被上传到一个平台,然后根据当前所需执行、扩展和计费。
[0027]无服务器计算并不意味着不再使用服务器来承载和运行代码,也不意味着不再需要运维工程师。而是指无服务器计算的消费者不再需要进行服务器配置、维护、更新、扩展和容量规划上,这些任务和功能都由无服务器平台处理,并且完全从开发人员和IT/操作团队中抽象出来。因此,开发人员专注于编写应用程序的业务逻辑。运营工程师能够将他们的重点提升到更关键的业务任务上。
[0028]无服务器计算中,容器包含应用程序和应用程序正常运行所需的所有元素,包括系统库、系统设置和其他依赖项。任何类型的应用程序都可以在容器中运行,无论容器化应用程序托管在何处,它都将以相同的方式运行。同样的道理,容器同时也可以携带无服务器计算的应用(也就是函数)然后运行在云平台的任何服务器上。
[0029]实例则是指某个应用正在运行的运行时环境,例如运行着某个服务的一个容器A,可以被认为容器A是这个服务的一个实例。原理上无服务计算平台的函数可以缩减到0个。由于无服务器计算进行自动扩缩,可以在短时间之内创建并运行大量的无服务器函数实例。
[0030]因此本步骤利用无服务器计算来运行应用程序,而在运行应用程序时,本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种支持高并发请求的云服务运行方法,其特征在于,所述云服务运行方法包括:在运行应用程序时基于无服务器计算进行函数实例的调用;获取云服务器运行函数实例的流量信息;若所述流量信息满足预设要求,则在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。2.根据权利要求1所述的云服务运行方法,其特征在于,所述云服务运行方法还包括:若所述流量信息满足预设要求,则复制所述函数实例;在完成所述函数实例的复制后,重新进行函数实例的调用。3.根据权利要求1所述的云服务运行方法,其特征在于,所述若所述流量信息满足预设要求,包括:若所述流量信息中的流量达到阈值,则判定所述流量信息满足预设要求。4.根据权利要求1所述的云服务运行方法,其特征在于,所述在运行应用程序时基于无服务器计算进行函数调用,包括:在运行应用程序时基于无服务器计算复用函数模板,以进行函数调用。5.根据权利要求1所述的云服务运行方法,其特征在于,所述云服务运行方法还包括:在运行所述函数实例时进行中心化存储。6.根据权利要求1所述的云服务运行方法,其特征在于,所述...

【专利技术属性】
技术研发人员:叶可江林彦颖须成忠
申请(专利权)人:澳门大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1