The invention discloses a concurrent control method for multi-tenant function computing service, which includes the following steps: computing node identifies the request when it receives the request of the operation function sent by the tenant in the cloud platform; concurrent control service cluster adds 1 operation to the first and second operation numbers respectively according to the request after identification, and returns the operation to the computing node. The first number of runs and the second number of runs after operation; when the first number of runs after calculation is less than the first number threshold and the second number of runs after calculation is less than the second number threshold, the corresponding function is run according to the request, and the running result is returned to the corresponding tenant to realize the concurrent control of the function computing service. The concurrent control method of the invention can effectively improve the operation efficiency of the function and precisely control the function allocated by each tenant at the same time to calculate the service resource balance.
【技术实现步骤摘要】
一种多租户函数计算服务的并发控制方法
本专利技术涉及云计算
,尤其涉及一种多租户函数计算服务的并发控制方法。
技术介绍
函数计算服务是一种基于事件驱动的函数托管服务。它能够让用户将编写的逻辑代码以函数的形式托管到云主机,使得云主机在接收到租户发送的运行函数的请求时调度计算节点运行函数,并向租户返回运行结果;其中,计算节点部署于计算服务器中。如图1所示,是现有技术中函数计算服务的模型结构示意图。在该模型结构中,计算服务器和调度器均部署在云主机上,当调度器接收到租户发送的请求时,调度器根据预设的调度策略将请求转发至计算节点。为了实现每个租户的可用计算资源按可以按预先设定的大小进行分配,现有的计算服务通常在调度器上设置有RPS(RequestPerSecond,每秒接收请求)的请求数量阈值,进而可限定每个租户每秒能新运行的函数数量。然而,由于函数的运行是一个时间持续的过程,且该持续时间长短不一,虽每秒新运行的函数通过请求数量阈值进行了限制,但是由于运行函数释放计算资源的时间不固定,导致租户占用的计算资源可能会超过预先设定的大小。现有的方法无法准确实现并发控制,使得 ...
【技术保护点】
1.一种多租户函数计算服务的并发控制方法,其特征在于,包括如下步骤:计算节点在接收到云平台中租户发送的运行函数的请求时,对所述请求进行标识并向并发控制服务集群发送标识后的请求;所述并发控制服务集群根据所述标识后的请求分别对第一运行数量和第二运行数量进行加1运算,并向所述计算节点返回运算后的第一运行数量及运算后的第二运行数量;所述第一运行数量为租户的函数运行数量,所述第二运行数量为租户请求的函数的运行总数,所述租户请求的函数由租户托管至云平台中;所述计算节点在判定运算后的第一运行数量小于第一数量阈值,且运算后的第二运行数量小于第二数量阈值时,根据所述请求运行所述租户请求的函数 ...
【技术特征摘要】
1.一种多租户函数计算服务的并发控制方法,其特征在于,包括如下步骤:计算节点在接收到云平台中租户发送的运行函数的请求时,对所述请求进行标识并向并发控制服务集群发送标识后的请求;所述并发控制服务集群根据所述标识后的请求分别对第一运行数量和第二运行数量进行加1运算,并向所述计算节点返回运算后的第一运行数量及运算后的第二运行数量;所述第一运行数量为租户的函数运行数量,所述第二运行数量为租户请求的函数的运行总数,所述租户请求的函数由租户托管至云平台中;所述计算节点在判定运算后的第一运行数量小于第一数量阈值,且运算后的第二运行数量小于第二数量阈值时,根据所述请求运行所述租户请求的函数,并向对应的租户返回运行结果,实现函数计算服务的并发控制。2.如权利要求1所述的并发控制方法,其特征在于,所述请求包括超时时间;所述并发控制服务集群根据所述标识后的请求分别对第一运行数量和第二运行数量进行加1运算之前,还包括如下步骤:所述并发控制服务集群接收所述标识后的请求,并按照超时时间由小到大的顺序将所述标识后的请求存储于请求队列中。3.如权利要求2所述的并发控制方法,其特征在于,在计算节点根据所述请求运行所述租户请求的函数时,还包括如下步骤:按照预设的更新周期更新所述超时时间,并向所述并发控制服务集群发送更新后的超时时间;所述更新周期包括多个判断周期;当所述并发控制服务集群在任一判断周期内判定所述更新后的超时时间大于当前时间时,分别对所述第一运算数量和所述第二运行数量进行减1运算,并从所述请求队列中删除所述标识后的请求。4.如权利要求3所述的并发控制方法,其特征在于,所述并发控制服务集群通过如下步骤判断所述更新后的超时时间是否大于当前时间:在每个所述判定周期内,依次判断所述请求队列中标识后的请求的超时时间是否大于所述当前时间;在判断到任一标识后的请求的超时时间大于所述当前时间时,判定所述任...
【专利技术属性】
技术研发人员:刘忻,董栓宗,肖兴,
申请(专利权)人:广州市品高软件股份有限公司,
类型:发明
国别省市:广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。