一种端到端云服务延迟的计算方法技术

本发明专利技术提出一种端到端云服务延迟的计算方法，包括一：端到端多作业请求转换为多队列系统；进入接纳控制系统的请求队列称为请求上行队列，从RP&DDF出来的请求队列称为请求下行队列；二：多队列系统基于分层CTMC建模；采用分层CTMC链为端到端云服务建模，第一层和第二层CTMC链的状态空间分别为Λ和

【技术实现步骤摘要】
一种端到端云服务延迟的计算方法
本专利技术涉及一种端到端云服务延迟的计算方法，属于互联网

技术介绍
大部分云服务提供者利用虚拟化技术实现物理资源共享，例如，AmazonEC2和GoGrid利用Xen虚拟化(文献[1])支持单物理服务器上多个虚拟机实例(文献[2-3])。虚拟技术的一个重要特征是通过物理资源(如处理器、I/O接口)虚拟化实现单个服务器被多个性能独立的平台，即虚拟机器(VirtualMachine，VM)共享。研究人员通过大量研究指出虚拟化技术对云服务计算和通信性能产生严重影响。如文献[4]通过AmazonEC2与其它Internet位置服务器进行通信，测量了虚拟化技术对S3(即SimpleStorageService)服务的吞吐量和延迟等性能的影响，文献[5]在应用层比较了AmazonEC2和其它高性能计算集群在大规模科学计算方面的性能，研究结果显示AmazonEC2的性能比传统的科学计算集群(如NCSA[6])更差一些。基于经验值测量技术，文献[7]讨论了AmazonEC2实例端到端通信性能，并深入分析了大数据中心虚拟化技术对网络性能的影响。作者重点分析了由于终端主机虚拟化技术引起的延迟抖动异常偏大和TCP/UDP吞吐量极不稳定等性能问题，这些发现有助于解释文献[8]所发现的异常现象。文献[7]研究指出：当前VM监视器的实现技术无法提供足够的性能隔离来确保运行在单个物理主机上的多个VM实例间资源共享的有效性，特别是当运行在相邻机器上VM的应用系统用于计算通信资源时，这种现象更为严重。近年来，Markov过程和队列理论在云服务质量分析领域得到越来越多研究人员的重视，如文献[9]利用连续时间Markov链(CTMC)分析了三个不同的虚拟机器随机结构，即负载均衡服务器结构(LoadBalanceServerArchitecture，LBSA)、隔离组件服务器架构(IsolatedComponentServerArchitecture，ICSA)和拜占庭容错服务器架构(ByzantineFaultTolerantServerArchitecture，BFTSA)，并分析了其稳定状态分布和瞬时行为的特性。与本专利计算原理相似的工作有两个，即文献[10]和文献[11]。文献[10]的应用场景是：所有服务请求都发送到云计算中心，云计算中心通过合适的计算节点(计算节点包括不同的计算资源，如Web服务器、数据库服务器、目录服务器等等)提供相应的服务，服务完成后离开云计算中心。在文献[10]中，云计算数据中心通过M/G/m/m+r队列系统进行建模，模型假设服务请求到达服从泊松分布，作业服务时间为随机独立分布，即均值为μ的一般分布，服务器数为m，服务调度策略为先来先服务(FCFS：firstcomefirstservice)，到达的服务请求大小为r，系统缓存大小为m+r。该技术主要用于分析服务响应时间的分布特性，其应用前提是假设服务请求到达时间间隔和服务时间均为指数分布。基于该假设，文献[10]研究了最大作业请求数目、最小服务时间和最高服务等级之间的函数关系。然而，由于无法得到响应时间的分布函数，以及M/G/m系统队列长度的精确求解仍然存在困难，因而，文献[10]中的模型只能得到合理的近似解。而且，文献[10]只考虑了单个类型作业到达的情形。文献[11]是以加拿大哥伦比亚省的克洛纳综合医院(KGH：theKelownaGeneralHospital)急诊部门的紧急床位服务为应用背景：假设急诊部门提供三种类型紧急床位和两种等级的服务，病人到达速率是周期性随机变化的，紧急床位的服务时间为随机分布，讨论了如何使紧急床位的提供时间和服务质量(作者认为担架上等待服务的病人越少，服务质量越好)达到最优控制策略问题。文献[11]采用的技术是：通过M(t)/M/c/c队列对上述随机过程建模，病人到达速率为一个周期变化的M(t)函数，M表示每个作业的服务时间为指数分布，c表示病床数量。该技术定义了一个费用函数，费用函数主要包括三个部分：启动紧急病床时间、运行紧急病床时间和病人在担架上的时间。为此，需要求解队列方程的瞬态解，该技术采用四阶龙格-库塔法(thefourth-orderRunge–Kutta)计算队列微分方程的瞬态解。该技术虽然是针对医院急诊部门紧急床位的随机过程建模，但对于任何一个符合上述假设的、到达速率和服务器变化的随机过程，该技术都是适用的，如Internet服务等。该技术的主要缺陷在于，它是针对两种服务等级的随机模型，即根据到达的作业数数量提供两种不同服务质量的服务器，实际上，云计算服务环境都是多作业类型，且提供多服务器类型的应用场景。因此，对于多类型服务器的云计算中心是不适用的。参考文献：[1]AbeniL,FaggioliD,AnExperimentalAnalysisoftheXenandKVMLatencies,IEEE22NDINTERNATIONALSYMPOSIUMONREAL-TIMEDISTRIBUTEDCOMPUTING(ISORC2019),pp.18-26,Valencia,SPAIN,2019.[2]Anjum,A，Abdullah,T，Tariq,MF，Baltaci,Y，Antonopoulos,N，VideoStreamAnalysisinClouds:AnObjectDetectionandClassificationFrameworkforHighPerformanceVideoAnalytics，IEEETRANSACTIONSONCLOUDCOMPUTINGVol.7,Issue4,pp.1152-1167,2019.[3]ZhangRR,XiaoX,StudyofDanger-Theory-BasedIntrusionDetectionTechnologyinVirtualMachinesofCloudComputingEnvironment,JOURNALOFINFORMATIONPROCESSINGSYSTEMS,Vol.14,Issue1,pp.239-251,2018.[4]LandoniM,GenoniM,RivaM,BiancoA,CorinaA,Applicationofcloudcomputinginastrophysics:ThecaseofAmazonWebServices,ProceedingsofSPIE-TheInternationalSocietyforOpticalEngineering,SoftwareandCyberinfrastructureforAstronomyV,Vol.10707,2018.[5]EmerasJ,VarretteS,PlugaruV,BouvryP,Amazonelasticcomputecloud(EC2)versusIn-HouseHPCPlatform:Acostanalysis,IEEETransactionsonCloudComputing,Vol.7,No.2,p456本文档来自技高网...

【技术保护点】
1.一种端到端云服务延迟的计算方法，其特征在于：包括如下步骤：/n步骤一：端到端多作业请求转换为多队列系统；/n每个用户请求随机到达云接纳控制系统，接受的作业进入RP&DDM等待虚拟资源分配，将用户请求到达过程视作一个多队列系统，Q

【技术特征摘要】
1.一种端到端云服务延迟的计算方法，其特征在于：包括如下步骤：
步骤一：端到端多作业请求转换为多队列系统；
每个用户请求随机到达云接纳控制系统，接受的作业进入RP&DDM等待虚拟资源分配，将用户请求到达过程视作一个多队列系统，Qreq表示系统中所有用户请求队列；进入接纳控制系统的请求队列称为请求上行队列，而从RP&DDM出来的请求队列称为请求下行队列；
每个用户都有一个对应的请求上行队列和请求下行队列，并设和分别表示用户k的请求上行队列和请求下行队列，第k个用户请求以速度为λk的泊松过程到达即请求上行队列；每个服务器维护N个不同类型的作业请求，分别对应N个不同的请求队列，即qi1，qi2，…，qiN；每个服务器上Reqk的处理时间近似看作参数为μk的指数分布；在离开服务器i后，用户k的请求进入即请求下行队列；
步骤二：多队列系统基于分层CTMC建模；
定义所有请求上行队列和请求下行队列的容量均为Q，λ1＝λ2＝…＝λM且μ1＝μ2＝…＝μM，则即所有请求到达是独立同分布的，作业请求经由RP&DDM处理之前，以速率λ按照FCFS规则进入Qreq；对于上述多队列系统，考虑两个状态空间：Λ和Λ＝{Y(t),st}描述RP&DDM的特征，其中，Y(t)＝{0,1,2,···,Q}表示队列Qreq中用户请求的数目，st∈{0,1}表示RP&DDM在时刻t的状态，st＝0表示RP&DDM处于passive状态，st＝1表示RP&DDM处于active状态；描述服务器i上类型k的用户请求的随机特征，且其中和分别表示服务器i上第j个k类型请求的剩余大小、t时间qik中用户请求数目、以及服务器i的当前状态；采用分层CTMC链为端到端云服务建模，第一层和第二层CTMC链的状态空间分别为Λ和分别计算其状态转移概率；
步骤三：端到端应用延迟计算；所述端到端延迟包括队列Qreq等待延迟、资源部署延迟和执行时间。


2.根据权利要求1所述的一种端到端云服务延迟的计算方法，其特征在于：该云服务系统包括接纳控制系统和全域资源提供与部署决策系统RP&DDM，定义该云服务系统中用户数为M，M>0，每个用户有N个不同类型的服务请求，即作业，N>0，每种类型请求都要求一个特定的虚拟机资源配置，即VM-配置，虚拟资源共享底层物理资源，每一个VM-配置表示一个虚拟资源组合；接纳控制系统判断能否满足用户作业的资源请求，云计算中心通过RP&DDM创建、分配和释放VM-配置；
云服务系统中服务器个数为L，每个服务器能提供N种类型VM-配置，类型k的作业表示为Reqk，类型k的作业请求一个类型k的VM-配置表示为VMk，表示服务器i提供的虚拟资源配置VMk，VM-配置部署在物理资源PM上，每一个PM可以被多个VM共享；定义Resk和分别表示请求Reqk所要求的VMk和服务器i提供的VMk数；同时，设定连续时间被分成很多离散的时隙，时隙的长度为一个单位长度，每个服务器给一个请求服务每次最多一个时隙的服务时间，一个请求只能在一个时隙开始时开始处理，|Reqk|表示请求Reqk的大小，则|Reqk|＝T表示Reqk需要T个时隙。


3.根据权利要求2所述的一种端到端云服务延迟的计算方法，其特征在于：所述状态的定义：如果给定的服务器i在给定的时隙间隔内可以同时为Reqk提供所有类型k的VM-配置，则称对于Reqk是active状态的；否则，为passive状态；
所述服务器状态的定义：给定一个服务器i，如果是active状态的，则称服务器i对于Reqk是active状态的；否则，为passive状态；
对于RP&DDM状态的定义：设H是RP&DDM中L个服务器集合，如果在集合H中至少有一个服务器在给定的时隙间隔内对于Reqk是active的，即其中，Hactive是H中处于active状态的服务器子集，则称RP&DDM是active状态的；否则，称为passive状态的；
设S＝{active，passive}为RP&DDM的状态集合，在时间t，RP&DDM可能处于在active状态或passive状态；处于active状态时，到达的请求可以立即处理；处于passive状态时，到达的请求只能在RP&DDM中PM重新部署后才能处理；在passive状态到达的请求，用户需要等待一个额外PM部署延迟，一旦进入active状态，所有排队的请求都将被处理；如果一个服务器有足够的VM-配置，队列头部的用户请求将立即得到满足；如果没有符合要求的VM-配置可用，则该请求将被拒绝；当正在运行的请求退出时，则立即释放该VM-配置使用的所有资源，并变为可用资源，提供给下一个用户请求；RP&DDM状态由RP&DDM中服务器的状态共同决定，而每个服务器根据两状态Markov链以概率pxy转移，其中，x，y＝{0，1}，状态1和0分别表示服务器是active状态或passive状态；
设表示Markov链的t步转移概率，设H为RP&DDM中L个服务器的集合，其中，L＞＞1；定义每个服务器在开始时刻处于active状态和passive状态的概率分别为δ和1-δ，为时刻t处于active状态的服务器数，则在任意时刻t，是速率为的泊松(Poisson)随机变量。


4.根据权利要求3所述的一种端到端云服务延迟的计算方法，其特征在于：所述步骤二中，状态空间...

【专利技术属性】
技术研发人员：颜国风，
申请(专利权)人：广州大学，
类型：发明
国别省市：广东;44