一种基于网关节点负载的分布式容灾系统云盘热迁移方法技术方案

技术编号:38368247 阅读:13 留言:0更新日期:2023-08-05 17:33
本发明专利技术公开了一种基于网关节点负载的分布式容灾系统云盘热迁移方法,涉及新兴技术云计算技术领域,包括如下步骤:读写生产站点的云盘,从云盘存储系统后端获取数据差异,并将差异数据复制到目标区域的从盘;采集容灾系统中所有网关节点的网络负载数据,并传输至网卡负载预测模块;网卡负载预测模块基于二次指数平滑法对当前网卡负载数据以及数据库中历史周期的网卡负载建立数学模型,预测下一时刻各节点的网卡负载;在分布式容灾系统中网关节点网卡负载不均衡时,根据网络负载和云盘重要性做CRITIC权重法计算,利用云盘迁移模块进行云盘的动态分配迁移,本发明专利技术能够在保证容灾服务连续性的基础上解决分布式容灾系统网关节点的负载均衡问题。的负载均衡问题。的负载均衡问题。

【技术实现步骤摘要】
一种基于网关节点负载的分布式容灾系统云盘热迁移方法


[0001]本专利技术涉及新兴技术云计算
,尤其是涉及一种基于网关节点负载的分布式容灾系统云盘热迁移方法。

技术介绍

[0002]在云计算快速发展的时代,越来越多的企业客户考虑云上容灾。云上容灾服务不但能够省去自建容灾中心的开销,还能节省后续运维成本,帮助客户快速建立起跨地域的容灾方案,即买即用,随时释放。在容灾领域通常使用RPO(Recovery Point Objective)来衡量一个容灾系统最多可能丢失的数据时长,RPO越小,数据丢失的风险越低。
[0003]为了更好的服务企业客户,满足企业客户云上容灾需求,结合现有产品架构,我们块存储也推出了容灾产品云盘异步复制,实现云盘的跨地域异步复制。为了保证容灾服务的连续性,我们的容灾系统是个分布式系统,容灾管理软件会部署在多台网关节点上,每个节点承担若干个云盘的跨域异步复制任务,这些节点分布在生产站点和容灾站点。但是,这个方案存在以下缺陷:
[0004]1.目前分布式容灾系统仅根据云盘的数目,将云盘分配在网关节点上。但是在实际运行中,每个云盘复制的数据量相差较大,这会导致分布式容灾系统网关节点网卡负载不均衡,如果某一节点网卡负载较高,那么数据传输的性能下降,数据丢失的风险增加;
[0005]2.分布式容灾系统只有新增节点或者节点故障退出后,云盘才会重新负载均衡,但也是仅根据云盘数量,不能有效的负载分担,不能智能分配容灾云盘。
[0006]3.分布式容灾系统不能根据云盘的类型(系统盘和数据盘)做分配部署,不能让用户指定云盘重要性权重值,这就会导致多个数据重要性高的云盘分配在一个网关节点上,当这个网关节点负载过高时,云盘数据无法异步复制到容灾站点,灾难发生时,丢失客户重要数据。

技术实现思路

[0007]本专利技术的目的在于提供一种基于网关节点负载的分布式容灾系统云盘热迁移方法,通过改进的二次指数平滑法预测未来时刻网关节点网卡负载,而且用户可以设置云盘重要性权值,根据网卡负载预测结果和所分配云盘权值总和做CRITIC权重法分析计算,将云盘从高负载的节点迁移至低负载的节点,能够在保证容灾服务连续性的基础上解决分布式容灾系统网关节点的负载均衡问题。
[0008]本专利技术提供一种基于网关节点负载的分布式容灾系统云盘热迁移方法,所述网关节点设置有有n个,n≥2,n个所述网关节点分布在容灾系统的生产站点和容灾站点,其特征在于,所述热迁移方法包括如下步骤:
[0009]S100、利用客户端读写生产站点的云盘,并通过容灾管控模块周期性的发起复制任务给异步复制IO模块;
[0010]S200、异步复制IO模块从云盘存储系统后端获取数据差异,并将差异数据复制到
目标区域的从盘;
[0011]S300、利用实时监测采集模块采集容灾系统中所有网关节点的网络负载数据,并传输至网卡负载预测模块;
[0012]S400、网卡负载预测模块基于二次指数平滑法对当前网卡负载数据以及数据库中历史周期的网卡负载建立数学模型,预测下一时刻各节点的网卡负载;
[0013]S500、在分布式容灾系统中网关节点网卡负载不均衡时,根据网络负载和云盘重要性做CRITIC权重法计算,利用云盘迁移模块进行云盘的动态分配迁移。
[0014]进一步,在S400中,预测下一时刻各节点的网卡负载具体包括:
[0015]S401、网卡负载预测模块接收自实时监测模块传输的数据库中前Z

1个周期每个网关节点的网卡负载信息,并与当前周期每个节点的网卡负载信息组成Z组数据;
[0016]S402、输入平滑系数,采用二次指数平滑法计算出Z次预测值,并与真实值计算无偏方差S;
[0017]S403、重复S402,调整平滑系数以获得多个无偏方差S,并对多个S值进行比较,取S值最小时对应的平滑系数,再利用二次指数平滑法预测未来T个周期的网卡负载平均值,以确定容灾网关集群中每个节点的网卡负载。
[0018]进一步,二次指数平滑法公式如下:
[0019][0020]上式中:是第t

1个周期网卡负载的二次指数平滑值,是第t个周期网卡负载的二次指数平滑值,是第t个周期网卡负载的一次指数平滑值,α是平滑系数;
[0021]其中,一次指数平滑法公式如下:
[0022][0023]上式中:Y
t
是第t个周期网卡负载的实际监测值,是第t

1个周期网卡负载的一次指数平滑值。
[0024]进一步,在和已知的情况下,二次指数平滑法的预测模型为:
[0025][0026][0027]上式中:a
t
和b
t
是中间参数,α是平滑系数。
[0028][0029]上式中:是第t+T个周期预测的网卡负载值,T为预测超前期数。
[0030]进一步,在S402中,无偏方差S的计算公式如下:
[0031][0032]上式中,Z表示取的周期数,i表示第i个周期,Yi表示第i个周期网卡负载的实际监测值,表示是第i个周期预测的网卡负载值。
[0033]进一步,在S500中,云盘的动态分配迁移具体包括:
[0034]S501、将S400中预测的网卡负载值与系统预先设置的高低阈值进行比较,如果预测网卡负载值超过高阈值,则将节点加入高负载节点队列,如果预测网卡负载低于低阈值,则将该节点加入低负载节点队列中;
[0035]S502、对高负载和低负载队列的网关节点运用CRITIC权重法对网卡负载和网关节点云盘重要性进行加权计算,得出节点整体负载值,再根据节点负载值对高负载队列做降序排列,作为源机,对低负载队列做升序排列,作为目标机;
[0036]S503、根据源机和目标机数目,得到匹配的迁移对,确定需要迁移的云盘数目,采用并行迁移,降低迁移开销。
[0037]进一步,在S502中,CRITIC权重法计算权重具体包括:
[0038]S5021、获取数据;
[0039]选择网关节点的网卡负载和所分配云盘权值总和作为2个评价指标,有n个网关节点作为评价对象,m表示评价指标的个数,根据采集的一组数据,构成原始数据阵列X:
[0040][0041]S5021、数据标准化;
[0042]消除量纲影响,使数据能够用统一的标准去衡量;
[0043]其中,对于正项指标,公式如下:
[0044][0045]对于逆项指标,公式如下:
[0046][0047]S5023、计算信息承载量;
[0048]计算波动性,用到如下公式:
[0049][0050]其中x
j
为每个指标的数据平均值,m表示评价指标个数;计算冲突性,用到指标的相关性矩阵,计算公式如下:
[0051][0052]则冲突性公式为:
[0053][0054]其中r
ij
表示本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于网关节点负载的分布式容灾系统云盘热迁移方法,所述网关节点设置有n个,n≥2,n个所述网关节点分布在容灾系统的生产站点和容灾站点,其特征在于,所述热迁移方法包括如下步骤:S100、利用客户端读写生产站点的云盘,并通过容灾管控模块周期性的发起复制任务给异步复制IO模块;S200、异步复制IO模块从云盘存储系统后端获取数据差异,并将差异数据复制到目标区域的从盘;S300、利用实时监测采集模块采集容灾系统中所有网关节点的网络负载数据,并传输至网卡负载预测模块;S400、网卡负载预测模块基于二次指数平滑法对当前网卡负载数据以及数据库中历史周期的网卡负载建立数学模型,预测下一时刻各节点的网卡负载;S500、在分布式容灾系统中网关节点网卡负载不均衡时,根据网络负载和云盘重要性做CRITIC权重法计算,利用云盘迁移模块进行云盘的动态分配迁移。2.根据权利要求1所述的一种基于网关节点负载的分布式容灾系统云盘热迁移方法,其特征在于,在S400中,预测下一时刻各节点的网卡负载具体包括:S401、网卡负载预测模块接收自实时监测模块传输的数据库中前Z

1个周期每个网关节点的网卡负载信息,并与当前周期每个节点的网卡负载信息组成Z组数据;S402、手动输入一个平滑系数,采用二次指数平滑法计算出Z次预测值,并与真实值计算无偏方差S;S403、重复S402,调整平滑系数以获得多个无偏方差S,并对多个S值进行比较,取S值最小时对应的平滑系数,再利用二次指数平滑法预测未来T个周期的网卡负载平均值,以确定容灾网关集群中每个节点的网卡负载。3.根据权利要求2所述的一种基于网关节点负载的分布式容灾系统云盘热迁移方法,其特征在于,二次指数平滑法公式如下:上式中:是第t

1个周期网卡负载的二次指数平滑值,是第t个周期网卡负载的二次指数平滑值,是第t个周期网卡负载的一次指数平滑值,α是平滑系数;其中,一次指数平滑法公式如下:上式中:Y
t
是第t个周期网卡负载的实际监测值,是第t

1个周期网卡负载的一次指数平滑值。4.根据权利要求3所述的一种基于网关节点负载的分布式容灾系统云盘热迁移方法,其特征在于,在和已知的情况下,二次指数平滑法的预测模型为:
上式中:a
t
和b
t
是中间参数,α是平滑系数;上式中:是第t+T个周期预测的网卡负载值,T为预测超前期数。5.根据权利要求4所述的一种基于网关节点负载的分布式容灾系统云盘热迁移方...

【专利技术属性】
技术研发人员:蔡维珑吴学含李贵斌薛强李家伟王帅超
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1