System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据处理的方法和系统技术方案_技高网

数据处理的方法和系统技术方案

技术编号:39969566 阅读:10 留言:0更新日期:2024-01-09 00:40
本公开提供了一种数据处理的方法和系统,方法应用于云服务系统,云服务系统包括元数据管理中心、至少一个主计算节点、至少一个从计算节点和共享存储,方法包括:第一主计算节点接收第一数据处理请求,基于第一数据处理请求,对共享存储进行数据读写操作;元数据管理中心确定第一主计算节点故障,在至少一个从计算节点中选择第一从计算节点;元数据管理中心向所述第一从计算节点发送升主请求;响应于升主请求,第一计算节点执行由从计算节点切换为主计算节点的操作;第一从计算节点接收第二数据处理请求,基于第二数据处理请求,对共享存储进行数据读写操作。可以避免由于从节点和主节点中的数据差异,而导致的服务异常问题。

【技术实现步骤摘要】

本公开涉及云,特别涉及一种数据处理的方法和系统


技术介绍

1、随着云技术的发展,越来越多的服务开始在云上部署。随着服务上云,大量的云中间件也开始被使用。在云环境下,为了保障云中间件的高可用性,通常采用主从模式设计中间件。

2、在目前的主从模式中,主节点接收数据处理请求,对存储的数据进行更新,并定时向从节点发送数据更新请求,以指示从节点更新存储的数据,实现主节点和从节点的数据一致性。在主节点故障时,从节点自动切换为主节点,执行数据处理请求。

3、然而,在目前的主从模式中,由于主节点和从节点中数据的更新存在一定的时间差,那么,在很多时刻主节点和从节点中的数据会存在差异。如果在这些时刻主节点故障,从节点切换为主节点,则可能由于从节点和主节点中的数据差异,导致服务异常。


技术实现思路

1、本公开提供了一种数据处理的方法和系统,能够避免由于从节点和主节点中的数据差异,而导致的服务异常问题,相应的技术方案如下:

2、第一方面,提供了一种数据处理的方法,方法应用于云服务系统,云服务系统包括元数据管理中心、至少一个主计算节点、至少一个从计算节点和共享存储,方法包括:

3、第一主计算节点接收第一数据处理请求,基于第一数据处理请求,对共享存储进行数据读写操作。元数据管理中心确定第一主计算节点故障,在至少一个从计算节点中选择第一从计算节点,并向该第一从计算节点发送升主请求。响应于升主请求,第一从计算节点执行由从计算节点切换为主计算节点的操作。在完成升主后,第一从计算节点便可以替代第一主计算节点,接收第二数据处理请求,基于第二数据处理请求,对共享存储进行数据读写操作。

4、在本公开提供的技术方案中,主计算节点和从计算节点之间无需进行数据同步,数据由共享存储进行存储,避免了主节点和从节点间数据差异导致的服务异常问题。此外,因为主计算节点和从计算节点之间无需进行数据同步,减少了对主计算节点的资源占用,避免了数据同步对主计算节点的服务性能的影响。

5、在一种可能的实现方式中,在元数据管理中心可以记录有各主计算节点对共享存储的读写权限、以及各从计算节点对共享存储的读写权限。对于主计算节点来说,在主计算节点正常运行的情况下,该主计算节点对共享存储的读写权限为可读写,在主计算节点故障的情况下,该主计算节点对共享存储的读写权限为不可读写。对于从计算节点来说,在从计算节点未切换成主计算节点的情况下,该从计算节点对共享存储的读写权限为不可读写,在从计算节点已经切换成主计算节点的情况下,该从计算节点对共享存储的读写权限为可读写。相应的,在第一主计算节点故障,第一从计算节点切换为主计算节点的情况下,元数据管理中心将记录的第一主计算节点对共享存储的读写权限由可读写调整为不可读写,将第一从计算节点对共享存储的读写权限由不可读写调整为可读写。

6、在一种可能的实现方式中,计算节点在执行数据处理请求对共享存储进行读写之前,要先确定自己是否有对共享存储进行读写的权限。相应的,处理可以如下:

7、第一从计算节点向元数据管理中心发送对共享存储的读写权限查询请求。响应于读写权限查询请求,元数据管理中心查询第一从计算节点对所述共享存储的读写权限为可读写,并向第一从计算节点发送查询响应消息,其中,查询响应消息中携带可读写指示信息。

8、在一种可能的实现方式中,元数据管理中心可以对至少一种主计算节点中的每个主计算节点进行探活,以确定其是否故障,处理可以如下:

9、元数据管理中心向主计算节点发送探活消息。主计算节点接收到探活消息后,如果自身故障,则向元数据管理中心返回探活响应消息,并在探活响应消息中携带故障指示信息。元数据管理中心在接收到探活响应消息后,如果在探活响应消息中携带有故障指示信息,则确定主计算节点故障。

10、在一种可能的实现方式中,主计算节点如果故障,则可以不向元数据管理中心返回探活响应消息,相应的,元数据管理中心在发送探活消息后的目标时长内,如果未接收到主计算节点发送的探活响应消息,则确定主计算节点故障。

11、在一种可能的实现方式中,元数据管理中心在向第一从计算节点发送升主请求后,可以以轮询的方式向第一从计算节点发送升主状态查询请求,以询问其升主状态。响应于升主状态查询请求,第一从计算节点如果处于由从计算节点切换为主计算节点的操作中,则向元数据管理中心发送第一升主状态响应消息,其中,第一升主状态响应消息用于指示第一从计算节点处于由从计算节点切换为主计算节点的操作中。第一从计算节点如果完成由从计算节点切换为主计算节点的操作,则向元数据管理中心发送第二升主状态响应消息,其中第二升主状态响应消息用于指示第一从计算节点完成由从计算节点切换为主计算节点的操作。

12、在一种可能的实现方式中,云服务系统中的至少一个主计算节点用于提供至少一种云中间件服务,例如,远程字典服务(remote dictionary server,redis)、分布式发布订阅消息服务(kafka)、基于分布式文件存储的数据库服务(mongodb)等。

13、第二方面,提供了一种云服务系统,系统包括元数据管理中心、至少一个主计算节点、至少一个从计算节点和共享存储,其中:

14、所述至少一个主计算节点中的第一主计算节点,用于接收第一数据处理请求,基于所述第一数据处理请求,对所述共享存储进行数据读写操作;

15、所述元数据管理中心,用于确定所述第一主计算节点故障,在所述至少一个从计算节点中选择第一从计算节点;向所述第一从计算节点发送升主请求;

16、所述第一计算节点,用于响应于所述升主请求,执行由从计算节点切换为主计算节点的操作;接收第二数据处理请求;基于所述第二数据处理请求,对所述共享存储进行数据读写操作。

17、在一种可能的实现方式中,所述第一计算节点执行由从计算节点切换为主计算节点的操作之后,所述元数据管理中心,还用于:

18、将记录的所述第一主计算节点对所述共享存储的读写权限由可读写调整为不可读写,将所述第一从计算节点对所述共享存储的读写权限由不可读写调整为可读写。

19、在一种可能的实现方式中,所述第一从计算节点接收数据处理请求之后,所述第一从计算节点,还用于:

20、向所述元数据管理中心发送对所述共享存储的读写权限查询请求;

21、所述元数据管理中心,还用于:

22、响应于所述读写权限查询请求,查询所述第一从计算节点对所述共享存储的读写权限为可读写;

23、所述元数据管理中心向所述第一从计算节点发送查询响应消息,其中,所述查询响应消息中携带可读写指示信息。

24、在一种可能的实现方式中,所述元数据管理中心,用于:

25、向所述主计算节点发送探活消息;

26、接收所述主计算节点发送的探活响应消息,如果确定所述探活响应消息中携带故障指示信息,则确定所述主计算节点故障。

本文档来自技高网...

【技术保护点】

1.一种数据处理的方法,其特征在于,所述方法应用于云服务系统,所述云服务系统包括元数据管理中心、至少一个主计算节点、至少一个从计算节点和共享存储,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述第一从计算节点执行由从计算节点切换为主计算节点的操作之后,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,所述第一从计算节点接收数据处理请求之后,所述方法还包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述元数据管理中心确定所述第一主计算节点故障,包括:

5.根据权利要求1-4中任一项所述的方法,其特征在于,所述元数据管理中心确定所述第一主计算节点故障,包括:

6.根据权利要求1-5中任一项所述的方法,其特征在于,所述元数据管理中心向所述第一从计算节点发送升主请求之后,所述方法还包括:

7.根据权利要求1-6中任一项所述的方法,其特征在于,所述至少一个主计算节点用于提供至少一种云中间件服务。

8.一种云服务系统,其特征在于,所述系统包括元数据管理中心、至少一个主计算节点、至少一个从计算节点和共享存储,其中:

9.根据权利要求8所述的系统,其特征在于,所述第一计算节点执行由从计算节点切换为主计算节点的操作之后,所述元数据管理中心,还用于:

10.根据权利要求9所述的系统,其特征在于,所述第一从计算节点接收数据处理请求之后,所述第一从计算节点,还用于:

11.根据权利要求8-10中任一项所述的系统,其特征在于,所述元数据管理中心,用于:

12.根据权利要求8-10中任一项所述的系统,其特征在于,所述元数据管理中心,用于:

13.根据权利要求8-12中任一项所述的系统,其特征在于,所述元数据管理中心向所述第一从计算节点发送升主请求之后,所述元数据管理中心,还用于:

14.根据权利要求8-13中任一项所述的系统,其特征在于,所述主计算节点用于提供至少一种云中间件服务。

...

【技术特征摘要】

1.一种数据处理的方法,其特征在于,所述方法应用于云服务系统,所述云服务系统包括元数据管理中心、至少一个主计算节点、至少一个从计算节点和共享存储,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述第一从计算节点执行由从计算节点切换为主计算节点的操作之后,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,所述第一从计算节点接收数据处理请求之后,所述方法还包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述元数据管理中心确定所述第一主计算节点故障,包括:

5.根据权利要求1-4中任一项所述的方法,其特征在于,所述元数据管理中心确定所述第一主计算节点故障,包括:

6.根据权利要求1-5中任一项所述的方法,其特征在于,所述元数据管理中心向所述第一从计算节点发送升主请求之后,所述方法还包括:

7.根据权利要求1-6中任一项所述的方法,其特征在于,所述至少一个主计算节点用于提供至少...

【专利技术属性】
技术研发人员:阮俊波傅一聪廖启俊
申请(专利权)人:深圳华为云计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1