System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请属于互联网,尤其涉及一种分布式系统的数据处理方法、分布式系统及电子设备。
技术介绍
1、在分布式系统中,为了增加客户读取数据时的响应速度,每份数据都有可能在多个节点上存在。在这种情况下,如果想要读取某个节点上的数据,那么分布式系统会由到客户延迟最低的节点响应,并且在对数据进行新增,修改或删除时,需要使用同步事务机制保证所有节点上数据的变更是完整且一致的。
2、然而,进行一次事务会在分布式程序的多个节点之间进行多次的网络通信和数据加锁操作.这使得客户新增、修改或删除数据的操作响应延迟比较大,并且如果集群内的某个节点多次收到客户对同一数据的修改请求,还没有相应的操作权限时,就会重复发送修改请求至有操作权限的节点进行操作,还需要使用同步事务机制保证所有节点上数据的变更是完整且一致的,这就导致了节点间的通信和计算成本的增加,导致系统处理效率低。
技术实现思路
1、本申请旨在至少解决现有技术中存在的技术问题之一,提供一种分布式系统的数据处理方法、分布式系统、电子设备及存储介质,能够在同一节点多次收到同一数据的修改请求的情况下,修改该节点的相应权限,降低节点间的通信和计算成本。
2、第一方面,本申请提供一种分布式系统的数据处理方法,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,其中,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点,所述方法应用于所述第一节点,所述方法包括:
3、将数据切片与所有
4、将所述权限节点表同步至所有所述第二节点;
5、接收所述第二节点发送的权限变更请求,并确定与客户端输入的更改请求对应的目标权限节点,其中,所述权限变更请求由所述第二节点在转发所述更改请求的转发次数超过预设的转发阈值的情况下生成;
6、当所述目标权限节点未处理与所述更改请求对应的请求数据,在所述权限节点表中添加所述第二节点处理所述请求数据的权限。
7、根据本申请实施例提供的分布式系统的数据处理方法,至少有如下有益效果:第一节点将数据切片与所有第二节点进行权限分配,生成权限节点表,从而得到第二节点与其权限的对应关系,之后,将权限节点表同步至所有第二节点,使得分布式系统内的每个节点均能获取其他节点的操作权限,在第二节点的目标权限集合不存在与请求数据对应的权限,并且转发更改请求的转发次数超过预设的转发阈值的情况下,接收第二节点发送的权限变更请求,并确定与客户端输入的更改请求对应的目标权限节点,以确定目标权限节点是否正在处理更改请求,进一步判断是否能够更改第二节点的权限,当目标权限节点未处理与更改请求对应的请求数据,在权限节点表中添加第二节点处理请求数据的权限,实现对第二节点权限的更改,使得第二节点具备处理与更改请求对应的请求数据的权限,使得第二节点后续无需转发该更改请求至目标权限节点,降低节点间的通信和计算成本,提高系统处理效率。
8、根据本申请的一些实施例,所在确定与客户端输入的更改请求对应的目标权限节点之后,所述方法还包括:
9、当所述目标权限节点正在处理与所述更改请求对应的请求数据,计算所述目标权限节点的第一数据处理频率、第一响应速度以及第一网络延迟时间;
10、在所述权限节点表中添加所述第二节点处理所述请求数据的权限以得到所述第二节点的第二数据处理频率、第二响应速度以及第二网络延迟时间;
11、在所述权限节点表中删除所述第二节点处理所述请求数据的权限;
12、当所述第一数据处理频率小于所述第二数据处理频率、所述第一响应速度小于所述第二响应速度以及所述第一网络延迟时间大于所述第二网络延迟时间,在所述权限节点表中添加所述第二节点处理所述请求数据的权限;
13、当所述第一数据处理频率大于等于所述第二数据处理频率、所述第一响应速度大于等于所述第二响应速度以及所述第一网络延迟时间小于等于所述第二网络延迟时间,维持所述权限节点表。
14、根据本申请的一些实施例,在所述方法还包括:
15、接收所述第二节点发送的节点权限请求,其中,所述节点权限请求为所述第二节点在所述权限节点表不存在与所述更改请求匹配的节点的情况下生成;
16、根据所述节点权限请求更新所述权限节点表,并将更新后的权限节点表同步至所有所述第二节点;
17、在接收到所有所述第二节点返回的应答指令后,根据更新后的权限节点表确定与所述操作请求对应的操作节点,其中,所述应答指令用于表征所述第二节点已经同步更新后的权限节点表;
18、通知所述操作节点处理与所述操作请求对应的数据。
19、第二方面,本申请提供一种分布式系统的数据处理方法,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,其中,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点,所述方法应用于第二节点,所述方法包括:
20、接收所述第一节点发送的权限节点表,其中,所述权限节点表由所述第一节点将数据切片与所有所述第二节点进行权限分配生成,所述数据切片由对所述分布式系统中的数据集进行切片操作得到;
21、接收客户端输入的更改请求,并确定与所述更改请求对应的请求数据;
22、根据所述权限节点表确定所述第二节点的目标权限集合;
23、当所述目标权限集合不存在与所述请求数据对应的权限,转发所述更改请求,并记录转发所述更改请求的转发次数;
24、当所述转发次数超过预设的转发阈值,生成权限变更请求;
25、向所述第一节点发送所述权限变更请求,以使所述第一节点确定与客户端输入的更改请求对应的目标权限节点,且当所述目标权限节点未处理与所述更改请求对应的请求数据,在所述权限节点表中添加所述第二节点处理所述请求数据的权限。
26、根据本申请的一些实施例,所述转发所述更改请求,包括:
27、将所述权限节点表与所述更改请求进行匹配;
28、当所述权限节点表存在与所述更改请求匹配的目标节点,将所述更改请求转发至所述目标节点;
29、当所述权限节点表不存在与所述更改请求匹配的目标节点,将所述更改请求转发至所述第一节点。
30、根据本申请的一些实施例,所述方法还包括:
31、接收所述客户端输入的操作请求;
32、当所述权限节点表不存在与所述操作请求匹配的节点,生成节点权限请求;
33、向所述第一节点发送所述节点权限请求,以使所述第一节点根据所述节点权限请求更新所述权限节点表;
34、接收所述第一节点发送的更新后的权限节点表,以生成应答指令,并向所述第一节点发送所述应答指令,以使所述第一节点根据更新后的权限节点表确定与所述操作请求对应的操作本文档来自技高网...
【技术保护点】
1.一种分布式系统的数据处理方法,其特征在于,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,其中,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点,所述方法应用于所述第一节点,所述方法包括:
2.根据权利要求1所述的分布式系统的数据处理方法,其特征在于,在确定与客户端输入的更改请求对应的目标权限节点之后,所述方法还包括:
3.根据权利要求1所述的分布式系统的数据处理方法,其特征在于,所述方法还包括:
4.一种分布式系统的数据处理方法,其特征在于,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,其中,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点,所述方法应用于第二节点,所述方法包括:
5.根据权利要求4所述的分布式系统的数据处理方法,其特征在于,所述转发所述更改请求,包括:
6.根据权利要求4所述的分布式系统的数据处理方法,其特征在于,所述方法还包括:
7.根据权利要求5所述的分布式系统的数据处
8.一种分布式系统,其特征在于,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点;
9.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的分布式系统的数据处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于执行权利要求1至7任意一项所述的分布式系统的数据处理方法。
...【技术特征摘要】
1.一种分布式系统的数据处理方法,其特征在于,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,其中,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点,所述方法应用于所述第一节点,所述方法包括:
2.根据权利要求1所述的分布式系统的数据处理方法,其特征在于,在确定与客户端输入的更改请求对应的目标权限节点之后,所述方法还包括:
3.根据权利要求1所述的分布式系统的数据处理方法,其特征在于,所述方法还包括:
4.一种分布式系统的数据处理方法,其特征在于,所述分布式系统包括至少一个集群,每个所述集群包括一个第一节点和多个第二节点,其中,所述第一节点为所述第二节点基于预设的选举规则在所述集群中选举出的权限协调节点,所述方法应用于第二节点,所述方法包括:
5.根据权利要求4所述的分布式系统的数据处理方法,其特征在于,所...
【专利技术属性】
技术研发人员:张一帆,杨雪,王屹,
申请(专利权)人:珠海剑心互动娱乐有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。