System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及数据处理,尤其涉及一种数据处理方法、装置及电子设备。
技术介绍
1、随着技术的发展,多地区多机房部署数据库的架构越来越多,这种情况下会遇到数据库主键如数据标识id(identification)冲突的情况。
2、目前,通过机器学习模型预测每个数据库的访问流量,据此为每个数据库分配不同的id分区,这样避免id冲突。
3、但是,使用机器学习模型为数据库分配id分区时,存在预测误差的情况,使得id分配不准确的情况。
技术实现思路
1、有鉴于此,本申请提供一种数据处理方法、装置及电子设备,如下:
2、一种数据处理方法,应用于数据库集群所包含的多个数据节点中的目标节点,所述数据节点用于存储数据,所述方法包括:
3、获得每个所述数据节点在第一时段的历史访问信息,所述历史访问信息表征所述数据节点中的数据被访问的流量状态;
4、对所述历史访问信息进行分解处理,以得到第一分量序列和所述第一分量序列对应的第一残差数据;
5、根据所述第一分量序列和所述第一残差数据,进行比例预测处理,以得到第一比例值,所述第一比例值表征每个所述数据节点之间在第二时段的预测流量上的初始比例;所述第二时段为所述第一时段之后的未来时段;
6、根据所述第一比例值和所述历史访问信息,获得访问误差数据;
7、至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据,所述标识数据中所包含的数据标识用于所述数据节点在所述第二时
8、上述方法,优选的,至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据,包括:
9、至少根据所述访问误差数据,获得第二比例值,所述第二比例值表征每个所述数据节点之间在第二时段的预测流量上的预测比例;
10、根据所述第二比例值,获得对应于每个所述数据节点的标识数据,所述标识数据包括标识分段和标识自增值,所述标识分段中包含多个数据标识;
11、将每个所述标识数据配置给相应的所述数据节点,以使得根据所述标识自增值,在所述标识分段中为每个所述数据节点中的数据选择相应的数据标识。
12、上述方法,优选的,至少根据所述访问误差数据,获得第二比例值,包括:
13、对所述访问误差数据进行分解处理,以得到第二分量序列和所述第二分量序列对应的第二残差数据;
14、根据所述第二分量序列和所述第二残差数据,进行比例预测处理,以得到误差比例值;所述误差比例值表征每个所述数据节点之间在第二时段的预测流量上的预测比例的误差;
15、根据所述第一比例值和所述误差比例值,获得第二比例值。
16、上述方法,优选的,根据所述第二分量序列和所述第二残差数据,进行比例预测处理,以得到误差比例值,包括:
17、对所述第二残差数据进行分解处理,以得到第三分量序列和所述第三分量序列对应的第三残差数据;
18、根据所述第二分量序列,进行比例预测,以得到误差初始比例值;
19、根据所述第三分量序列和所述第三残差数据,进行比例预测,以得到残差预测比例值;
20、根据所述残差预测比例值,对所述误差初始比例值进行误差修正,以得到误差比例值。
21、上述方法,优选的,根据所述第一比例值和所述误差比例值,获得第二比例值,包括:
22、使用所述误差比例值,对所述第一比例值进行调整,以得到第二比例值。
23、上述方法,优选的,根据所述第一分量序列和所述第一残差数据,进行比例预测处理,以得到第一比例值,包括:
24、对所述第一残差数据进行分解处理,以得到第四分量序列和所述第四分量序列对应的第四残差数据;
25、根据所述第一分量序列,进行比例预测,以得到预测初始比例值;
26、根据所述第四分量序列和所述第四残差数据,进行比例预测,以得到预测残差比例值;
27、根据所述预测初始比例值和所述预测残差比例值,获得第一比例值。
28、上述方法,优选的,所述目标节点为每个所述数据节点之间通过数据同步方式在所述多个数据节点中确定的数据节点。
29、上述方法,优选的,在至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据之后,所述方法还包括:
30、将每个所述数据节点被配置的标识数据分别发送给相应的数据节点;
31、在所述目标节点上接收到所有的其他节点的确认信息的情况下,执行标识更新指令,以使得每个所述数据节点按照接收到的标识数据在所述第二时段提供数据访问服务;
32、其中,所述其他节点为所述多个数据节点中区别于所述目标节点的数据节点。
33、一种数据处理装置,配置在数据库集群所包含的多个数据节点中的目标节点,所述数据节点用于存储数据,所述装置包括:
34、访问获得单元,用于获得每个所述数据节点在第一时段的历史访问信息,所述历史访问信息表征所述数据节点中的数据被访问的流量状态;
35、信息分解单元,用于对所述历史访问信息进行分解处理,以得到第一分量序列和所述第一分量序列对应的第一残差数据;
36、比例预测单元,用于根据所述第一分量序列和所述第一残差数据,进行比例预测处理,以得到第一比例值,所述第一比例值表征每个所述数据节点之间在第二时段的预测流量上的初始比例;所述第二时段为所述第一时段之后的未来时段;
37、误差获得单元,用于根据所述第一比例值和所述历史访问信息,获得访问误差数据;
38、标识配置单元,用于至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据,所述标识数据中所包含的数据标识用于所述数据节点在所述第二时段提供数据访问服务。
39、一种电子设备,作为数据库集群所包含的多个数据节点中的目标节点,所述数据节点用于存储数据,所述目标节点包括:
40、存储器,用于存储计算机程序以及所述计算机程序运行所产生的数据;
41、处理器,用于执行所述计算机程序以实现:获得每个所述数据节点在第一时段的历史访问信息,所述历史访问信息表征所述数据节点中的数据被访问的流量状态;对所述历史访问信息进行分解处理,以得到第一分量序列和所述第一分量序列对应的第一残差数据;根据所述第一分量序列和所述第一残差数据,进行比例预测处理,以得到第一比例值,所述第一比例值表征每个所述数据节点之间在第二时段的预测流量上的初始比例;所述第二时段为所述第一时段之后的未来时段;根据所述第一比例值和所述历史访问信息,获得访问误差数据;至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据,所述标识数据中所包含的数据标识用于所述数据节点在所述第二时段提供数据访问服务。
42、从上述技术方案可以看出,本申请公开的一种数据处理方法、装置及电子设备中,该方法应用于数据库集群所包含的多个用于存本文档来自技高网...
【技术保护点】
1.一种数据处理方法,应用于数据库集群所包含的多个数据节点中的目标节点,所述数据节点用于存储数据,所述方法包括:
2.根据权利要求1所述的方法,至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据,包括:
3.根据权利要求2所述的方法,至少根据所述访问误差数据,获得第二比例值,包括:
4.根据权利要求3所述的方法,根据所述第二分量序列和所述第二残差数据,进行比例预测处理,以得到误差比例值,包括:
5.根据权利要求3所述的方法,根据所述第一比例值和所述误差比例值,获得第二比例值,包括:
6.根据权利要求1所述的方法,根据所述第一分量序列和所述第一残差数据,进行比例预测处理,以得到第一比例值,包括:
7.根据权利要求1所述的方法,所述目标节点为每个所述数据节点之间通过数据同步方式在所述多个数据节点中确定的数据节点。
8.根据权利要求1或2所述的方法,在至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据之后,所述方法还包括:
9.一种数据处理装置,配置在数据库集群所包含
10.一种电子设备,作为数据库集群所包含的多个数据节点中的目标节点,所述数据节点用于存储数据,所述目标节点包括:
...【技术特征摘要】
1.一种数据处理方法,应用于数据库集群所包含的多个数据节点中的目标节点,所述数据节点用于存储数据,所述方法包括:
2.根据权利要求1所述的方法,至少根据所述访问误差数据,为每个所述数据节点配置相应的标识数据,包括:
3.根据权利要求2所述的方法,至少根据所述访问误差数据,获得第二比例值,包括:
4.根据权利要求3所述的方法,根据所述第二分量序列和所述第二残差数据,进行比例预测处理,以得到误差比例值,包括:
5.根据权利要求3所述的方法,根据所述第一比例值和所述误差比例值,获得第二比例值,包括:
6.根据权利要求1所述的方法,根据...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。