System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据管理的方法、装置、系统及存储介质制造方法及图纸_技高网

数据管理的方法、装置、系统及存储介质制造方法及图纸

技术编号:39983702 阅读:10 留言:0更新日期:2024-01-09 01:43
本申请公开了一种数据管理的方法、装置、系统及存储介质,属于通信领域。所述方法包括:获取第一描述信息,所述第一描述信息用于描述第一行组,所述第一行组是第一存储系统在指定时间段内保存的行组,所述第一行组包括至少一行数据;基于所述第一描述信息将所述第一行组保存到第二存储系统中。本申请能够降低运营成本以及维护难度。

【技术实现步骤摘要】

本申请涉及通信领域,特别涉及一种数据管理的方法、装置、系统及存储介质


技术介绍

1、数据库是互联网技术(internet technology,it)系统的核心资产,it系统使用数据库来存储数据。通过建立相隔较远的两个数据库,该两个数据库相互容灾,使该两个数据库内保存的数据一致,从而保证it系统中的数据安全性。这样当其中一处数据库因意外(如火灾或地震等)停止工作,另一处数据库继续提供服务。

2、为了便于说明,将该两个数据库分别称为第一数据库和第二数据库,在it系统的结构化查询语言(structured query language,sql)接入层设置代理模块,it系统接收用于存储数据的sql语句,it系统的代理模块基于该sql语句同时向第一数据库和第二数据库存储相同的数据。如此,使第一数据库中保存的数据和第二数据库中保存的数据保持一致。

3、目前需要对sql接入层进行改造,使sql接入层包括代理模块,使代理模块基于接收的sql语句同步向两个数据库存储相同数据,然而对sql接入层的改造难度大,运营成本高且维护困难。


技术实现思路

1、本申请提供了一种数据管理的方法、装置、系统及存储介质,以降低运营成本以及维护难度。所述技术方案如下:

2、第一方面,本申请提供了一种数据管理的方法,在所述方法中,获取第一描述信息,第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,第一行组包括至少一行数据。基于第一描述信息将第一行组保存到第二存储系统中。

3、由于第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,如此能够基于第一描述信息获取第一存储系统保存的第一行组。也就是说,在第一存储系统执行完用于保存第一行组的过程后,获取第一描述信息,基于第一描述信息从第一存储系统中得到第一行组,向第二存储系统中保存第一行组,保证第一存储系统中的数据和第二存储系统中的数据保持一致。这样对于第一存储系统保存数据的过程,不会修改该过程,即不用修改第一存储系统的sql接入层,从而降低运营成本以及维护难度。

4、在一种可能的实现方式中,第一描述信息包括第一事务的事务信息,第一事务是第一存储系统在指定时间段内执行完的事务。确定所述第一事务;从第一存储系统已产生的描述信息中,选择包括第一事务的事务信息的第一描述信息。由于第一事务是第一存储系统在指定时间段内执行完的事务,如此基于第一事务可以得到第一存储系统在指定时间段内新增的第一描述信息,从而基于第一描述信息得到第一存储系统在指定时间段内新增的第一行组。

5、在另一种可能的实现方式中,获取第一事务集合,第一事务集合包括第一存储系统在指定时间段的结束时刻执行的事务,且第一事务集合用于反映第一存储系统在该结束时刻之前已执行完的事务。基于第一事务集合确定第一事务。由于第一事务集合用于反映第一存储系统在该结束时刻之前已执行完的事务,从而通过第一事务集合能够准确地得到第一存储系统在指定时间段内执行完的第一事务。

6、在另一种可能的实现方式中,获取第二事务集合,第二事务集合包括第一存储系统在指定时间段的起始时刻执行的事务,且第二事务集合用于反映第一存储系统在该起始时刻之前已执行完的事务。基于第一事务集合和第二事务集合确定第一事务。由于第一事务集合用于反映第一存储系统在该结束时刻之前已执行完的事务,第二事务集合用于反映第一存储系统在该起始时刻之前已执行完的事务,从而通过第一事务集合和第二事务集合能够准确地得到第一存储系统在指定时间段内执行完的第一事务。

7、在另一种可能的实现方式中,基于行组范围,从第一存储系统已产生的描述信息中选择至少一个描述信息,该行组范围包括第一存储系统在指定时间段内操作的行组,至少一个描述信息中的每个描述信息包括的组标识对应的行组属于行组范围。从至少一个描述信息中,选择包括第一事务的事务信息的第一描述信息。

8、由于通过该行组范围选择至少一个描述信息,再从该至少一个描述信息中选择包括第一事务的事务信息的第一描述信息,这样在选择第一描述信息的过程中可以减少需要分析的描述信息数量,提高得到第一描述信息的效率。

9、在另一种可能的实现方式中,第一描述信息包括第一行组对应的数据片段的存储位置,该数据片段包括第一行组中的数据,第一存储系统和第二存储系统为相同类型的存储系统。基于该存储位置,获取该数据片段。向第二存储系统发送文件,该文件包括数据片段,该文件用于触发第二存储系统保存该数据片段。

10、由于第一存储系统和第二存储系统为相同类型的存储系统,所以第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式应当相同。由于该文件包括该数据片段,这样可以使第二存储系统保存该数据片段,使第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式相同,避免出现存储错误。

11、在另一种可能的实现方式中,该文件还包括第一行状态信息,第一行状态信息用于指示第一行组中未被删除的数据,该文件还用于触发第二存储系统保存第一行状态信息或基于第一行状态信息从该数据片段中删除第一行组中被删除的数据。如此,通过第一行状态信息,使第一存储系统保存的第一行组和第二存储系统保存的第一行组保持一致。

12、在另一种可能的实现方式中,该文件还包括第一行组的组标识和/或第一行组中的每列数据对应的列标识,该文件还用于触发第二存储系统基于第一行组的组标识和该每列数据对应的列标识获取第二描述信息,第二描述信息用于描述第一行组。由于第二描述信息用于描述第一行组,这样便于第二存储系统基于第二描述信息恢复第一行组。

13、在另一种可能的实现方式中,该文件还包括该每列数据对应的统计信息,第二描述信息还包括该每列数据对应的统计信息。该每列数据的统计信息可用于帮助第二存储系统从数据表中快速查询所需要的数据,该数据表为第一行组属于的数据表,即可提高查询数据的效率。

14、在另一种可能的实现方式中,第一描述信息包括第一行组的组标识和第一行组对应的数据片段的存储位置,该数据片段包括第一行组中的数据。基于该组标识和该存储位置,获取第一行组。向第二存储系统发送插入语句,该插入语句包括第一行组中的每行数据,该插入语句用于触发第二存储系统保存第一行组中的每行数据。由于获取的插入语句包括第一行组中的每行数据,这样第二存储系统接收该插入语句,通过执行该插入语句,便可快速向第一行组保存在第二存储系统中。

15、在另一种可能的实现方式中,获取第三描述信息,第三描述信息用于描述第一存储系统在指定时间段内从第二行组中删除的至少一行数据,第二行组为第一存储系统中保存的一个行组,第二存储系统保存有第二行组。基于第三描述信息,删除第二存储系统中保存的至少一行数据。由于第一存储系统在指定时间段删除该至少一行数据,基于第三描述信息,删除第二存储系统中保存的至少一行数据,从而保证第一存储系统保存的数据和第二存储系统保存的数据保持一致。

<本文档来自技高网...

【技术保护点】

1.一种数据管理的方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述第一描述信息包括第一事务的事务信息,所述第一事务是所述第一存储系统在所述指定时间段内执行完的事务,

3.如权利要求2所述的方法,其特征在于,所述确定所述第一事务,包括:

4.如权利要求3所述的方法,其特征在于,所述基于所述第一事务集合确定所述第一事务,包括:

5.如权利要求2-4任一项所述的方法,其特征在于,所述从所述第一存储系统已产生的描述信息中,选择包括所述第一事务的事务信息的第一描述信息,包括:

6.如权利要求1-5任一项所述的方法,其特征在于,所述第一描述信息包括所述第一行组对应的数据片段的存储位置,所述数据片段包括所述第一行组中的数据,所述第一存储系统和所述第二存储系统为相同类型的存储系统;

7.如权利要求6所述的方法,其特征在于,所述文件还包括第一行状态信息,所述第一行状态信息用于指示所述第一行组中未被删除的数据,所述文件还用于触发所述第二存储系统保存所述第一行状态信息或基于所述第一行状态信息从所述数据片段中删除所述第一行组中被删除的数据。

8.如权利要求6或7所述的方法,其特征在于,所述文件还包括所述第一行组的组标识和/或所述第一行组中的每列数据对应的列标识,所述文件还用于触发所述第二存储系统基于所述第一行组的组标识和所述每列数据对应的列标识获取第二描述信息,所述第二描述信息用于描述所述第一行组。

9.如权利要求8所述的方法,其特征在于,所述文件还包括所述每列数据对应的统计信息,所述第二描述信息还包括所述每列数据对应的统计信息。

10.如权利要求1-5任一项所述的方法,其特征在于,所述第一描述信息包括所述第一行组的组标识和所述第一行组对应的数据片段的存储位置,所述数据片段包括所述第一行组中的数据,所述基于所述第一描述信息将所述第一行组保存到第二存储系统中,包括:

11.如权利要求1-10任一项所述的方法,其特征在于,所述方法还包括:

12.如权利要求11所述的方法,其特征在于,所述第一存储系统和所述第二存储系统是相同类型的存储系统,所述第三描述信息包括所述第二行组的组标识和第二行状态信息,所述第二行状态信息用于指示所述至少一行数据,所述基于所述第三描述信息,删除所述第二存储系统中保存的所述至少一行数据,包括:

13.如权利要求11所述的方法,其特征在于,所述第三描述信息包括所述第二行组的组标识和第二行状态信息,所述第二行状态信息用于指示所述至少一行数据,所述基于所述第三描述信息,删除所述第二存储系统中保存的所述至少一行数据,包括:

14.如权利要求1-13任一项所述的方法,其特征在于,所述第一存储系统为数据库系统或数据仓库系统,所述第二存储系统为数据库系统或数据仓库系统。

15.如权利要求1-14任一项所述的方法,其特征在于,所述第一行组中的每行数据是指定业务的数据。

16.一种数据管理的方法,其特征在于,所述方法包括:

17.如权利要求16所述的方法,其特征在于,所述第一存储系统和所述第二存储系统是相同类型的系统,所述接收第一行组,包括:

18.如权利要求17所述的方法,其特征在于,所述方法还包括:

19.如权利要求18所述的方法,其特征在于,所述文件还包括所述第一行组的组标识和/或所述第一行组中的每列数据对应的列标识,所述第二描述信息包括所述第一行组的组标识和所述数据片段的存储位置,所述存储位置是基于所述每列数据对应的列标识得到的。

20.如权利要求18或19所述的方法,其特征在于,所述文件还包括所述第一行组中的每列数据对应的统计信息,所述第二描述信息还包括所述每列数据对应的统计信息。

21.如权利要求17-20任一项所述的方法,其特征在于,所述文件还包括第一行状态信息,所述第一行状态信息用于指示所述第一行组中未被删除的数据,所述方法还包括:

22.如权利要求16所述的方法,其特征在于,所述接收第一行组,包括:

23.如权利要求17-21任一项所述的方法,其特征在于,所述方法还包括:

24.如权利要求16或22所述的方法,其特征在于,所述方法还包括:

25.如权利要求16-24任一项所述的方法,其特征在于,所述第一行组中的每行数据为指定业务的数据。

26.如权利要求16-25任一项所述的方法,其特征在于,所述第一存储系统为数据库系统或数据仓库系统,所述第二存储系统为数据库系统或数据仓库系统。

27.一种...

【技术特征摘要】

1.一种数据管理的方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述第一描述信息包括第一事务的事务信息,所述第一事务是所述第一存储系统在所述指定时间段内执行完的事务,

3.如权利要求2所述的方法,其特征在于,所述确定所述第一事务,包括:

4.如权利要求3所述的方法,其特征在于,所述基于所述第一事务集合确定所述第一事务,包括:

5.如权利要求2-4任一项所述的方法,其特征在于,所述从所述第一存储系统已产生的描述信息中,选择包括所述第一事务的事务信息的第一描述信息,包括:

6.如权利要求1-5任一项所述的方法,其特征在于,所述第一描述信息包括所述第一行组对应的数据片段的存储位置,所述数据片段包括所述第一行组中的数据,所述第一存储系统和所述第二存储系统为相同类型的存储系统;

7.如权利要求6所述的方法,其特征在于,所述文件还包括第一行状态信息,所述第一行状态信息用于指示所述第一行组中未被删除的数据,所述文件还用于触发所述第二存储系统保存所述第一行状态信息或基于所述第一行状态信息从所述数据片段中删除所述第一行组中被删除的数据。

8.如权利要求6或7所述的方法,其特征在于,所述文件还包括所述第一行组的组标识和/或所述第一行组中的每列数据对应的列标识,所述文件还用于触发所述第二存储系统基于所述第一行组的组标识和所述每列数据对应的列标识获取第二描述信息,所述第二描述信息用于描述所述第一行组。

9.如权利要求8所述的方法,其特征在于,所述文件还包括所述每列数据对应的统计信息,所述第二描述信息还包括所述每列数据对应的统计信息。

10.如权利要求1-5任一项所述的方法,其特征在于,所述第一描述信息包括所述第一行组的组标识和所述第一行组对应的数据片段的存储位置,所述数据片段包括所述第一行组中的数据,所述基于所述第一描述信息将所述第一行组保存到第二存储系统中,包括:

11.如权利要求1-10任一项所述的方法,其特征在于,所述方法还包括:

12.如权利要求11所述的方法,其特征在于,所述第一存储系统和所述第二存储系统是相同类型的存储系统,所述第三描述信息包括所述第二行组的组标识和第二行状态信息,所述第二行状态信息用于指示所述至少一行数据,所述基于所述第三描述信息,删除所述第二存储系统中保存的所述至少一行数据,包括:

13.如权利要求11所述的方法,其特征在于,所述第三描述信息包括所述第二行组的组标识和第二行状态信息,所述第二行状态信息用于指示所述至少一行数据,所述基于所述第三描述信息,删除所述第二存储系统中保存的所述至少一行数据,包括:

14.如权利要求1-13任一项所述的方法,其特征在于,所述第一存储系统为数据库系统或数据仓库系统,所述第二存储系统为数据库系统或数据仓库系统。

15.如权利要求1-14任一项所述的方法,其特征在于,所述第一行组中的每行数据是指定业务的数据。

16.一种数据管理的方法,其特征在于,所述方法包括:

17.如权利要求16所述的方法,其特征在于,所述第一存储系统和所述第二存储系统是相同类型的系统,所述接收第一行组,包括:

18.如权利要求17所述的方法,其特征在于,所述方法还包括:

19.如权利要求18所述的方法,其特征在于,所述文件还包括所述第一行组的组标识和/或所述第一行组中的每列数据对应的列标识,所述第二描述信息包括所述第一行组的组标识和所述数据片段的存储位置,所述存储位置是基于所述每列数据对应的列标识得到的。

20.如权利要求18或19所述的方法,其特征在于,所述文件还包括所述第一行组中的每列数据对应的统计信息,所述第二描述信息还包括所述每列数据对应的统计信息。

21.如权利要求17-20任一项所述的方法,其特征在于,所述文件还包括第一行状态信息,所述第一行状态信息用于指示所述第一行组中未被删除的数据,所述方法还包括:

22.如权利要求16所述的方法,其特征在于,所述接收第一行组,包括:

23.如权利要求17-21任一项所述的方法,其特征在于,所述方法还包括:

24.如权利要求16或22所述的方法,其特征在于,所述方法还包括:

25.如权利要求16-24任一项所述的方法,其特征在于,所述第一行组中的每行数据为指定业务的数据。

26.如权利要求16-25任一项所述的方法,其特征在于,所述第一存储系统为数据库系统或数据仓库系统,所述第二存储系统为数据库系统或数据仓库系统。

27.一种数据管理的方法,其特征在于,所述方法包括:

28.如权利要求27所述的方法,其特征在于,所述第一描述信息包括第一事务的事务信息,所述第一事务是所述第一存储系统在所述指定时间段内执行完的事务,

29.如权利要求27或28所述的方法,其特征在于,所述第一描述信息包括所述第一行组对应的数据片段的存储位置,所述数据片段包括所述第一行组中的数据,所述第一存储系统和所述第二存储系统为相同类型的存储系统;

30.如权利要求27或28所述的方法,其特征在于,所述第一描述信息包括所述第一行组的组标识和所述第一行组对应的数据片段的存储位置,所述数据片段包括所述第一行组中的数据;

31.一种数据管理的装置,其特征在于,所述装置包括:

32.如权利要求31所述的装置,其特征在于,所述第一描述信息包括第...

【专利技术属性】
技术研发人员:李海丰刘海龙王传廷常玉增
申请(专利权)人:华为云计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1