System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据存储方法、装置及产品制造方法及图纸_技高网

一种数据存储方法、装置及产品制造方法及图纸

技术编号:41392335 阅读:3 留言:0更新日期:2024-05-20 19:15
本申请公开了一种数据存储方法、装置及产品。获取目标待存储数据表和转换规则集;对目标待存储数据表进行解析,获得目标待存储数据表对应的待转换数据表类型;根据待转换数据表类型对转换规则集进行规则提取,获得转换规则集中与待转换数据表类型对应的目标转换规则;通过目标转换规则对目标待存储数据表进行转换,获得转换后的目标待存储数据表;将转换后的目标待存储数据表存储至目标端数据库中。如此,在本申请中通过提前构建的转换规则集,可以实现在需要进行数据表类型转换时,直接利用该转换规则集中的转换规则对数据表类型进行转换,提高了数据存储的时效性。

【技术实现步骤摘要】

本申请涉及数据处理,特别是涉及一种数据存储方法、装置及产品


技术介绍

1、数据表在采集后通常需要存储至数据库中,以便在后续数据应用过程中通过该数据库提供数据支持。由于采集的数据表可能来自不同的数据源端,其不同数据源端的数据表类型可能大相径庭。为了将来自不同数据源端的数据表统一管理,需要在数据表采集完成后对其进行类型转换后,才存储至数据库中。

2、在相关技术中通常通过开发人员对每一个采集到的数据表编写相应的转换程序,以通过该转换程序对数据表进行类型转换,才能使不同数据表类型的数据表以统一的数据表类型存储至数据库中。由于需要存储的数据表很多,且每一个数据表均需要编写相应的转换程序对其进行类型转换,可能导致数据存储的时效性差,无法满足业务需要。

3、由此,如何提高数据存储的时效性是本领域技术人员关注的重点问题。


技术实现思路

1、基于上述问题,本申请提供了一种数据存储方法、装置及产品,以提高数据存储的时效性。

2、本申请实施例公开了如下技术方案:

3、本申请第一方面提供了一种数据存储方法。该数据存储方法包括:

4、获取目标待存储数据表和转换规则集,其中所述转换规则集包括多个待存储数据表分别对应的数据表类型与目标端数据库中目标数据表对应的数据表目标类型之间的转换规则;

5、对所述目标待存储数据表进行解析,获得所述目标待存储数据表对应的待转换数据表类型,其中所述待转换数据表类型为多个数据表类型中的任意一个;

>6、根据所述待转换数据表类型对所述转换规则集进行规则提取,获得所述转换规则集中与所述待转换数据表类型对应的目标转换规则;

7、通过所述目标转换规则对所述目标待存储数据表进行转换,获得转换后的目标待存储数据表,其中所述转换后的目标待存储数据表对应的数据表类型与所述目标数据表对应的数据表目标类型相同;

8、将所述转换后的目标待存储数据表存储至所述目标端数据库中。

9、可选的,还包括:

10、从多个源端数据源中获取多个待存储数据表和目标端数据库中获取目标数据表,其中一个源端数据源对应获取一个待存储数据表;

11、对所述多个待存储数据表和所述目标数据表进行解析,获得所述多个待存储数据表分别对应的数据表类型和所述目标数据表对应的数据表目标类型;

12、所述获取转换规则集,包括:

13、对所述多个待存储数据表分别对应的数据表类型和所述目标数据表对应的数据表目标类型进行规则构建,获得转换规则集。

14、可选的,所述多个待存储数据表分别对应的数据表类型包括所述多个待存储数据表分别对应的数据表内容类型和数据表结构类型,所述目标数据表对应的数据表目标类型包括所述目标数据表对应的数据表目标内容类型和数据表目标结构类型;

15、所述对所述多个待存储数据表分别对应的数据表类型和所述目标数据表对应的数据表目标类型进行规则构建,获得转换规则集,包括:

16、将所述多个待存储数据表分别对应的数据表内容类型和所述数据表目标内容类型分别进行脚本生成操作,获得多个内容转换脚本;

17、将所述多个待存储数据表分别对应的数据表结构类型和所述数据表目标结构类型分别进行脚本生成操作,获得多个结构转换脚本;

18、根据所述多个待存储数据表分别对应的数据表内容类型和数据表结构类型,将所述多个内容转换脚本和所述多个结构转换脚本进行处理,获得多个转换规则,其中一个转换规则中包括一个内容转换脚本和一个结构转换脚本,所述一个转换规则对应一个待存储数据表对应的数据表类型;

19、对所述多个转换规则进行结合,获得转换规则集。

20、可选的,所述目标待存储数据表对应的待转换数据表类型包括所述目标待存储数据表对应的待转换内容类型和待转换结构类型,在所述根据所述待转换数据表类型对所述转换规则集进行规则提取,获得所述转换规则集中与所述待转换数据表类型对应的目标转换规则之前,还包括:

21、对所述待转换内容类型和所述数据表目标内容类型进行相似度计算,获得内容相似度阈值;

22、对所述待转换结构类型和所述数据表目标结构类型进行相似度计算,获得结构相似度阈值;

23、若所述内容相似度阈值小于预设内容相似度阈值,和所述结构相似度阈值小于预设结构相似度阈值,执行所述根据所述待转换数据表类型对所述转换规则集进行规则提取,获得所述转换规则集中与所述待转换数据表类型对应的目标转换规则的步骤。

24、可选的,所述通过所述目标转换规则对所述目标待存储数据表进行转换,获得转换后的目标待存储数据表,包括:

25、通过所述目标转换规则中的目标内容转换脚本,对所述待转换内容类型进行转换,获得已转换内容类型;

26、通过所述目标转换规则中的目标结构转换脚本,对所述待转换结构类型进行转换,获得已转换结构类型;

27、根据所述已转换内容类型和所述已转换结构类型,获得转换后的目标待存储数据表。

28、可选的,在所述获取目标待存储数据表之前,还包括:

29、获取目标源端数据源和所述目标源端数据源的服务地址,其中所述目标源端数据源用于生成所述目标待存储数据表,所述目标源端数据源为所述多个源端数据源中的任意一个;

30、对所述目标源端数据源和所述服务地址进行配置连接操作,获得连接结果;

31、所述获取目标待存储数据表,包括:

32、若所述连接结果为所述目标源端数据源和所述服务地址配置连接成功,从所述目标源端数据源中获取目标待存储数据表。

33、可选的,在所述将所述转换后的目标待存储数据表存储至所述目标端数据库中之后,还包括:

34、接收针对于所述目标端数据库的数据查询请求;

35、调用数据仓库引擎,以通过所述数据仓库引擎从所述目标端数据库中提取与所述数据查询请求对应的数据表。

36、本申请第二方面提供了一种数据存储装置。该数据存储装置包括:

37、数据规则获取单元,用于获取目标待存储数据表和转换规则集,其中所述转换规则集包括多个待存储数据表分别对应的数据表类型与目标端数据库中目标数据表对应的数据表目标类型之间的转换规则;

38、数据表解析单元,用于对所述目标待存储数据表进行解析,获得所述目标待存储数据表对应的待转换数据表类型,其中所述待转换数据表类型为多个数据表类型中的任意一个;

39、目标转换规则获得单元,用于根据所述待转换数据表类型对所述转换规则集进行规则提取,获得所述转换规则集中与所述待转换数据表类型对应的目标转换规则;

40、数据表转换单元,用于通过所述目标转换规则对所述目标待存储数据表进行转换,获得转换后的目标待存储数据表,其中所述转换后的目标待存储数据表对应的数据表类型与所述目标数据表对应的数据表目标类型相同;

41本文档来自技高网...

【技术保护点】

1.一种数据存储方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在获取转换规则集之前,还包括:

3.根据权利要求2所述的方法,其特征在于,所述多个待存储数据表分别对应的数据表类型包括所述多个待存储数据表分别对应的数据表内容类型和数据表结构类型,所述目标数据表对应的数据表目标类型包括所述目标数据表对应的数据表目标内容类型和数据表目标结构类型;

4.根据权利要求3所述的方法,其特征在于,所述目标待存储数据表对应的待转换数据表类型包括所述目标待存储数据表对应的待转换内容类型和待转换结构类型,在所述根据所述待转换数据表类型对所述转换规则集进行规则提取,获得所述转换规则集中与所述待转换数据表类型对应的目标转换规则之前,还包括:

5.根据权利要求4所述的方法,其特征在于,所述通过所述目标转换规则对所述目标待存储数据表进行转换,获得转换后的目标待存储数据表,包括:

6.根据权利要求2所述的方法,其特征在于,在所述获取目标待存储数据表之前,还包括:

7.根据权利要求1所述的方法,其特征在于,在所述将所述转换后的目标待存储数据表存储至所述目标端数据库中之后,还包括:

8.一种数据存储装置,其特征在于,包括:

9.一种计算机设备,其特征在于,包括:

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-7所述的数据存储方法的步骤。

...

【技术特征摘要】

1.一种数据存储方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在获取转换规则集之前,还包括:

3.根据权利要求2所述的方法,其特征在于,所述多个待存储数据表分别对应的数据表类型包括所述多个待存储数据表分别对应的数据表内容类型和数据表结构类型,所述目标数据表对应的数据表目标类型包括所述目标数据表对应的数据表目标内容类型和数据表目标结构类型;

4.根据权利要求3所述的方法,其特征在于,所述目标待存储数据表对应的待转换数据表类型包括所述目标待存储数据表对应的待转换内容类型和待转换结构类型,在所述根据所述待转换数据表类型对所述转换规则集进行规则提取,获得所述转换规则集中与所述待转换数据表类型对应...

【专利技术属性】
技术研发人员:郑健楠
申请(专利权)人:东软集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1