数据处理方法、装置、存储介质及电子装置制造方法及图纸

技术编号:40024212 阅读:23 留言:0更新日期:2024-01-16 17:14
本申请公开了一种数据处理方法、装置、存储介质及电子装置。该方法包括:确定待同步至数据湖的第一数据库,得到多个第一数据库;遍历各个第一数据库的第一配置信息,并依据各个第一配置信息分别生成与第一数据库对应的第一任务;获取每个第一数据库中的元数据和第二配置信息,依据元数据和第二配置信息生成第二任务,得到多个第二任务;依据每个第二数据表生成第三任务,得到多个第三任务,并执行第三任务。通过本申请,解决了相关技术中手动执行数据入湖操作效率低和容易出错的问题。

【技术实现步骤摘要】

本申请涉及数据湖,具体而言,涉及一种数据处理方法、装置、存储介质及电子装置


技术介绍

1、数据湖是一个存储各种各样原始数据的大型仓库,数据湖中的数据可供存取、处理、分析及传输。数据湖从企业的多个业务系统获取原始数据,简称为数据入湖,目前hadoop是最常用的部署数据湖的技术。

2、相关技术中,通过手动编写代码的方式,根据业务系统的数据模型对数据表逐一进行定制化代码开发,每次在数据湖中添加新的数据表都需要定制化开发。开发时间与需要开发的数据表数量、数据表的字段数量呈正相关,数据表数量越多,每张表的字段数量越多,那么每张表的开发工作量就越大,因此手动开发方式存在开发效率低,还无法保证代码质量,可能发生字段漏写、写错等技术问题;而且采用手动编写代码的方式不具备扩展性与可复用性,导致容易出错和测试成本较大。

3、针对相关技术中手动执行数据入湖操作效率低和容易出错的问题,目前尚未提出有效的解决方案。


技术实现思路

1、本申请提供一种数据处理方法、装置、存储介质及电子装置,以解决相关技术中手动执本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在遍历各个所述第一数据库的第一配置信息之后,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,依据各个所述第一配置信息分别生成与所述第一数据库对应的所述第一任务包括:

4.根据权利要求1所述的方法,其特征在于,在获取每个所述第一数据库中的元数据和第二配置信息之后,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,执行所述第三任务包括:

6.根据权利要求5所述的方法,其特征在于,在执行所述第三任务之前,所述方法还包括:

<...

【技术特征摘要】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在遍历各个所述第一数据库的第一配置信息之后,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,依据各个所述第一配置信息分别生成与所述第一数据库对应的所述第一任务包括:

4.根据权利要求1所述的方法,其特征在于,在获取每个所述第一数据库中的元数据和第二配置信息之后,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,执行所述第三任务包括:

6.根据权利要求5所述的方法,其特征在于,在执行所述第三任务之前,所述方法还包括:

【专利技术属性】
技术研发人员:范振涛
申请(专利权)人:吉林亿联银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1