数据处理方法、装置、设备及存储介质制造方法及图纸

技术编号:40807687 阅读:20 留言:0更新日期:2024-03-28 19:30
本申请提供了一种数据处理方法、装置、设备及存储介质,其中,该方法包括:获取目标数据源中的至少一个待处理字段;根据预先构建的所述目标数据源与向导程序的字段映射关系,确定各所述待处理字段在所述向导程序中对应的目标程序字段以及所述目标程序字段的字段值;根据各所述目标程序字段以及所述目标程序字段的字段值,调用所述向导程序,得到各目标程序字段对应的中间处理结果;根据各目标程序字段对应的中间处理结果,得到所述至少一个待处理字段的目标处理结果。本申请提升了开发人员的开发效率、准确度、缩短了项目开发周期,降低数据治理难度,提高数据利用效率。

【技术实现步骤摘要】

本申请涉及大数据处理,具体而言,涉及一种数据处理方法、装置、设备及存储介质


技术介绍

1、在当前大数据实时处理领域,apacheflink已经成为了当前实时处理的主流技术计算框架。在目前开发人员实际开发中,会根据官方网站提供的flinksql和datastream开发向导来完成开发。然而,与官方网站适配的两套官方开发api:table&sql api和datastreamapi,对数据源的支持方式并不相同。

2、因此,在实际开发中,开发人员需要在每一个需求开发时,开发和维护多套代码,导致开发效率不高,且数据治理的难度较高,同时,数据利用效率较差。


技术实现思路

1、本申请的目的在于,针对上述现有技术中的不足,提供一种数据处理方法、装置、设备及存储介质,以解决现有技术中开发效率不高,且数据治理的难度较高,数据利用效率较差的问题。

2、为实现上述目的,本申请实施例采用的技术方案如下:

3、第一方面,本申请一实施例提供了一种数据处理方法,所述方法包括

4、本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的数据处理方法,其特征在于,所述根据预先构建的所述目标数据源与向导程序的字段映射关系,确定各所述待处理字段在所述向导程序中对应的目标程序字段以及所述目标程序字段的字段值之前,还包括:

3.根据权利要求2所述的数据处理方法,其特征在于,所述根据预先构建的所述目标数据源与向导程序的字段映射关系,确定各所述待处理字段在所述向导程序中对应的目标程序字段以及所述目标程序字段的字段值,包括:

4.根据权利要求1所述的数据处理方法,其特征在于,所述根据各所述目标程序字段以及所述目标程序字段的字段值,调用...

【技术特征摘要】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的数据处理方法,其特征在于,所述根据预先构建的所述目标数据源与向导程序的字段映射关系,确定各所述待处理字段在所述向导程序中对应的目标程序字段以及所述目标程序字段的字段值之前,还包括:

3.根据权利要求2所述的数据处理方法,其特征在于,所述根据预先构建的所述目标数据源与向导程序的字段映射关系,确定各所述待处理字段在所述向导程序中对应的目标程序字段以及所述目标程序字段的字段值,包括:

4.根据权利要求1所述的数据处理方法,其特征在于,所述根据各所述目标程序字段以及所述目标程序字段的字段值,调用所述向导程序,得到各目标程序字段对应的中间处理结果,包括:

5.根据权利要求4所述的数据处理方法,其特征在于,所述由所述向导程序进行数据处理,得到所述向导...

【专利技术属性】
技术研发人员:谭鹏飞
申请(专利权)人:北京汇通天下物联科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1