作业开发架构及作业处理方法、存储介质、电子设备技术

技术编号:40249547 阅读:17 留言:0更新日期:2024-02-02 22:44
本申请实施例提供了一种作业开发架构及作业处理方法、存储介质、电子设备,其中,该架构包括:数据源模块,代码转换模块,传输模块,其中,数据源模块,用于利用目标数据读取配置读取目标作业的目标数据;代码转换模块,用于利用目标转换算子将处理目标数据的代码转换为目标代码;传输模块,用于将数据处理结果传输至目标存储模块。通过本申请,解决了相关技术中对作业开发架构的开发过程繁琐,开发效率低的问题,达到简化对作业开发架构的开发,提高开发效率的效果。

【技术实现步骤摘要】

本申请实施例涉及计算机领域,具体而言,涉及一种作业开发架构及作业处理方法、存储介质、电子设备


技术介绍

1、随着大数据技术日趋成熟,对作业时效性的要求逐渐增强。传统的离线作业数据延迟往往以小时或天计算,数据在获取后并不会立刻进行处理,而是以固定频率进行处理。虽然离线计算适用于在大量数据上进行复杂运算,且具有保存时间长,查询结果方便等优点,但其显著劣势在于数据的时效性不强,对数据的处理延时较高。实时计算作业则可以很好的弥补这一时效性缺陷,数据的到达次序相互独立,数据持续计算,将延时控制在毫秒级甚至更低。

2、实时计算作业的开发首先需要从消息队列,一般是获取数据,然后通过处理引擎进行复杂处理后存储在各类型数据库中。一方面由于开发者需要使用引擎进行数据分析和筛选,无论是常用的处理语句,亦或是处理引擎自带的复杂事务处理算子,都对开发者了解引擎底层知识提出了较高要求;另一方面由于作业需要关联多种类型数据库,并针对不同数据库进行对应的参数配置,使开发过程繁琐,调试复杂,对开发者的要求较高。


技术实现思路b>

1本文档来自技高网...

【技术保护点】

1.一种作业开发架构,其特征在于,包括:数据源模块,代码转换模块,传输模块,其中,

2.根据权利要求1所述的架构,其特征在于,所述数据源模块还与数据管理单元连接,其中,

3.根据权利要求1所述的架构,其特征在于,所述数据源模块支持分布式消息订阅系统kafka的数据,所述目标数据读取配置中包括以下至少之一:数据读取速度,数据读取量,数据读取方式,数据类型。

4.根据权利要求1所述的架构,其特征在于,还包括:维表关联模块,其中,

5.根据权利要求1所述的架构,其特征在于,还包括:管理调度模块,其中,

6.一种作业处理方法,其特征在于...

【技术特征摘要】

1.一种作业开发架构,其特征在于,包括:数据源模块,代码转换模块,传输模块,其中,

2.根据权利要求1所述的架构,其特征在于,所述数据源模块还与数据管理单元连接,其中,

3.根据权利要求1所述的架构,其特征在于,所述数据源模块支持分布式消息订阅系统kafka的数据,所述目标数据读取配置中包括以下至少之一:数据读取速度,数据读取量,数据读取方式,数据类型。

4.根据权利要求1所述的架构,其特征在于,还包括:维表关联模块,其中,

5.根据权利要求1所述的架构,其特征在于,还包括:管理调度模块,其中,

6.一种作业处理方法,其特征在于,包括:

7.根据权利要求6所述的方法,其特征在于,利用目标数据读取配置读取目标作业的目标数据,其中,...

【专利技术属性】
技术研发人员:丁小慧李巍
申请(专利权)人:中国建设银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1