【技术实现步骤摘要】
本申请实施例涉及计算机领域,具体而言,涉及一种作业开发架构及作业处理方法、存储介质、电子设备。
技术介绍
1、随着大数据技术日趋成熟,对作业时效性的要求逐渐增强。传统的离线作业数据延迟往往以小时或天计算,数据在获取后并不会立刻进行处理,而是以固定频率进行处理。虽然离线计算适用于在大量数据上进行复杂运算,且具有保存时间长,查询结果方便等优点,但其显著劣势在于数据的时效性不强,对数据的处理延时较高。实时计算作业则可以很好的弥补这一时效性缺陷,数据的到达次序相互独立,数据持续计算,将延时控制在毫秒级甚至更低。
2、实时计算作业的开发首先需要从消息队列,一般是获取数据,然后通过处理引擎进行复杂处理后存储在各类型数据库中。一方面由于开发者需要使用引擎进行数据分析和筛选,无论是常用的处理语句,亦或是处理引擎自带的复杂事务处理算子,都对开发者了解引擎底层知识提出了较高要求;另一方面由于作业需要关联多种类型数据库,并针对不同数据库进行对应的参数配置,使开发过程繁琐,调试复杂,对开发者的要求较高。
技术实现思路
1本文档来自技高网...
【技术保护点】
1.一种作业开发架构,其特征在于,包括:数据源模块,代码转换模块,传输模块,其中,
2.根据权利要求1所述的架构,其特征在于,所述数据源模块还与数据管理单元连接,其中,
3.根据权利要求1所述的架构,其特征在于,所述数据源模块支持分布式消息订阅系统kafka的数据,所述目标数据读取配置中包括以下至少之一:数据读取速度,数据读取量,数据读取方式,数据类型。
4.根据权利要求1所述的架构,其特征在于,还包括:维表关联模块,其中,
5.根据权利要求1所述的架构,其特征在于,还包括:管理调度模块,其中,
6.一种作业
...【技术特征摘要】
1.一种作业开发架构,其特征在于,包括:数据源模块,代码转换模块,传输模块,其中,
2.根据权利要求1所述的架构,其特征在于,所述数据源模块还与数据管理单元连接,其中,
3.根据权利要求1所述的架构,其特征在于,所述数据源模块支持分布式消息订阅系统kafka的数据,所述目标数据读取配置中包括以下至少之一:数据读取速度,数据读取量,数据读取方式,数据类型。
4.根据权利要求1所述的架构,其特征在于,还包括:维表关联模块,其中,
5.根据权利要求1所述的架构,其特征在于,还包括:管理调度模块,其中,
6.一种作业处理方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,利用目标数据读取配置读取目标作业的目标数据,其中,...
【专利技术属性】
技术研发人员:丁小慧,李巍,
申请(专利权)人:中国建设银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。