【技术实现步骤摘要】
业务处理的方法、装置、设备以及存储介质
本申请涉及数据处理领域,尤其涉及大数据、信息流等领域。
技术介绍
随着互联网技术持续的发展与应用,产生了海量的数据与各式各样的数据计算引擎。数据计算引擎是用来对数据做计算的组件。为了提取海量数据中有价值的数据,需要开发大量的数据ETL(抽取、转换以及加载,Extract-Transform-Load)业务,并且按照一定的周期,在线运行这些ETL业务。其中,ETL用来描述将数据从数据源经过抽取(extract)、转换(transform)、加载(load)至目的数据源的过程。目前,主流的ETL业务都是基于SQL开发的,ETL业务内部逻辑复杂且涉及的数据量极大,一次执行可能耗时几个小时甚至几天,导致业务处理效率较低。
技术实现思路
本申请提供了一种业务处理的方法、装置、设备以及存储介质。根据本申请的一方面,提供了一种业务处理的方法,包括以下步骤:确定目标业务中所包含的各业务过程的第一执行顺序,以及各业务过程之间依赖关系;第一执行顺序包括串行执行各 ...
【技术保护点】
1.一种业务处理的方法,包括:/n确定目标业务中所包含的各业务过程的第一执行顺序,以及所述各业务过程之间依赖关系;所述第一执行顺序包括串行执行各业务过程;/n根据所述依赖关系,对所述第一执行顺序进行调整,得到第二执行顺序;所述第二执行顺序包括串行和并行执行各业务过程;/n根据所述第二执行顺序执行所述各业务过程。/n
【技术特征摘要】
1.一种业务处理的方法,包括:
确定目标业务中所包含的各业务过程的第一执行顺序,以及所述各业务过程之间依赖关系;所述第一执行顺序包括串行执行各业务过程;
根据所述依赖关系,对所述第一执行顺序进行调整,得到第二执行顺序;所述第二执行顺序包括串行和并行执行各业务过程;
根据所述第二执行顺序执行所述各业务过程。
2.根据权利要求1所述的方法,其中,所述根据所述依赖关系,对所述第一执行顺序进行调整,得到第二执行顺序,包括:
根据所述依赖关系确定各业务过程之间的依赖层级;
建立业务过程执行矩阵,所述业务过程执行矩阵中的执行层级与所述依赖层级相对应;
根据所述依赖层级和所述第一执行顺序,将所述业务过程置于其所属的依赖层级所对应的执行层级中;
根据所述执行层级确定所述第二执行顺序。
3.根据权利要求2所述的方法,在所述目标业务中包含预定类型的业务过程的情况下,所述根据所述依赖关系,对所述第一执行顺序进行调整,得到第二执行顺序,还包括:
获取所述预定类型的业务过程在第一执行顺序中的执行序号m,以及执行序号小于m的各业务过程所对应的执行层级的序号;
在所述各执行层级的序号中确定最大值n;
将所述预定类型的业务过程从当前执行层级移至第n+1执行层级;
获取执行序号大于m的各业务过程的执行层级的排布情况;
根据所述执行层级的排布情况,将执行序号大于m的各业务过程按照原有矩阵结构移动至所述业务过程执行矩阵的第n+1执行层级之后的执行层级中;
所述执行序号m和所述最大值n为正整数。
4.根据权利要求2或3所述的方法,所述根据所述第二执行顺序执行所述各业务过程,包括:
串行执行所述业务过程执行矩阵的各所述执行层级;
并行执行各所述执行层级中的业务过程。
5.根据权利要求1至3任一所述的方法,还包括:
根据所述第一执行顺序,打印各业务过程的日志信息。
6.一种业务处理的装置,包括:
业务过程属性分析模块,用于确定目标业务中所包含的各业务过程的第一执行顺序,以及所述各业务过程之间依赖关系;所述第一执行顺序包括串行执行各业务过程;
执行顺序调整模块,用于根据所述依赖关系,对所述第一执行顺序进行调整,得到第二执行顺序;所述第二执行顺序包括串行和并行执行各业务过程;
业务过程执行...
【专利技术属性】
技术研发人员:邱峰志,李辉,杨昊,党伟伟,
申请(专利权)人:北京百度网讯科技有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。