System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据处理方法、系统、电子设备及存储介质技术方案_技高网

数据处理方法、系统、电子设备及存储介质技术方案

技术编号:40558097 阅读:8 留言:0更新日期:2024-03-05 19:19
本申请公开了一种数据处理方法、系统、电子设备及存储介质,所述数据处理方法包括以下步骤:通过源数据层工作流,对业务系统提供的业务数据进行数据处理,得到初始数据;通过明细层工作流,从初始数据中提取至少一个预设主题域对应的主题域数据,基于主题域数据更新预设的主题域数据表;通过汇总层工作流,从主题域数据表中获取第一目标数据,将第一目标数据转换成汇总数据,基于汇总数据更新预设的汇总数据表;通过应用层工作流,从主题域数据表和/或汇总数据表中获取第二目标数据,将第二目标数据转换成应用数据,基于应用数据更新预设的应用数据表。本申请解决了相关技术中工作流架构的使用便捷性较低的技术问题。

【技术实现步骤摘要】

本申请涉及金融科技(fintech)的人工智能,尤其涉及一种数据处理方法、系统、电子设备及存储介质


技术介绍

1、随着金融科技,尤其是互联网科技金融的不断发展,越来越多的技术(如分布式、人工智能等)应用在金融领域,但金融业也对技术提出了更高的要求。

2、数据集市是面向业务体系主题,规划和定制数据的一种工具,以满足业务线对业务数据的查询、分析等。需要通过调度系统按配置的时间周期对整个工作流进行数据更新。相关技术中,工作流架构通常是基于数据流图,结合实际调度平台进行设计。

3、然而,随着业务的快速增长,数据量越来越大,数据的应用需求也越来越多,工作流架构中的节点数量和依赖数量也就随之增加,从而导致整个数据集市的工作流杂乱无章,使用便捷性大大降低,容易引起误操作,导致数据错误,用户体验感也较差。


技术实现思路

1、本申请的主要目的在于提供一种数据处理方法、系统、电子设备及存储介质,旨在解决相关技术中工作流架构的使用便捷性较低的技术问题。

2、为实现上述目的,本申请提供一种数据处理方法,所述数据处理方法包括以下步骤:

3、通过源数据层工作流,对业务系统提供的业务数据进行数据处理,得到初始数据;

4、通过明细层工作流,从所述初始数据中提取至少一个预设主题域对应的主题域数据,基于所述主题域数据更新预设的主题域数据表;

5、通过汇总层工作流,从所述主题域数据表中获取第一目标数据,将所述第一目标数据转换成汇总数据,基于所述汇总数据更新预设的汇总数据表;

6、通过应用层工作流,从所述主题域数据表和/或所述汇总数据表中获取第二目标数据,将所述第二目标数据转换成应用数据,基于所述应用数据更新预设的应用数据表。

7、本申请还提供一种数据处理系统,所述数据处理系统包括源数据层工作流、明细层工作流、汇总层工作流以及应用层工作流,其中,

8、所述源数据层工作流,用于对业务系统提供的业务数据进行数据处理,得到初始数据;

9、所述明细层工作流,用于从所述初始数据中提取至少一个预设主题域对应的主题域数据,基于所述主题域数据更新预设的主题域数据表;

10、所述汇总层工作流,用于从所述主题域数据表中获取第一目标数据,将所述第一目标数据转换成汇总数据,基于所述汇总数据更新预设的汇总数据表;

11、所述应用层工作流,用于从所述主题域数据表和/或所述汇总数据表中获取第二目标数据,将所述第二目标数据转换成应用数据,基于所述应用数据更新预设的应用数据表。

12、本申请还提供一种电子设备,所述电子设备为实体设备,所述电子设备包括:存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的所述的数据处理方法的程序,所述的数据处理方法的程序被处理器执行时可实现如上述的数据处理方法的步骤。

13、本申请还提供一种存储介质,所述存储介质为计算机可读存储介质,所述计算机可读存储介质上存储有实现数据处理方法的程序,所述的数据处理方法的程序被处理器执行时实现如上述的数据处理方法的步骤。

14、本申请提供了一种数据处理方法、系统、电子设备及存储介质,所述数据处理方法包括以下步骤:通过源数据层工作流,对业务系统提供的业务数据进行数据处理,得到初始数据;通过明细层工作流,从所述初始数据中提取至少一个预设主题域对应的主题域数据,基于所述主题域数据更新预设的主题域数据表;通过汇总层工作流,从所述主题域数据表中获取第一目标数据,将所述第一目标数据转换成汇总数据,基于所述汇总数据更新预设的汇总数据表;通过应用层工作流,从所述主题域数据表和/或所述汇总数据表中获取第二目标数据,将所述第二目标数据转换成应用数据,基于所述应用数据更新预设的应用数据表。本申请基于数据集市的分层以及各层数据之间的关联性,将工作流划分成了源数据层工作流、明细层工作流、汇总层工作流和应用层工作流,各个工作流的分工明确且有序,可以有效避免循环依赖和反向依赖的问题,实现了工作流的模块化和有序化,使得工作流的可解释性有效提高,从而有利于提高发现问题和解决问题的效率,提升了数据集市的开发效率和可维护性,使得工作流架构的使用便捷性有效提高,用户体验感有效提升。

本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,所述数据处理方法包括以下步骤:

2.如权利要求1所述的数据处理方法,其特征在于,所述源数据层工作流包括数据前处理工作流和维度层工作流;所述初始数据包括初始明细数据和维度数据表中的维度数据;所述通过源数据层工作流,对业务系统提供的业务数据进行数据处理,得到初始数据的步骤包括:

3.如权利要求2所述的数据处理方法,其特征在于,所述维度层工作流包括至少一个维度层子工作流,各所述维度层子工作流分别对应于不同的预设维度;所述通过所述维度层工作流,从业务数据中提取至少一个预设维度的维度数据,生成维度数据表的步骤包括:

4.如权利要求2所述的数据处理方法,其特征在于,所述数据前处理工作流包括至少一个数据前处理子工作流,各所述数据前处理子工作流分别对应于不同的业务系统;所述通过所述数据前处理工作流,对业务数据进行数据前处理,得到初始明细数据的步骤包括:

5.如权利要求1所述的数据处理方法,其特征在于,所述明细层工作流包括至少一个明细层子工作流,各所述明细层子工作流分别对应于不同的预设主题域;所述通过明细层工作流,从所述初始数据中提取至少一个预设主题域对应的主题域数据,基于所述主题域数据更新预设的主题域数据表的步骤包括:

6.如权利要求1所述的数据处理方法,其特征在于,预设显示区域包括预设信号接收层显示区域以及按预设排列顺序依次排列的多个加工层显示区域;所述数据处理方法还包括:

7.如权利要求6所述的数据处理方法,其特征在于,所述在预设的信号接收层显示区域显示各所述信号接收节点信息,在预设的加工层显示区域显示各自对应的任务节点信息的步骤之后,还包括:

8.一种数据处理系统,其特征在于,所述数据处理系统包括源数据层工作流、明细层工作流、汇总层工作流以及应用层工作流,其中,

9.一种电子设备,其特征在于,所述电子设备包括:

10.一种存储介质,其特征在于,所述存储介质为计算机可读存储介质,所述计算机可读存储介质上存储有实现数据处理方法的程序,所述实现数据处理方法的程序被处理器执行以实现如权利要求1至7中任一项所述的数据处理方法的步骤。

...

【技术特征摘要】

1.一种数据处理方法,其特征在于,所述数据处理方法包括以下步骤:

2.如权利要求1所述的数据处理方法,其特征在于,所述源数据层工作流包括数据前处理工作流和维度层工作流;所述初始数据包括初始明细数据和维度数据表中的维度数据;所述通过源数据层工作流,对业务系统提供的业务数据进行数据处理,得到初始数据的步骤包括:

3.如权利要求2所述的数据处理方法,其特征在于,所述维度层工作流包括至少一个维度层子工作流,各所述维度层子工作流分别对应于不同的预设维度;所述通过所述维度层工作流,从业务数据中提取至少一个预设维度的维度数据,生成维度数据表的步骤包括:

4.如权利要求2所述的数据处理方法,其特征在于,所述数据前处理工作流包括至少一个数据前处理子工作流,各所述数据前处理子工作流分别对应于不同的业务系统;所述通过所述数据前处理工作流,对业务数据进行数据前处理,得到初始明细数据的步骤包括:

5.如权利要求1所述的数据处理方法,其特征在于,所述明细层工作流包括至少一个明细层子工作流,各所述明细层子工作流...

【专利技术属性】
技术研发人员:曹敏赵鹏举甘乐刘文怡
申请(专利权)人:深圳前海微众银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1