本申请实施例公开了一种数据处理逻辑统一方法、装置和计算机设备;本申请实施例包括:获取数据库中的脚本文件,对脚本文件进行解析,得到脚本文件对应的属性信息;基于脚本文件对应的属性信息,对脚本文件进行溯源处理,得到脚本文件中字段对应的溯源属性信息;识别属性信息对应的数据处理逻辑以及溯源属性信息的数据处理逻辑进行对比处理,得到对比结果;基于对比结果,对属性信息对应的数据处理逻辑以及溯源属性信息的数据处理逻辑进行统一处理,得到统一处理后数据处理逻辑,可以全面快速地识别出数据库中是否存在重复的数据处理逻辑,然后可以对重复的数据处理逻辑进行改造,使得数据库中相同字段的数据处理逻辑一致、统一。统一。统一。
【技术实现步骤摘要】
一种数据处理逻辑统一方法、装置和计算机设备
[0001]本申请涉及通讯
,具体涉及一种数据处理逻辑统一方法、装置和计算机设备。
技术介绍
[0002]在大数据的时代下,数据库中可能会存在成千上万的加工脚本。而一个同样的指标很有可能存在着多种口径。而由于不同业务人员对指标理解有误差,不同需求分析人员分析理解有差异,不同数据分析人员给的脚本加工逻辑也可能存在误差,不同数据开发也有可能开发得不一样,以及历史多次对指标的优化等每个环节的差异,都可能导致数据不一致,从而影响业务开发的流程。
技术实现思路
[0003]本申请实施例提出了一种数据处理逻辑统一方法、装置、计算机设备和存储介质,可以全面快速地识别出数据库中是否存在重复的数据处理逻辑,然后可以对重复的数据处理逻辑进行改造,使得数据库中相同字段的数据处理逻辑一致、统一。
[0004]本申请实施例提供了一种数据处理逻辑统一方法,包括:
[0005]获取数据库中的脚本文件,对所述脚本文件进行解析,得到所述脚本文件对应的属性信息;
[0006]基于所述脚本文件对应的属性信息,对所述脚本文件进行溯源处理,得到所述脚本文件中字段对应的溯源属性信息;
[0007]将所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行对比处理,得到对比结果;
[0008]基于所述对比结果,对所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行统一处理,得到统一处理后数据处理逻辑。
[0009]相应的,本申请实施例还提供了一种数据处理逻辑统一装置,包括:
[0010]解析单元,用于获取数据库中的脚本文件,对所述脚本文件进行解析,得到所述脚本文件对应的属性信息;
[0011]溯源单元,用于基于所述脚本文件对应的属性信息,对所述脚本文件进行溯源处理,得到所述脚本文件中字段对应的溯源属性信息;
[0012]对比单元,用于将所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行对比处理,得到对比结果;
[0013]统一单元,用于基于所述对比结果,对所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行统一处理,得到统一处理后数据处理逻辑。
[0014]在一实施例中,所述解析单元,可以包括:
[0015]第一解析子单元,用于对所述脚本文件进行解析,得到所述脚本文件对应的临时表;
[0016]第二解析子单元,用于对所述临时表进行解析,得到所述脚本文件对应的属性信息。
[0017]在一实施例中,所述溯源单元,可以包括:
[0018]层溯源处理子单元,用于基于所述脚本文件对应的属性信息,对所述脚本文件进行层溯源处理,得到所述脚本文件中字段在脚本文件所属层对应的层溯源属性信息;
[0019]库溯源处理子单元,用于基于所述脚本文件对应的层溯源属性信息,对所述脚本文件进行库溯源处理,得到所述脚本文件中字段在所述数据库中的溯源属性信息。
[0020]在一实施例中,所述层溯源处理子单元,可以包括:
[0021]解析模块,用于对所述脚本文件对应的属性信息进行解析,得到字段信息;
[0022]关系确定模块,用于确定所述字段信息对应的临时依赖关系;
[0023]层级递归处理模块,用于基于所述临时依赖关系对所述字段信息进行层级递归处理,得到所述脚本文件中字段在脚本文件所属层对应的层溯源属性信息。
[0024]在一实施例中,所述库溯源处理子单元,可以包括:
[0025]遍历模块,用于对所述层溯源属性信息进行遍历,得到所述层溯源属性信息对应的依赖关系;
[0026]递归处理模块,用于对所述依赖关系进行递归处理,得到源依赖关系;
[0027]获取模块,用于获取所述源依赖关系对应的溯源属性信息。
[0028]在一实施例中,所述对比单元,可以包括:
[0029]第一标准化处理子单元,用于对所述属性信息以及所述溯源属性信息进行标准化处理,得到标准化属性信息和标准化溯源属性信息;
[0030]第二标准化处理子单元,用于对所述标准化属性信息的数据处理逻辑进行标准化处理,得到所述标准化后属性信息对应的标准化数据处理逻辑,以及标准化溯源属性信息的数据处理逻辑进行标准化处理,得到所述标准化溯源属性信息的对应的标准化数据处理逻辑;
[0031]信息确定子单元,用于在所述标准化属性信息和所述标准化溯源属性信息中确定相匹配的标准化属性信息和标准化溯源属性信息;
[0032]对比子单元,用于将所述相匹配的标准化属性信息和标准化溯源属性信息对应的标准化处理逻辑进行对比处理,得到对比结果。
[0033]在一实施例中,所述对比子单元,可以包括:
[0034]第一对比处理模块,用于将所述相匹配的标准化属性信息和标准化溯源属性信息对应的标准化处理逻辑进行对比处理;
[0035]条件确定模块,用于当所述标准化属性信息对应的标准化处理逻辑和所述标准化溯源属性信息对应的标准化处理逻辑相同时,确定所述标准化属性信息对应的过滤条件和所述标准化溯源属性信息对应的过滤条件;
[0036]第二对比处理模块,用于将所述标准化属性信息对应的过滤条件和所述标准化溯源属性信息对应的过滤条件进行对比处理,得到所述对比结果。
[0037]在一实施例中,所述对比子单元,还可以包括:
[0038]描述信息确定模块,用于当所述标准化属性信息对应的标准化处理逻辑和所述标准化溯源属性信息对应的标准化处理逻辑不同时,确定所述标准化属性信息对应的描述信
息和所述标准化溯源属性信息对应的描述信息;
[0039]第三对比处理模块,用于对所述标准化属性信息对应的描述信息和所述标准化溯源属性信息对应的描述信息进行对比处理,得到对比结果。
[0040]相应的,本申请实施例还提供一种计算机设备,所述计算机设备包括存储器和处理器;所述存储器存储有计算机程序,所述处理器用于运行所述存储器内的计算机程序,以执行本申请实施例任一提供的数据处理逻辑统一方法。
[0041]相应的,本申请实施例还提供一种存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现本申请实施例任一提供的数据处理逻辑统一方法。
[0042]本申请实施例包括:获取数据库中的脚本文件,对脚本文件进行解析,得到脚本文件对应的属性信息;基于脚本文件对应的属性信息,对脚本文件进行溯源处理,得到脚本文件中字段对应的溯源属性信息;识别属性信息对应的数据处理逻辑以及溯源属性信息的数据处理逻辑进行对比处理,得到对比结果;基于对比结果,对属性信息对应的数据处理逻辑以及溯源属性信息的数据处理逻辑进行统一处理,得到统一处理后数据处理逻辑,可以全面快速地识别出数据库中是否存在重复的数据处理逻辑,然后可以对重复的数据处理逻辑进行改造,使得数据库中相同字段的数据处理逻辑一致、统一。
附图说明
[004本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种数据处理逻辑统一方法,其特征在于,包括:获取数据库中的脚本文件,对所述脚本文件进行解析,得到所述脚本文件对应的属性信息;基于所述脚本文件对应的属性信息,对所述脚本文件进行溯源处理,得到所述脚本文件中字段对应的溯源属性信息;将所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行对比处理,得到对比结果;基于所述对比结果,对所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行统一处理,得到统一处理后数据处理逻辑。2.根据权利要求1所述的方法,其特征在于,所述对所述脚本文件进行解析,得到所述脚本文件对应的属性信息,包括:对所述脚本文件进行解析,得到所述脚本文件对应的临时表;对所述临时表进行解析,得到所述脚本文件对应的属性信息。3.根据权利要求1所述的方法,其特征在于,所述基于所述脚本文件对应的属性信息,对所述脚本文件进行溯源处理,得到所述脚本文件中字段对应的溯源属性信息,包括:基于所述脚本文件对应的属性信息,对所述脚本文件进行层溯源处理,得到所述脚本文件中字段在脚本文件所属层对应的层溯源属性信息;基于所述脚本文件对应的层溯源属性信息,对所述脚本文件进行库溯源处理,得到所述脚本文件中字段在所述数据库中的溯源属性信息。4.根据权利要求3所述的方法,其特征在于,所述基于所述脚本文件对应的属性信息,对所述脚本文件进行层溯源处理,得到所述脚本文件中字段在脚本文件所属层对应的层溯源属性信息,包括:对所述脚本文件对应的属性信息进行解析,得到字段信息;确定所述字段信息对应的临时依赖关系;基于所述临时依赖关系对所述字段信息进行层级递归处理,得到所述脚本文件中字段在脚本文件所属层对应的层溯源属性信息。5.根据权利要求3所述的方法,其特征在于,所述基于所述脚本文件对应的层溯源属性信息,对所述脚本文件进行库溯源处理,得到所述脚本文件中字段在所述数据库中的溯源属性信息,包括:对所述层溯源属性信息进行遍历,得到所述层溯源属性信息对应的依赖关系;对所述依赖关系进行递归处理,得到源依赖关系;获取所述源依赖关系对应的溯源属性信息。6.根据权利要求1所述的方法,其特征在于,所述将所述属性信息对应的数据处理逻辑以及所述溯源属性信息的数据处理逻辑进行对比处理,得到对比结果,包括:对所述属性信息以及所述溯源属性信息进行标准化处理,得到标准化属性信息和标准化溯源属性信息;对所述标准化属性信息的数据处理逻辑进行标准化处理...
【专利技术属性】
技术研发人员:曾利强,
申请(专利权)人:平安银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。