System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及大数据,特别涉及一种宽表生成的方法、装置、电子设备及存储介质。
技术介绍
1、在现有技术中,宽表的使用可整合不同层面的数据,减少多表查询,提升数据分析效率。在需要对数据进行统计分析时,现有技术需要根据数据稽核、统计分析的需求进行多个宽表的开发,生成的宽表存在重复情况,造成数据库存储资源浪费。同时,由于存在多个宽表,每个宽表都会作为一个数据源,当需要进行业务逻辑变更或去重逻辑操作时需要修改多个地方,且容易遗漏以及多数据源会造成数据的不一致,不利于用户根据上述宽表对数据进行统计分析。
技术实现思路
1、有鉴于此,本申请实施例提供了一种宽表生成的方法、装置、电子设备及存储介质,旨在实现宽表数据源的统一,用户能全面、快速、灵活地对数据进行统计分析。
2、第一方面,本申请实施例提供了一种宽表生成的方法,所述方法包括:
3、对数据表按照主题类型的不同进行分类;
4、基于分类的结果将所述数据表进行关联并生成一个或多个第一宽表,所述第一宽表包括一个主题类型的数据表;
5、将所述第一宽表进行整合得到第二宽表;
6、对所述第二宽表进行处理得到用于统计分析的宽表。
7、可选的,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
8、获取所述第二宽表中的数据;
9、设置去重数据标识字段;
10、基于所述去重数据标识字段对所述数据进行数据标识的去重处理;
11、将处理完成的
12、可选的,所述将所述第一宽表进行整合得到第二宽表,包括:
13、确定所述第一宽表之间的关联条件;
14、基于所述关联条件对所述第一宽表进行数据关联并整合,在所述数据进行整合的过程中保留所述数据中的中文值字段得到所述第二宽表。
15、可选的,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
16、设置统计口径的位图字段,所述统计口径用于指示统计数据采用的标准,所述位图字段为位图对应的字段,所述位图为位的简单数组,位图的位数与统计数据采用的标准具有对应关系;
17、基于所述位图字段用于对统计数据采用的标准中不同类型的数据进行索引,实现对所述第二宽表进行处理得到用于统计分析的宽表。
18、可选的,所述方法,还包括:
19、将用于统计分析的宽表发送至用户端,以使所述用户端的用户基于所述统计分析的宽表实现对数据的统计分析。
20、可选的,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
21、对所述位图字段及所述第二宽表中的数据标识字段进行拆分,生成独立的布尔类型字段,实现对所述第二宽表进行处理得到用于统计分析的宽表。
22、第二方面,本申请实施例提供了一种宽表生成的装置,所述装置包括:分类模块、关联模块、整合模块及处理模块;
23、所述分类模块,用于对数据表按照主题类型的不同进行分类;
24、所述关联模块,用于基于分类的结果将所述数据表进行关联并生成一个或多个第一宽表,所述第一宽表包括一个主题类型的数据表;
25、所述整合模块,用于将所述第一宽表进行整合得到第二宽表;
26、所述处理模块,用于对所述第二宽表进行处理得到用于统计分析的宽表。
27、可选的,所述处理模块,具体用于:
28、获取所述第二宽表中的数据;
29、设置去重数据标识字段;
30、基于所述去重数据标识字段对所述数据进行数据标识的去重处理;
31、将处理完成的所述第二宽表作为用于统计分析的宽表。
32、第三方面,本申请提供了一种电子设备,所述设备包括:处理器、存储器、系统总线;
33、所述处理器以及所述存储器通过所述系统总线相连;
34、所述存储器用于存储一个或多个程序,所述一个或多个程序包括指令,所述指令当被所述处理器执行时使所述处理器执行实现第一方面所述方法。
35、第四方面,本申请实施例提供了一种计算机存储介质,所述计算机存储介质中存储有代码,当所述代码被运行时,运行所述代码的设备实现前述第一方面任一项所述方法。
36、本申请提供了一种宽表生成的方法、装置、电子设备及存储介质,在执行所述方法时,首先对数据表按照主题类型的不同进行分类,然后基于分类的结果将所述数据表进行关联并生成一个或多个第一宽表,所述第一宽表包括一个主题类型的数据表,将所述第一宽表进行整合得到第二宽表。最后对所述第二宽表进行处理得到用于统计分析的宽表。如此,通过对宽表进行整合生成用于统计分析的宽表,能够使得用于统计分析的宽表作为唯一的数据源以使用户进行统计分析,当需要进行业务逻辑变更或去重逻辑操作时仅需要修改用于统计分析的宽表,避免多数据源修改会造成数据的不一致的问题。在将第一宽表整合得到第二宽表的过程中对中文值字段进行了保留,如此可以保证用于统计分析的宽表中也包含中文值字段,便于用户能够快速便捷的对数据进行分析。在对第二宽表进行处理时,对其中的数据的标识进行了去重处理,使得每个数据具有唯一的标识,能够在保证数据的完整性的同时保证数据的唯一性。同时,还对第二宽表进行统计口径的位图字段的设置,能够使得各系统在使用宽表数据可以减少开发量,后期统计口径变更,也只需修改宽表处的统计口径,降低开发成本。
本文档来自技高网...【技术保护点】
1.一种宽表生成的方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
3.根据权利要求1所述的方法,其特征在于,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
4.根据权利要求1所述的方法,其特征在于,所述将所述第一宽表进行整合得到第二宽表,包括:
5.根据权利要求1所述的方法,其特征在于,所述方法,还包括:
6.根据权利要求2所述的方法,其特征在于,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
7.一种宽表生成的装置,其特征在于,所述装置包括:分类模块、关联模块、整合模块及处理模块;
8.根据权利要求7所述的装置,其特征在于,所述处理模块,具体用于:
9.一种电子设备,其特征在于,所述设备包括:处理器、存储器、系统总线;
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有实现宽表生成的方法的实现程序,所述实现宽表生成的方法的实现程序被处理器执行时实
...【技术特征摘要】
1.一种宽表生成的方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
3.根据权利要求1所述的方法,其特征在于,所述对所述第二宽表进行处理得到用于统计分析的宽表,包括:
4.根据权利要求1所述的方法,其特征在于,所述将所述第一宽表进行整合得到第二宽表,包括:
5.根据权利要求1所述的方法,其特征在于,所述方法,还包括:
6.根据权利要求2所述的方法,其特征在于,所述对所述第...
【专利技术属性】
技术研发人员:于卫国,赵霁,郭鑫,王林,林眺,徐佩,
申请(专利权)人:银联商务股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。