【技术实现步骤摘要】
数据导出方法、装置、设备及计算机可读存储介质
[0001]本申请属于多维联机分析处理
,尤其涉及一种数据导出方法、装置、设备及计算机可读存储介质。
技术介绍
[0002]多维数据库是多维联机分析处理技术(MOLAP)的载体,按照数据的存储方式划分,通常可以划分为传统多维数据库和内存多维数据库。
[0003]其中,传统多维数据库是基于磁盘文件方式存储数据的,当海量数据计算时会产生频繁的磁盘读写,而传统多维数据库中磁盘读写的性能远低于内存中数据读写的性能,因此,传统多维数据库的计算效率会被磁盘读写大幅降低。内存多维数据库是基于内存计算的多维数据库,全部的数据常驻内存,其中,内存计算对服务器的内存资源配置要求较高,而当前内存的价格又比较昂贵。基于此,如何从多维数据库中导出数据,以节省内存资源,成为本领域技术人员较为关注的问题。
[0004]相关技术中,多维数据库提供的数据导出方法主要包括以下两种:(1)将多维数据库中的数据导出到磁盘文件。(2)通过开放数据库连接(Open Database Connectiv ...
【技术保护点】
【技术特征摘要】
1.一种数据导出方法,其特征在于,包括:配置与多维数据库的数据导出操作相关的参数,所述参数包括目标关系数据库的类型;根据所述目标关系数据库的类型确定与所述类型匹配的专有客户端开发库,并通过所述专有客户端开发库建立所述多维数据库和所述目标关系数据库的连接关系;根据所述多维数据库的多维数据立方体的维度结构创建所述目标关系数据库的事实数据表,以及根据构成所述多维数据立方体的维度的成员属性结构创建所述目标关系数据库的维度表;基于所述连接关系,执行预设的数据导出操作,将所述多维数据立方体的各个维度成员的属性数据导出至目标关系库中的所述维度表;基于所述连接关系,执行预设的数据导出操作,将所述多维数据立方体的业务数据导出至目标关系库中的所述事实数据表。2.根据权利要求1所述的数据导出方法,其特征在于,与多维数据库的数据导出操作相关的参数,包括:所述多维数据库的多维数据立方体的名称,所述目标关系数据库的IP地址,所述目标关系数据库的监听端口,所述目标关系数据库的用户名,所述目标关系数据库的密码,所述多维数据库的数据量阈值参数和所述数据导出操作的默认批量值,数据量阈值参数适用于单个维度成员属性的数据量和多维立方体的业务数据量。3.根据权利要求1所述的数据导出方法,其特征在于,根据所述多维数据库的多维数据立方体的维度结构创建所述目标关系数据库的事实数据表,以及根据构成所述多维数据立方体的维度的成员属性结构创建所述目标关系数据库的维度表,包括:自动分析所述多维数据库的多维数据立方体的维度结构,以得到分析结果;基于预设的数据量阈值参数,判断所述多维数据立方体的数据量是否为大数据量,或者单个维度的成员属性数据量是否是大数据量;若是,则根据所述分析结果自动创建测试最佳批量大小的临时关系数据库表,临时关系库表有多张表,其中,测试单个维度的成员属性数据导出的最佳批量大小的临时关系数据库表的结构与所述维度表的结构相同;测试业务数据导出的最佳批量大小的临时关系数据库表的结构与所述事实数据表的结构相同;根据所述分析结果自动创建所述目标关系数据库的事实数据表;判断所述多维数据立方体的所有维度是否分析完毕;若否,则分析所述多维数据立方体的单个维度的成员属性结构;根据所述成员属性结构的分析结果,自动创建所述目标关系数据库的单个维度的维度表。4.根据权利要求1所述的数据导出方法,其特征在于,基于所述连接关系,执行预设的数据导出操作,将所述多维数据立方体的各个维度成员的属性数据和业务数据分别导出至所述维度表和所述事实数据表,包括:根据所述多维数据立方体的单元格值的数量或者单个维度的成员个数,和预先配置的数据量阈值参数做对比,判断待导出的多维立方体总业务数据量或者单个维度的属性数据量是否超过预设阈值;若是,则针对部分数据执行不同批量大小的多批次数据导出操作,将所述部分数据导
入预先创建的临时关系数据库表,比较所述不同批量大小的导出时间,以得到最佳的批量大...
【专利技术属性】
技术研发人员:屈恩,
申请(专利权)人:北京元年科技股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。