大数据报表导出方法及相关设备技术

技术编号:28035281 阅读:31 留言:0更新日期:2021-04-09 23:17
本发明专利技术涉及数据处理,提供一种大数据报表导出方法及相关设备。该方法能够将日志写入初始子库中,执行初始子库中的日志,得到准实时子库,从报表导出请求中确定待导出对象,若待导出对象属于大数据量级,获取时间限值,根据时间限值从准实时子库中确定多个目标子库,根据多个目标子库的子库数量将待导出对象划分为多个数据组,获取每个数据组的起始标识及结束标识,依据起始标识及结束标识从多个目标子库中并行读取数据,得到导出数据,获取预设数据表,并将导出数据写入预设数据表中,得到目标报表。本发明专利技术能够在避免内存溢出的前提下,快速导出具有大数据量级的目标报表。此外,本发明专利技术还涉及区块链技术,所述目标报表可存储于区块链中。

【技术实现步骤摘要】
大数据报表导出方法及相关设备
本专利技术涉及数据处理
,尤其涉及一种大数据报表导出方法及相关设备。
技术介绍
业内常见的报表系统如JasperReports、BIRT、FineReport、JFreeReport、PentahoReporting、Spagobi等,在数据安全、视觉交互、可视化模板、大屏展示等方面具有强大的功能,但是,这些报表系统在导出大数据量级的报表时,会发生堆内存溢出而造成报表系统无法正常响应。
技术实现思路
鉴于以上内容,有必要提供一种大数据报表导出方法及相关设备,能够在避免内存溢出的前提下,快速导出具有大数据量级的目标报表。一方面,本专利技术提出一种大数据报表导出方法,所述大数据报表导出方法包括:检测预设主库中是否有日志生成,若是,则将生成的所述日志写入与所述预设主库对应的初始子库中,执行所述初始子库中的所述日志,得到与所述初始子库对应的准实时子库;接收报表导出请求,从所述报表导出请求中确定待导出对象,并判断所述待导出对象是否属于大数据量级;若所述待导出对象属于大本文档来自技高网...

【技术保护点】
1.一种大数据报表导出方法,其特征在于,所述大数据报表导出方法包括:/n检测预设主库中是否有日志生成,若是,则将生成的所述日志写入与所述预设主库对应的初始子库中,执行所述初始子库中的所述日志,得到与所述初始子库对应的准实时子库;/n接收报表导出请求,从所述报表导出请求中确定待导出对象,并判断所述待导出对象是否属于大数据量级;/n若所述待导出对象属于大数据量级,则从所述报表导出请求中获取时间限值;/n根据所述时间限值从所述准实时子库中确定多个目标子库;/n根据所述多个目标子库的子库数量将所述待导出对象划分为多个数据组,并获取每个数据组的起始标识及结束标识;/n依据所述起始标识及所述结束标识从所述...

【技术特征摘要】
1.一种大数据报表导出方法,其特征在于,所述大数据报表导出方法包括:
检测预设主库中是否有日志生成,若是,则将生成的所述日志写入与所述预设主库对应的初始子库中,执行所述初始子库中的所述日志,得到与所述初始子库对应的准实时子库;
接收报表导出请求,从所述报表导出请求中确定待导出对象,并判断所述待导出对象是否属于大数据量级;
若所述待导出对象属于大数据量级,则从所述报表导出请求中获取时间限值;
根据所述时间限值从所述准实时子库中确定多个目标子库;
根据所述多个目标子库的子库数量将所述待导出对象划分为多个数据组,并获取每个数据组的起始标识及结束标识;
依据所述起始标识及所述结束标识从所述多个目标子库中并行读取数据,得到导出数据;
获取与所述报表导出请求对应的预设数据表,并将所述导出数据写入所述预设数据表中,得到目标报表。


2.如权利要求1所述的大数据报表导出方法,其特征在于,所述将所述日志写入与所述预设主库对应的初始子库中包括:
获取所述预设主库的主库标识,并获取数据库映射表;
从所述数据库映射表中获取与所述主库标识对应的子库标识;
根据所述子库标识确定所述初始子库,并确定所述初始子库的初始数量;
根据所述初始数量从预设线程池中调用闲置线程,所述闲置线程的线程数量等于所述初始数量;
利用所述闲置线程将所述日志并行写入所述初始子库。


3.如权利要求1所述的大数据报表导出方法,其特征在于,所述执行所述初始子库中的所述日志,得到与所述初始子库对应的准实时子库包括:
解析所述日志,得到所述日志的数据操作;
在所述初始子库上执行所述数据操作,得到所述准实时子库。


4.如权利要求1所述的大数据报表导出方法,其特征在于,所述从所述报表导出请求中确定待导出对象,并检测所述待导出对象是否属于大数据量级包括:
解析所述报表导出请求的报文,得到所述报文携带的数据信息;
从所述数据信息中获取用于指示对象的信息作为所述待导出对象;
获取所述待导出对象的数据量;
当所述数据量大于或者等于配置值时,确定所述待导出对象属于所述大数据量级。


5.如权利要求4所述的大数据报表导出方法,其特征在于,所述根据所述时间限值从所述准实时子库中确定多个目标子库包括:
将所述数据量除以所述时间限值,得到数据处理速率;
确定所述准实时子库的平均处理...

【专利技术属性】
技术研发人员:刘耀晖
申请(专利权)人:平安普惠企业管理有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1