一种数据导出方法、装置、电子设备及存储介质制造方法及图纸

技术编号:33016117 阅读:73 留言:0更新日期:2022-04-15 08:48
本申请提供一种数据导出方法、装置、电子设备及存储介质,在获取到携带有第一数据选取条件的第一数据查询请求后,从第一数据查询请求中提取第一数据选取条件,根据第一数据选取条件和预设重构条件,重构数据查询请求,得到至少两条第二数据查询请求,并行处理至少两条第二数据查询请求,以导出至少两条第二数据查询请求各自对应的数据,由此针对任一数据库可以发送一次第一数据查询请求,并利用第一数据查询请求构建出的多条第二数据查询请求来并行导出数据,以在不提高负载的基础上提高数据导出效率。导出效率。导出效率。

【技术实现步骤摘要】
一种数据导出方法、装置、电子设备及存储介质


[0001]本申请属于数据处理
,尤其涉及一种数据导出方法、装置、电子设备及存储介质。

技术介绍

[0002]随着计算机信息技术发展,搜索服务器能够提供数据存储服务和引擎服务,如Elasticsearch(一个基于Lucene的搜索服务器)可以进行数据存储和提供引擎服务,搜索服务器存储的数据应数据备份或数据交换的业务需要从搜索服务器中导出。
[0003]目前针对搜索服务器的数据导出包括两种方式:一种方式是生成与搜索服务器中的数据库对应的多个数据查询请求,向数据库依次发送数据查询请求,在每接收到一个数据查询请求导出与数据查询请求匹配的数据,这种方式需要频繁发送数据查询请求,提高搜索服务器的负载;
[0004]另一种方式是针对数据库的任一索引生成一个数据查询请求,由单个线程执行数据查询请求,导出索引对应的数据,相对于上述方式虽然不需要频繁发送数据查询请求,但是大量数据都通过单个线程导出,降低数据导出效率。

技术实现思路

[0005]有鉴于此,本申请的目的在于提供一种数本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据导出方法,其特征在于,所述方法包括:获取携带有第一数据选取条件的第一数据查询请求;从所述第一数据查询请求中提取所述第一数据选取条件;根据所述第一数据选取条件和预设重构条件,重构数据查询请求,得到至少两条第二数据查询请求,每条第二数据查询请求携带有所述第一数据选取条件和所述预设重构条件对应的第二数据选取条件,且每条第二数据查询请求携带的第二数据选取条件不同;并行处理所述至少两条第二数据查询请求,以导出所述至少两条第二数据查询请求各自对应的数据。2.根据权利要求1所述的方法,其特征在于,所述根据所述第一数据选取条件和预设重构条件,重构数据查询请求,得到至少两条第二数据查询请求包括:获取所述预设重构条件指示的字段对应的至少两个字段值;根据所述至少两个字段值,得到至少两个所述第二数据选取条件,所述第二数据选取条件用于对所述第一数据选取条件所要导出的数据进行拆分;以所述第二数据选取条件和所述第一数据选取条件作为第二数据查询请求中的请求内容,构建每个所述第二数据选取条件对应的第二数据查询请求。3.根据权利要求2所述的方法,其特征在于,所述获取所述预设重构条件指示的字段对应的至少两个字段值包括:若所述预设重构条件指示的字段为数字型字段,获取所述预设重构条件中携带的至少两个导出数据量,所述导出数据量指示处理所述第二数据查询请求的执行对象从数据库中导出的数据量;确定所述数据库中与每个所述导出数据量对应的目标位置;获取位于每个所述目标位置的数据中所述预设重构条件指示的字段的字段值。4.根据权利要求3所述的方法,其特征在于,所述预设重构条件中携带的至少两个导出数据量根据处理所述第二数据查询请求的执行对象的数量确定。5.根据权利要求2所述的方法,其特征在于,所述获取所述预设重构条件指示的字段对应的至少两个字段值包括:若所述预设重构条件指示的字段为字符型字段,获取所述预设重构条件中携带的关键词;将所述关键词中的至少一个作为所述预设重构条件指示的字段对应的字段值。6.一种数据导出装置,其特征在于,所述装置包括:获取单元...

【专利技术属性】
技术研发人员:钟文军
申请(专利权)人:北京金山云网络技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1