一种数据查询方法、装置及可读存储介质制造方法及图纸

技术编号:35952903 阅读:12 留言:0更新日期:2022-12-14 10:46
本申请公开一种数据查询方法、装置及可读存储介质,涉及电子信息领域。本申请所提供的数据查询方法,应用于源站点,通过从目标站点中获取日志分片中的同步标记,从而获取得到对应的桶,将桶的名称发送至对应的目标站点,从而获取得到目标站点中对应的同步中的桶的配额以及源站点中的对应的桶的配额,依据两者的比值,即可获取得到对应的同步进度,对于同步速度的获取也可以通过联系周期时间获取,和以往的仅仅通过软件进行数据查询相比,由于能直接获取得到同步的进度以及速度,因此解决了当前数据同步功能中无法精准查询源站点和目的站点之间数据同步进度和速度的难题。站点之间数据同步进度和速度的难题。站点之间数据同步进度和速度的难题。

【技术实现步骤摘要】
一种数据查询方法、装置及可读存储介质


[0001]本申请涉及电子信息领域,特别是涉及一种数据查询方法、装置及可读存储介质。

技术介绍

[0002]近年来,随着数据传输业务的发展,数据查询是当前的分布式对象存储系统中一个很重要的功能,目前已应用于不同行业领域的多个市场项目,为企业的稳定发展带来不可或缺的正向推动作用。以A、B两站点为例,客户将前端业务对接到A站点,即数据写入A站点,然后A站点数据会同步至B站点进行备份。数据写入能够最大支撑512个线程并发,而数据查询一般只有一个线程在执行。
[0003]现有的纳管逻辑中,当前的数据查询提供了数据查询状态查询功能,总共包含三种同步状态:初始化、同步中、同步完成。当数据查询状态处于同步中时,还可看到剩余片区数量以及具体的剩余片区。当前的分布式对象存储数据查询功能,尚未提供一种有效且直观的方法,让用户以及运维人员能方便快速的了解数据查询进度和速度。业务站点的数据在源源不断的写入,没有明确的起止时间,且无法预知总共有多少数据要同步,此外数据查询也在时刻进行,且速度不均衡,从而无法直观查询得到对应的同步进度。
[0004]鉴于上述技术,寻找一种较为直观的数据查询方法是本领域技术人员亟待解决的问题。

技术实现思路

[0005]本申请的目的是提供一种数据查询方法、装置及可读存储介质,以便于解决业务站点的数据在源源不断的写入,没有明确的起止时间,且无法预知总共有多少数据要同步,此外数据查询也在时刻进行,且速度不均衡,从而无法直观查询得到对应的同步进度的问题。
[0006]为解决上述技术问题,本申请提供一种数据查询方法,应用于源站点,所述方法包括:
[0007]读取目标站点的存储池中保存的所有日志分片的同步标记;
[0008]根据所述同步标记获取得到所有需要同步数据的桶的名称并发送给所述目标站点,以便于所述目标站点保存所述桶并记录所述目标站点中的所述桶的配额;
[0009]获取所述源站点中的所述桶的配额并发送至目标站点,以便于所述目标站点通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度。
[0010]优选地,所述根据所述同步标记获取得到所有需要同步数据的桶的名称并发送给所述目标站点包括:
[0011]解析出所要查询的所述日志分片,然后根据请求中携带的同步标记,向当前存储池发出列举所述日志分片的条目的请求,并从指定所述同步标记开始列举,直到列举出所述日志分片上的所有条目;
[0012]依次解析每个列举出来的所述条目,获取所述条目的日志所对应的桶分片,根据所述桶分片名称确定出所述桶分片所对应的所述桶的名称;
[0013]将解析得到的所有需要同步数据的所述桶的名称发送给目标站点。
[0014]优选地,所述读取目标站点的存储池中保存的所有日志分片的同步标记包括:
[0015]获取所述日志分片的同步标记发送的http请求,解析所述http请求得到对应的所述同步标记。
[0016]为解决上述问题,本申请还提供一种数据查询方法,应用于目标站点,所述方法包括:
[0017]获取存储池中保存的所有日志分片的同步标记并发送给源站点;
[0018]获取所述源站点根据所述同步标记得到所有需要同步数据的桶的名称;
[0019]保存所述桶并记录所述目标站点中的所述桶的配额;
[0020]获取所述源站点中的所述桶的配额,通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度。
[0021]优选地,在所述保存所述桶并记录所述目标站点中的所述桶的配额之后,还包括:
[0022]将所述桶的信息发送到管理软件展示,以便于用户查看;
[0023]在所述通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度之后,还包括:
[0024]将所述数据同步的进度发送到所述管理软件展示,以便于用户查看。
[0025]优选地,在所述通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度之后,还包括:
[0026]将正在同步数据的桶的目的站点的配额总和,与上个查询周期保存的所述目的站点的配额总进行对比,并除以所述查询周期,得出集群整体的同步速度。
[0027]为解决上述问题,本申请还提供一种数据查询装置,应用于源站点,包括:
[0028]读取模块,用于读取目标站点的存储池中保存的所有日志分片的同步标记;
[0029]发送模块,用于根据所述同步标记获取得到所有需要同步数据的桶的名称并发送给所述目标站点,以便于所述目标站点保存所述桶并记录所述目标站点中的所述桶的配额;
[0030]配额模块,用于获取所述源站点中的所述桶的配额并发送至目标站点,以便于所述目标站点通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度。
[0031]为解决上述问题,本申请提供一种数据查询装置,应用于目标站点,包括:
[0032]获取模块,用于获取存储池中保存的所有日志分片的同步标记并发送给源站点;
[0033]同步模块,用于获取所述源站点根据所述同步标记得到所有需要同步数据的桶的名称;
[0034]保存模块,用于保存所述桶并记录所述目标站点中的所述桶的配额;
[0035]比对模块,用于获取所述源站点中的所述桶的配额,通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度。
[0036]为解决上述问题,本申请还提供一种数据查询装置,包括存储器,用于存储计算机程序;
[0037]处理器,用于执行所述计算机程序时实现如上述的数据查询方法的步骤。
[0038]为解决上述问题,本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述的数据查询方法的步骤。
[0039]本申请所提供的数据查询方法,应用于源站点,通过从目标站点中获取日志分片中的同步标记,从而获取得到对应的桶,将桶的名称发送至对应的目标站点,从而获取得到目标站点中对应的同步中的桶的配额以及源站点中的对应的桶的配额,依据两者的比值,即可获取得到对应的同步进度,对于同步速度的获取也可以通过联系周期时间获取,和以往的仅仅通过软件进行数据查询相比,由于能直接获取得到同步的进度以及速度,因此解决了当前数据同步功能中无法精准查询源站点和目的站点之间数据同步进度和速度的难题,优化了数据同步功能,给用户带来更好的使用体验,使得数据同步出现异常时,能够及时进行调整。
[0040]本申请提供的应用于目标站点的数据查询方法、数据查询装置及计算机可读存储介质,与上述的数据查询检测方法对应,有益效果同上。
附图说明
[0041]为了更清楚地说明本申请实施例,下面将对实施例中所需要使用的附本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据查询方法,其特征在于,应用于源站点,所述方法包括:读取目标站点的存储池中保存的所有日志分片的同步标记;根据所述同步标记获取得到所有需要同步数据的桶的名称并发送给所述目标站点,以便于所述目标站点保存所述桶并记录所述目标站点中的所述桶的配额;获取所述源站点中的所述桶的配额并发送至所述目标站点,以便于所述目标站点通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度。2.根据权利要求1所述的数据查询方法,其特征在于,所述根据所述同步标记获取得到所有需要同步数据的桶的名称并发送给所述目标站点包括:解析出所要查询的所述日志分片,然后根据请求中携带的所述同步标记,向当前存储池发出列举所述日志分片的条目的请求,并从指定所述同步标记开始列举,直到列举出所述日志分片上的所有的所述条目;依次解析每个列举出来的所述条目,获取所述条目的日志所对应的桶分片,根据所述桶分片名称确定出所述桶分片所对应的所述桶的名称;将解析得到的所有需要同步数据的所述桶的名称发送给所述目标站点。3.根据权利要求2所述的数据查询方法,其特征在于,所述读取目标站点的存储池中保存的所有日志分片的同步标记包括:获取所述日志分片的所述同步标记发送的http请求,解析所述http请求得到对应的所述同步标记。4.一种数据查询方法,其特征在于,应用于目标站点,所述方法包括:获取存储池中保存的所有日志分片的同步标记并发送给源站点;获取所述源站点根据所述同步标记得到所有需要同步数据的桶的名称;保存所述桶并记录所述目标站点中的所述桶的配额;获取所述源站点中的所述桶的配额,通过对所述目标站点中所述桶的配额以及所述源站点中的所述桶的配额进行比对得到数据同步的进度。5.根据权利要求4所述的数据查询方法,其特征在于,在所述保存所述桶并记录所述目标站点中的所述桶的配额之后,还包括:将所述桶的信息发送到管理软件展示,以便于用户查看;在所述通过...

【专利技术属性】
技术研发人员:李欢欢赵煜何文龙陶桐桐
申请(专利权)人:济南浪潮数据技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1