元数据上报的调度方法、存储系统、调度装置及存储介质制造方法及图纸

技术编号:29531569 阅读:27 留言:0更新日期:2021-08-03 15:19
本发明专利技术公开了元数据上报的调度方法、存储系统、调度装置及存储介质,用以解决现有技术中存在的分布式存储系统可靠性低的技术问题,该方法包括:接收数据节点在启动阶段内发送的请求上报元数据的请求信息;其中,元数据为数据节点中描述数据块的数据;将携带有指定时间的响应信息发送给数据节点,使数据节点上报指定时间之后新增的元数据;接收并更新数据节点上报的新增的元数据。

【技术实现步骤摘要】
元数据上报的调度方法、存储系统、调度装置及存储介质
本专利技术涉及分布式存储领域,尤其是涉及元数据上报的调度方法、存储系统、调度装置及存储介质。
技术介绍
分布式存储集群通常包括存储数据的数据节点,以及为集群中的数据节点提供元数据服务的元数据管理服务器。元数据服务提供的功能包括集群成员管理、数据寻址、副本分配、负载均衡、垃圾回收等。访问集群中的任一数据节点,都需要通过元数据管理服务器,这就要求集群内的数据节点的存储块信息和元数据管理服务器中记载的元数据信息需要保持一致,否则将无法正常访问集群内的数据节点中的数据。而现有技术中,通常是基于数据节点的内存中的信息进行上报的,若数据节点的内存中的信息和数据节点的磁盘中的信息存在差异,数据节点和元数据管理服务器均未能及时感知这种差异,则一旦断电,数据节点和元数据管理服务器维护的信息将出现不一致的问题,由此导致元数据管理服务器因感知不到与数据节点的偏差,最终导致分布式存储系统出现可靠性降低的问题。
技术实现思路
本专利技术提供一种元数据上报的调度方法、存储系统、调度装置本文档来自技高网...

【技术保护点】
1.一种元数据上报的调度方法,应用于集群中的元数据管理服务器,所述集群还包括多个数据节点,其特征在于,包括:/n接收所述数据节点在启动阶段内发送的请求上报元数据的请求信息;其中,所述元数据为所述数据节点中描述数据块的数据;/n将携带有指定时间的响应信息发送给所述数据节点,使所述数据节点上报所述指定时间之后新增的元数据;/n接收并更新所述数据节点上报的所述新增的元数据。/n

【技术特征摘要】
1.一种元数据上报的调度方法,应用于集群中的元数据管理服务器,所述集群还包括多个数据节点,其特征在于,包括:
接收所述数据节点在启动阶段内发送的请求上报元数据的请求信息;其中,所述元数据为所述数据节点中描述数据块的数据;
将携带有指定时间的响应信息发送给所述数据节点,使所述数据节点上报所述指定时间之后新增的元数据;
接收并更新所述数据节点上报的所述新增的元数据。


2.如权利要求1所述的调度方法,其特征在于,还包括:
将新上线的数据节点加入元数据的汇报队列,将新下线的数据节点从所述汇报队列中删除;
定期调度所述汇报队列中的数据节点执行元数据的全量汇报;其中,所述全量汇报包括内存全量汇报和扫盘全量汇报,所述内存全量汇报是汇报所述汇报队列中当前调度的数据节点内存中的所有元数据,所述扫盘全量汇报是汇报所述当前调度的数据节点中本地磁盘的所有元数据。


3.如权利要求2所述的调度方法,其特征在于,定期调度所述汇报队列中的数据节点执行元数据的全量汇报之前,还包括:
在每个调度周期,判断所述集群中当前可执行的数据节点总数是否大于冗余节点数,获得判断结果;其中,所述当前可执行的数据节点为已上线且数据读写端口压力小的数据节点,所述冗余节点数是为当前数据读写配置的冗余数据节点的总数;
根据所述判断结果确定所述全量汇报采用的汇报形式。


4.如权利要求3所述的调度方法,其特征在于,根据所述判断结果确定所述全量汇报采用的汇报形式,包括:
若所述判断结果为所述当前可执行的数据节点总数大于所述冗余节点数,所述汇报形式为所述扫盘全量汇报;
若所述判断结果为所述当前可执行的数据节点总数小于或等于所述冗余节点数,所述汇报形式为所述内存全量汇报。


5.如权利要求3所述的调度方法,其特征在于,所述汇报队列包括优先汇报队列、普通汇报队列、超时汇报队列、延迟下发汇报队列,将新上线的数据节点加入元数据的汇报队列,将新下线的数据节点从所述汇报队列中删除,包括:
将指定节点类型的所述新上线的数据节点加入所述优先汇报队列,并设置对应的汇报条件为间隔周期达到第一预设时长和当前并发执行所述全量汇报的数据节点总数未达到预设并发数;
将已完成汇报的数据节点移入所述普通汇报队列,以及将所述指定节点类型外的其它节点类型的所述新上线的数据节点加入所述普通汇报队列,并设置对应的汇报条件为间隔周期达到第二预设时长;
将在进行全量汇报时超过设定时长仍未完成汇报的数据节点移入所述超时汇报队列;
将所述超时汇报队列中经历一轮汇报仍未完成汇报的数据节点移入所述延迟下发汇报队列;其中,所述延迟汇报队列中的数据节点在当前并发执行所述全量汇报的数据节点总数未达到所述预设并发数时执行。


6.如权利要求5所述的调度方法,其特征在于,定期调度所述汇报队列中的数据节点执行元数据的全量汇报,包括:
依次对所述优先汇报队列、所述普通汇报队列、所述超时汇报队列、所述...

【专利技术属性】
技术研发人员:江瑜邱小冬罗心江文龙周明伟李丛
申请(专利权)人:浙江大华技术股份有限公司
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1