System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据处理方法、装置、存储节点、系统及存储介质制造方法及图纸_技高网

数据处理方法、装置、存储节点、系统及存储介质制造方法及图纸

技术编号:40541154 阅读:6 留言:0更新日期:2024-03-05 18:56
本申请提供一种数据处理方法、装置、存储节点、系统及存储介质,可应用于分布式系统的存储节点中,该存储节点运行至少一个文件系统来管理存储节点中的数据。该方法包括:存储节点在获取第一快照查询请求后,解析第一快照查询请求是用于指示查询至少一个文件系统中的第一文件系统中数据的快照,则根据第一快照查询请求的索引在第一文件系统中查询快照对应的第一快照配置信息,并返回快照配置信息。从而,每个文件系统均在自身存储和查询文件系统内的快照配置信息,避免多个文件系统的快照配置信息集中存储于通用数据库,利用文件系统分担了通用数据库的数据存储和处理压力,解决了快照配置信息导致通用数据库性能下降,快照处理效率较低的问题。

【技术实现步骤摘要】

本申请涉及数据存储领域,尤其涉及数据处理方法、装置、存储节点、系统及存储介质


技术介绍

1、网络附属存储(network attached storage,nas)是一种文件级存储架构,即存储节点通过网络连接,使访问端可以通过网络进行数据读写的存储架构。快照(snapshot)是关于指定数据集合的一个完全可用拷贝,该拷贝包括相应数据在某个时间点(拷贝开始的时间点)的映像。为避免nas中文件系统的数据出现损坏,通常nas的存储侧定时生成存储侧中数据的快照。nas的存储侧内置的通用数据库用于记录快照配置信息,快照配置信息用于向用户展示快照的生成日期等信息。但是,通用数据库存储大量的快照配置信息,通用数据库对快照配置信息进行查询和删除等处理时需要从大量的快照配置信息中确定目标快照配置信息会降低通用数据库查询快照的速度并占用通用数据库的大量计算资源,导致通用数据库的性能降低,从而带来快照处理效率较低的问题。


技术实现思路

1、本申请提供一种数据处理方法、装置、存储节点、系统及存储介质,能够解决快照配置信息导致通用数据库性能下降,快照处理效率较低的问题。

2、第一方面,提供一种数据处理方法。该数据处理方法应用于存储节点,存储节点包括至少一个分布式的文件系统,包括:当存储节点在接收到第一快照查询请求,根据第一快照查询请求包含的索引在该存储节点本地的第一文件系统中查询快照的第一快照配置信息,并发送查询到的第一快照配置信息。其中,第一快照查询请求用于指示查询存储节点的至少一个文件系统中的第一文件系统中数据的快照。

3、如此,相对于将分布式系统中不同存储节点的快照配置信息存储于用于记录与存储数据相关的所有配置信息的通用数据库中,导致通用数据库对快照配置信息进行查询和删除等处理时需要从大量的快照配置信息中确定目标快照配置信息,会降低通用数据库查询快照的速度。本申请提供的方案是存储节点中的每个用于存储数据和快照的文件系统各自存储自身包含的数据、数据的快照以及快照的快照配置信息,利用文件系统分担了通用数据库的数据存储和数据处理的压力,使存储节点能够在各个文件系统中处理快照配置信息,提高了快照配置信息的查询效率。

4、其中,文件系统用于管理存储于文件系统中的多个快照的多个快照配置信息,不同的快照配置信息是文件系统管理的不同的文件。快照配置信息是用于描述快照的信息,与文件系统中部分或全部数据的快照一同生成并存储于该文件系统中。用户查询快照时能够根据存储节点返回的快照配置信息获知快照的信息,例如用户指定的时间段内是否存在快照,以及快照及快照配置信息在比用户指定的时间段内更小的哪一时间段内生成等。

5、作为一种可能的实现方式,快照配置信息包括快照的生成时间和标识中的至少一个。可选地,快照配置信息的生成时间也可以是视为快照配置信息的标识,或者存储节点将快照配置信息在文件系统的内部序列号作为快照配置信息的标识。

6、基于上述实现方式,快照查询请求的索引包含快照配置信息的标识,存储节点能够在根据快照查询请求进行快照查询时,使用快照配置信息的标识在文件系统中匹配快照配置信息,从而提高快照配置信息的查询效率和准确率。

7、作为一种可能的实现方式,存储节点中第一文件系统的快照是根据用户设置的定时快照策略生成的,该定时快照策略用于指示生成第一文件系统中部分或全部数据的快照,以及生成快照的时刻或周期。

8、可选地,存储节点在生成快照的同时生成该快照的快照配置信息,并采用文件树状组织结构存储快照配置信息。存储节点在第一文件系统中创建第一存储目录,根据快照的生成时间将快照配置信息存储于第一存储目录的不同子目录中。例如,子目录包含至少一个文件层级,每个文件层级对应一个时间粒度。时间粒度包括年、月、日,生成时间为a年b月c日的第一快照配置信息所属的子目录包含的文件层级依次是文件名为“a年”的文件夹、文件名为“b月”的文件夹以及文件名为“c日”的文件夹,文件夹“b月”是文件夹“a年”的子目录中的一个,“c日”是文件夹“b月”的子目录中的一个,生成时间为a年b月c日的第一快照配置信息存储于文件夹“c日”中。

9、存储节点在根据第一快照查询请求包含的索引在第一文件系统中查询第一快照配置信息,即从文件系统管理的多个快照配置信息中获取第一快照配置信息。存储节点根据第一快照配置信息的标识确定第一快照配置信息的第一内部目录路径,根据第一内部目录路径确定第一快照配置信息。例如,第一内部目录路径为文件夹“a年”—>文件夹“b月”—>文件夹“c日”—>第一快照配置信息。

10、由此,文件系统在能够在用户查询快照时,向用户返回第一存储目录的不同文件层级的子目录,以便用户按照时间粒度从大到小的顺序确定文件系统中存储有哪些时间段生成的快照及快照配置信息,且文件系统能够基于快照配置信息的生成时间在树状结构中逐层匹配快照配置信息,进一步提高了快照配置信息的查询效率。

11、作为一种可能的实现方式,第一存储目录包含的子目录中还存储有指示信息,该指示信息用于指示第一快照配置信息为失效状态或有效状态。存储节点能够根据快照查询信息查询处于有效状态的第一快照配置信息,无法查询处于失效状态的快照配置信息。

12、可选地,存储节点所配置的第一文件系统的定时快照策略,还可以用于指示周期性地删除快照及第一快照配置信息。

13、例如,存储节点将已生成时长超过预设时长的快照配置信息的指示信息修改为失效状态,则存储节点无法查询于失效状态的快照配置信息,快照配置信息对应的快照视为已删除。在一条快照配置信息被设置为失效状态时,存储节点可以暂时不执行快照配置信息的删除动作,而是在预设时间粒度对应的文件层级中的快照配置信息均处于失效状态时删除预设时间粒度对应的文件层级。从而在快照配置信息删除动作的频率较高时减少删除操作的执行次数,减少快照配置信息的删除操作对存储节点的计算资源的占用。

14、作为一种可能的实现方式,存储节点可以根据第一存储目录的各文件层级逐层返回第一快照配置信息所属的子目录,也可以基于第一快照配置信息的标识向客户端放回精确匹配的第一快照配置信息。

15、例如,存储节点在接收到的第一快照查询请求的索引包含第一快照配置信息所属的子目录的某一文件层级的标识时,根据该文件层级的标识生成内部目录路径,并向客户端发送该内部目录路径的下一文件层级包含的子目录的标识,从而逐层返回子目录的标识,直至用户使用客户端确定要查询的第一快照配置信息,向客户端返回第一快照配置信息。

16、又如,存储节点在接收到的第一快照查询请求的索引包含第一快照配置信息的标识时,根据标识在第一存储目录中匹配第一快照配置信息,向客户端返回第一快照配置信息。

17、可选地,第一存储目录对发起第一快照查询请求的发送者是不可见的,以避免向用户显示目录繁杂的各文件层级,使用户能够在存储节点返回的信息中快速、准确地确定需要查询的数据。

18、作本文档来自技高网...

【技术保护点】

1.一种快照管理方法,其特征在于,应用于存储节点,所述存储节点运行至少一个文件系统,所述至少一个文件系统用于管理所述存储节点中的数据,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述文件系统用于管理存储于所述文件系统中的多个快照的多个快照配置信息,不同的快照配置信息是所述文件系统管理的不同的文件。

3.根据权利要求2所述的方法,其特征在于,所述在所述第一文件系统中查询所述快照的第一快照配置信息,包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述第一快照配置信息包括所述快照的生成时间和标识中的至少一个。

5.根据权利要求1-3中任一项所述的方法,其特征在于,所述索引包括所述第一快照配置信息的标识。

6.根据权利要求4或5所述的方法,其特征在于,所述在所述获取快照查询请求之前,所述方法还包括:

7.根据权利要求6所述的方法,其特征在于,所述子目录还包括指示信息,所述指示信息用于指示所述第一快照配置信息为有效状态或失效状态。

8.根据权利要求3所述的方法,其特征在于,所述索引包含所述第一快照配置信息的标识,所述根据所述快照查询请求包含的索引在所述第一文件系统中查询所述快照的第一快照配置信息,包括:

9.根据权利要求7所述的方法,其特征在于,所述方法还包括:

10.根据权利要求1-9中任一项所述的方法,其特征在于,所述第一存储目录对发起所述第一快照查询请求的客户端是不可见的。

11.根据权利要求1-10中任一项所述的方法,其特征在于,还包括:

12.一种数据处理装置,其特征在于,设置于存储节点,所述存储节点运行至少一个文件系统,所述至少一个文件系统用于管理所述存储节点中的数据,所述装置包括:

13.根据权利要求12所述的装置,其特征在于,所述文件系统用于管理存储于所述文件系统中的多个快照的多个快照配置信息,不同的快照配置信息是所述文件系统管理的不同的文件。

14.根据权利要求13所述的装置,其特征在于,所述处理模块在所述第一文件系统中查询所述快照的第一快照配置信息时,具体用于:

15.根据权利要求12-14中任一项所述的装置,其特征在于,所述第一快照配置信息包括所述快照的生成时间和标识中的至少一个。

16.根据权利要求12-14中任一项所述的装置,其特征在于,所述索引包括所述第一快照配置信息的标识。

17.根据权利要求15或16所述的装置,其特征在于,所述处理模块在获取快照查询请求之前,还用于:

18.根据权利要求17所述的装置,其特征在于,所述子目录还包括指示信息,所述指示信息用于指示所述第一快照配置信息为有效状态或失效状态。

19.根据权利要求12所述的装置,其特征在于,所述索引包含所述第一快照配置信息的标识,所述处理模块在根据所述快照查询请求包含的索引在所述第一文件系统中查询所述快照的第一快照配置信息时,具体用于:

20.根据权利要求19所述的装置,其特征在于,所述处理模块还用于:

21.根据权利要求12-20中任一项所述的装置,其特征在于,所述第一存储目录对发起所述第一快照查询请求的客户端是不可见的。

22.根据权利要求12-21中任一项所述装置,其特征在于,所述收发模块还用于获取第二快照查询请求,所述第二快照查询请求用于指示查询所述至少一个文件系统中的第二文件系统中数据的快照,所述处理模块还用于根据所述第二快照查询请求包含的索引,在所述第二文件系统中查询所述快照的第二快照配置信息,所述收发模块还用于响应于所述第二快照查询请求,返回所述第二快照配置信息,所述第二快照配置信息是用于描述所述快照的信息。

23.一种存储节点,其特征在于,所述存储节点包括存储器和至少一个处理器,所述存储器用于存储一组计算机指令;当所述处理器执行所述一组计算机指令时,执行上述权利要求1至11中任一所述的方法的操作步骤。

24.一种存储系统,其特征在于,所述存储系统包括主机和如权利要求23所述的存储节点,所述主机用于向所述存储节点发送快照查询请求,所述存储节点用于在接收到所述快照查询请求时,执行上述权利要求1至11中任一所述的方法的操作步骤,来向所述主机返回快照配置信息。

25.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括计算机程序或指令,当所述计算机程序或指令在计算机上运行时,使得所述计算机执行上述权利要求1至11中任一所述的方法的操作步骤。

...

【技术特征摘要】

1.一种快照管理方法,其特征在于,应用于存储节点,所述存储节点运行至少一个文件系统,所述至少一个文件系统用于管理所述存储节点中的数据,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述文件系统用于管理存储于所述文件系统中的多个快照的多个快照配置信息,不同的快照配置信息是所述文件系统管理的不同的文件。

3.根据权利要求2所述的方法,其特征在于,所述在所述第一文件系统中查询所述快照的第一快照配置信息,包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述第一快照配置信息包括所述快照的生成时间和标识中的至少一个。

5.根据权利要求1-3中任一项所述的方法,其特征在于,所述索引包括所述第一快照配置信息的标识。

6.根据权利要求4或5所述的方法,其特征在于,所述在所述获取快照查询请求之前,所述方法还包括:

7.根据权利要求6所述的方法,其特征在于,所述子目录还包括指示信息,所述指示信息用于指示所述第一快照配置信息为有效状态或失效状态。

8.根据权利要求3所述的方法,其特征在于,所述索引包含所述第一快照配置信息的标识,所述根据所述快照查询请求包含的索引在所述第一文件系统中查询所述快照的第一快照配置信息,包括:

9.根据权利要求7所述的方法,其特征在于,所述方法还包括:

10.根据权利要求1-9中任一项所述的方法,其特征在于,所述第一存储目录对发起所述第一快照查询请求的客户端是不可见的。

11.根据权利要求1-10中任一项所述的方法,其特征在于,还包括:

12.一种数据处理装置,其特征在于,设置于存储节点,所述存储节点运行至少一个文件系统,所述至少一个文件系统用于管理所述存储节点中的数据,所述装置包括:

13.根据权利要求12所述的装置,其特征在于,所述文件系统用于管理存储于所述文件系统中的多个快照的多个快照配置信息,不同的快照配置信息是所述文件系统管理的不同的文件。

14.根据权利要求13所述的装置,其特征在于,所述处理模块在所述第一文件系统中查询所述快照的第一快照配置信息时,具体用于:

15.根据权利要求12-14中任一项所述的装置,其特征在于,所...

【专利技术属性】
技术研发人员:杜翔
申请(专利权)人:成都华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1