一种分布式文件系统的数据迁移控制方法及相关装置制造方法及图纸

技术编号:26170792 阅读:71 留言:0更新日期:2020-10-31 13:40
本申请公开了一种分布式文件系统的数据迁移控制方法,包括:元数据服务器向第一客户端发送迁移任务,以便第一客户端按照文件顺序逐个申请读权限并进行数据迁移操作;当接收到第二客户端发送的当前迁移文件的写权限申请时,根据写权限申请将第一客户端的当前迁移文件对应的读权限回收,以便第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作。通过当前迁移文件进行写权限申请时,将该文件对应的读权限回收,以便第一客户端将该迁移文件的迁移操作撤销,避免了迁移过程中因数据修改出现的数据错误问题,提高了文件系统的可靠性。本申请还公开了一种数据迁移控制装置、服务器以及计算机可读存储介质,具有以上有益效果。

【技术实现步骤摘要】
一种分布式文件系统的数据迁移控制方法及相关装置
本申请涉及分布式文件系统
,特别涉及一种分布式文件系统的数据迁移控制方法、数据迁移控制装置、服务器以及计算机可读存储介质。
技术介绍
随着信息技术的不断发展,为了提高数据存储的性能,现有技术提出了一种分布式文件系统,多个文件存储节点服务器构成的集群,文件切块存储,以对象为基本单位,支持一份数据存储在多个节点上,每个节点通过节点间通信都可以获取到完整的数据,当节点出现宕机时根据配置的策略可以进行完整数据的恢复,具有高可用、高性能、高扩展性等特点,其中每个节点都提供元数据服务即MDS(MetadataServe元数据服务器),用于元数据的各种访问操作,均衡业务压力。现有技术中,在分布式文件系统中进行数据迁移,需要考虑考虑迁移性能,需要文件并发迁移,MDS准备批量文件的迁移任务,任务中包含多个待迁移的文件信息(包括文件、原池子、目的池子、迁移大小等),MDS准备好任务后发送给迁移客户端,迁移客户端收到迁移任务后执行文件从原池子到目的池子的迁移,文件迁移具体步骤:步骤1,首先将文件根基迁移大小从原池子将指定大小的数据复制到目的池子,复制完成后集群中该文件在原池子和目的池子各存一份数据;步骤2,迁移客户端通知MDS更新文件的池子属性信息;步骤3,MDS更新完成后应答迁移客户端,迁移客户端收到应答清理原池子数据,至此只有目的池子有一份数据,文件迁移完成;步骤4,迁移客户端迁移完整个任务后,应答MDS,MDS继续下一个任务;当时,在迁移任务已经下发给迁移客户端后,文件迁移过程中,即数据从源池子复制到目的池子过程中,文件数据有可能被其他客户端访问被修改,此时复制的数据属于过期数据,如果继续复制则会导致数据不一致问题,出现数据迁移错误等问题,降低了文件系统的存储可靠性。因此,如何在数据迁移过程中避免因数据修改出现的数据错误问题是本领域技术人员关注的重点问题。
技术实现思路
本申请的目的是提供一种分布式文件系统的数据迁移控制方法、数据迁移控制装置、服务器以及计算机可读存储介质,通过元数据服务器先向第一客户端发送迁移任务使第一客户端执行该迁移任务,然后在对当前迁移文件进行写权限申请时,将该文件对应的读权限回收,以便第一客户端将该迁移文件的迁移操作撤销,避免了迁移过程中因数据修改出现的数据错误问题,提高了文件系统的可靠性。为解决上述技术问题,本申请提供一种分布式文件系统的数据迁移控制方法,包括:元数据服务器向第一客户端发送迁移任务,以便所述第一客户端按照文件顺序逐个申请读权限并进行数据迁移操作;当接收到第二客户端发送的当前迁移文件的写权限申请时,根据所述写权限申请将所述第一客户端的所述当前迁移文件对应的读权限回收,以便所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作。可选的,还包括:当接收到所述第一客户端发送的读权限申请时,根据所述读权限申请向所述第一客户端发送读权限的授权消息。可选的,还包括:当接收到所述第二客户端发送的写权限申请时,判断所述写权限申请对应的文件是否为当前迁移文件;若是,则执行将所述第一客户端对应的读权限回收的操作。可选的,所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作,包括:当所述第一客户端的读权限被回收时,所述第一客户端根据所述读权限确定对应的被修改文件;对所述被修改文件设置撤销标记;控制迁移线程当处理到设置有撤销标记的迁移文件时,撤销该迁移文件的迁移操作。可选的,还包括:所述第一客户端将已撤销迁移操作的文件的数据进行清除。本申请还提供一种分布式文件系统的数据迁移控制装置,包括:数据迁移模块,用于向第一客户端发送迁移任务,以便所述第一客户端按照文件顺序逐个申请读权限并进行数据迁移操作;数据权限回收模块,用于当接收到第二客户端发送的当前迁移文件的写权限申请时,根据所述写权限申请将所述第一客户端的所述当前迁移文件对应的读权限回收,以便所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作。可选的,还包括:读权限授权模块,用于当接收到所述第一客户端发送的读权限申请时,根据所述读权限申请向所述第一客户端发送读权限的授权消息。可选的,还包括:写权限申请判断模块,用于当接收到所述第二客户端发送的写权限申请时,判断所述写权限申请对应的文件是否为当前迁移文件;读权限回收模块,用于当所述写权限申请对应的文件为当前迁移文件时,执行将所述第一客户端对应的读权限回收的操作。本申请还提供一种服务器,包括:存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现如上所述的数据迁移方法的步骤。本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的数据迁移方法的步骤。本申请所提供的一种分布式文件系统的数据迁移控制方法,包括:元数据服务器向第一客户端发送迁移任务,以便所述第一客户端按照文件顺序逐个申请读权限并进行数据迁移操作;当接收到第二客户端发送的当前迁移文件的写权限申请时,根据所述写权限申请将所述第一客户端的所述当前迁移文件对应的读权限回收,以便所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作。通过元数据服务器先向第一客户端发送迁移任务,以便该第一客户端按照文件顺序对迁移任务中的文件逐个进行数据迁移操作,使第一客户端实现正常的数据迁移操作,并且,当接收到第二客户端发送的对当前正在迁移的当前迁移文件对应的写权限申请时,将该写权限申请对应的第一客户端的读权限回收,以便告知第一客户端该文件正在被修改,使得第一客户端撤销该文件的迁移操作,避免将错误的数据继续进行迁移,提高了迁移过程中数据正确性,提高了文件系统的可靠性。本申请还提供一种分布式文件系统的数据迁移控制装置、服务器以及计算机可读存储介质,具有以上有益效果,在此不做赘述。附图说明为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。图1为本申请实施例所提供的一种分布式文件系统的数据迁移控制方法的流程图;图2为本申请实施例所提供的另一种分布式文件系统的数据迁移控制方法的示意图;图3为本申请实施例所提供的一种分布式文件系统的数据迁移控制装置的结构示意图。具体实施方式本申请的核心是提供一种分布式文件系统的数据迁移控制方法、数据迁移控制装置、服务器以及计算机可读存储介质,通过元数据服务器先向第一客户端发送迁移任务使第一客户端执行该迁移任务,然后在对当前迁移文件进行写权限申请时,将该文件本文档来自技高网
...

【技术保护点】
1.一种分布式文件系统的数据迁移控制方法,其特征在于,包括:/n元数据服务器向第一客户端发送迁移任务,以便所述第一客户端按照文件顺序逐个申请读权限并进行数据迁移操作;/n当接收到第二客户端发送的当前迁移文件的写权限申请时,根据所述写权限申请将所述第一客户端的所述当前迁移文件对应的读权限回收,以便所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作。/n

【技术特征摘要】
1.一种分布式文件系统的数据迁移控制方法,其特征在于,包括:
元数据服务器向第一客户端发送迁移任务,以便所述第一客户端按照文件顺序逐个申请读权限并进行数据迁移操作;
当接收到第二客户端发送的当前迁移文件的写权限申请时,根据所述写权限申请将所述第一客户端的所述当前迁移文件对应的读权限回收,以便所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作。


2.根据权利要求1所述的数据迁移控制方法,其特征在于,还包括:
当接收到所述第一客户端发送的读权限申请时,根据所述读权限申请向所述第一客户端发送读权限的授权消息。


3.根据权利要求1所述的数据迁移控制方法,其特征在于,还包括:
当接收到所述第二客户端发送的写权限申请时,判断所述写权限申请对应的文件是否为当前迁移文件;
若是,则执行将所述第一客户端对应的读权限回收的操作。


4.根据权利要求1所述的数据迁移方法,其特征在于,所述第一客户端当读权限被回收时,根据被回收的读权限撤销对应文件的迁移操作,包括:
当所述第一客户端的读权限被回收时,所述第一客户端根据所述读权限确定对应的被修改文件;
对所述被修改文件设置撤销标记;
控制迁移线程当处理到设置有撤销标记的迁移文件时,撤销该迁移文件的迁移操作。


5.根据权利要求1所述的数据迁移控制方法,其特征在于,还包括:
所述第一客户端将已撤销迁移操作的文件的数据进行清除。

【专利技术属性】
技术研发人员:孙业宽孟祥瑞
申请(专利权)人:广东浪潮大数据研究有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1