System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据分布式存储,更具体地说,涉及一种便于分布式数据批量迁移的对象存储架构和迁移方法。
技术介绍
1、数据分布式存储是一种数据存储技术,通过网络使用企业中的每台机器上的磁盘空间,并将这些分散的存储资源构成一个虚拟的存储设备,数据分散的存储在企业的各个角落;目前,分布式存储的数据在进行批量迁移时,通常需要先重新汇总数据,然后进行数据转移,再重新进行分片存储,数据处理耗时长,效率极为低下,需要占用服务器资源也较多;
2、对象存储是用来描述解决和处理离散单元的方法的通用术语,这些离散单元被称作为对象;就像文件一样,对象包含数据,但是和文件不同的是,对象在一个层结构中不会再有层级结构,每个对象都在一个被称作存储池的扁平地址空间的同一级别里,一个对象不会属于另一个对象的下一级;
3、目前数据分布式存储大都还是采用的传统存储方式,各存储节点的容量受限制较为严重,这也是限制数据批量转移效率的一大难点,因为需要重新进行分片,如果能够将数据分布式存储与对象存储技术相结合,则可以大大提升数据批量迁移的效率,同时也能够克服传统存储方式带来的容量受限问题,为解决该难点,本申请提供了一种便于分布式数据批量迁移的对象存储架构和迁移方法。
技术实现思路
1、本专利技术要解决的技术问题在于,针对现有技术的上述缺陷,提供一种便于分布式数据批量迁移的对象存储架构和迁移方法。
2、本专利技术解决其技术问题所采用的技术方案是:
3、构造一种便于分布式数据批量迁移
4、步骤一:接收用户分布式存储请求,对待存储文件进行分割处理,将分割后的多个子数据包发送至存储服务器进行分布式存储;
5、步骤二:存储服务器解析用户存储请求中存储类型信息,若请求中为常规存储则按照设定的常规存储规则进行分布式数据的存储,若请求中为对象存储则按照对象存储构架进行数据存储;
6、步骤三:对用户反馈存储成功信息。
7、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述步骤二中,按照对象存储构架进行数据存储采用:
8、先对各子数据包进行数据添加处理,将各子数据包格式转换为对象存储格式;将格式转换后的子数据包依据文件属性分别发送至设定的多个相应属性的数据存储容器中进行存储;
9、待各子数据包均存储成功后,建立一个为空的转存数据容器,该转存数据容器与存储有子数据包的各数据存储容器建立映射关联关系。
10、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述方法还包括:
11、步骤四:接收用户的数据批量转移请求,获取存储数据对应的转存数据容器和目标迁移地的转存数据容器;
12、以存储地的转存数据容器和目标迁移地的转存数据容器为中间传输节点,以映射关联关系作为传输通道,将各子数据包快速迁移至目标迁移地的相应属性的数据存储容器中进行存储。
13、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,对各子数据包进行数据添加处理,将各子数据包格式转换为对象存储格式采用:
14、将各子数据包的数据作为用户数据,将各子数据包的文件名作为数据标识,将各子数据包的数据类型作为标签信息。
15、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,以存储地的转存数据容器和目标迁移地的转存数据容器为中间传输节点,以映射关联关系作为传输通道采用:
16、将存储地的转存数据容器内的映射关联关系复制到目标迁移地的转存数据容器内;
17、目标迁移地的转存数据容器依据映射关联关系内信息进行关联目标迁移地的多个相应属性的数据存储容器;
18、存储地的转存数据容器和目标迁移地的转存数据容器依据映射关联关系进行对应建立多个数据传输通道,每一数据传输通道对应连通一存储地的数据存储容器和一目标迁移地的数据存储容器。
19、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述目标迁移地的转存数据容器依据用户的数据批量转移请求建立,并在数据转移前与目标迁移地的相应数据存储容器建立映射关联关系。
20、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述映射关联关系采用:
21、设置关联列表字符组和关联连接字符组,所述关联列表字符组内的多个第一字符和所述关联连接字符组内的多个第二字符具有一一映射的关联关系;
22、应用时,所述第一字符与数据存储容器一一对应关联,所述第二字符用于建立存储地的转存数据容器和目标迁移地的转存数据容器的连接。
23、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述方法还包括:
24、步骤五:数据批量迁移完成后,删除存储地的转存数据容器以释放空间。
25、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述步骤五中还包括方法:
26、删除存储地的转存数据容器前,优先依据映射关联关系删除各数据存储容器中子数据包。
27、本专利技术所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其中,所述方法还包括:
28、步骤六:向用户反馈数据批量转移成功信息。
29、本专利技术的有益效果在于:应用本申请的方式方法,在进行分布式存储时,额外增加一个对象存储的可选项,如果安装对象存储,则可以依靠存储地的转存数据容器和目标迁移地的转存数据容器来建立传输通道,直接进行数据批量迁移,不需要再进行数据汇总和重新分片处理,从而大幅提升数据批量迁移效率,同时也能够克服传统存储方式带来的容量受限问题。
本文档来自技高网...【技术保护点】
1.一种便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述步骤二中,按照对象存储构架进行数据存储采用:
3.根据权利要求2所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述方法还包括:
4.根据权利要求2所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,对各子数据包进行数据添加处理,将各子数据包格式转换为对象存储格式采用:
5.根据权利要求3所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,以存储地的转存数据容器和目标迁移地的转存数据容器为中间传输节点,以映射关联关系作为传输通道采用:
6.根据权利要求3所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述目标迁移地的转存数据容器依据用户的数据批量转移请求建立,并在数据转移前与目标迁移地的相应数据存储容器建立映射关联关系。
7.根据权利要求6所述的便于分布式数据批量迁移的对象存储
8.根据权利要求3所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述方法还包括:
9.根据权利要求8所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述步骤五中还包括方法:
10.根据权利要求8所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述方法还包括:
...【技术特征摘要】
1.一种便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述步骤二中,按照对象存储构架进行数据存储采用:
3.根据权利要求2所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,所述方法还包括:
4.根据权利要求2所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,对各子数据包进行数据添加处理,将各子数据包格式转换为对象存储格式采用:
5.根据权利要求3所述的便于分布式数据批量迁移的对象存储架构和迁移方法,其特征在于,以存储地的转存数据容器和目标迁移地的转存数据容器为中间传输节点,以映射关联关系作为传输通道...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。