System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本说明书涉及分布式存储,特别涉及一种分布式对象处理方法及装置。
技术介绍
1、对象存储是互联网中经常使用的技术,对象存储与文件存储不同,对象不以目录分层的结构进行组织。每个对象都位于被称为存储池的扁平的空间的相同层级,每一级的每个元素在存储系统中都有唯一的标识,用户通过这个标识来访问容器或者对象。在对象存储中,一般是采用扁平的数据组织结构抛弃了嵌套的文件夹,从而可以避免维护庞大的目录树。
2、在数据量急剧增加的今天,分布式对象存储系统的存储成本也是需要考虑的。不同数据的业务价值和访问频率会有不同,所以将所有数据存储在同一个集群中,不仅容易造成集群规模过大,后续扩容不便,也比较容易增加硬件成本。
3、针对上述问题,目前尚未提出有效的解决方案。
技术实现思路
1、本说明书实施例提供了一种分布式对象处理方法及装置,以解决现有技术中分布式对象存储系统的存储成本高的问题。
2、本说明书实施例提供了一种分布式对象处理方法,包括:
3、接收用户客户端发送的业务请求;所述业务请求中包括目标对象标识;
4、响应于所述业务请求,从分布式数据库获取所述目标对象标识对应的目标索引的被访问数据;基于所述目标索引的被访问数据,确定所述目标对象标识对应的目标类型;
5、从所述目标类型对应的读写服务集群中筛选出目标读写服务;将所述目标读写服务的服务标识返回给所述用户客户端,使得所述用户客户端向所述目标读写服务发送对象处理请求,所述目标读写服务
6、其中,不同目标类型的目标对象存储在不同的分布式文件系统中,不同的分布式文件系统设置有对应的读写服务集群。
7、在一个实施例中,响应于所述业务请求,从分布式数据库获取所述目标对象标识对应的目标索引的被访问数据,包括:
8、响应于所述业务请求,确定所述业务请求中是否携带有目标类型标识;
9、在确定所述业务请求中未携带目标类型标识的情况下,从分布式数据库获取所述目标对象标识对应的目标索引的被访问数据。
10、在一个实施例中,所述方法还包括:
11、在确定所述业务请求中携带有目标类型标识的情况下,从所述目标类型标识对应的读写服务集群中筛选出目标读写服务。
12、在一个实施例中,所述目标类型包括第一类型、第二类型和第三类型;
13、相应的,基于所述目标索引的被访问数据,确定所述目标对象标识对应的目标类型,包括:
14、基于所述目标索引的被访问数据确定所述目标索引的访问频率;
15、在所述目标索引的访问频率大于第一频率的情况下,确定所述目标对象标识对应的目标类型为所述第一类型;
16、在所述目标索引的访问频率大于第二频率且不大于所述第一频率的情况下,确定所述目标对象标识对应的目标类型为所述第二类型;
17、在所述目标索引的访问频率不大于所述第二频率的情况下,确定所述目标对象标识对应的目标类型为所述第三类型;
18、其中,所述第一频率大于所述第二频率。
19、在一个实施例中,所述分布式文件系统包括:第一分布式文件系统、第二分布式文件系统和第三分布式文件系统;所述读写服务集群包括:第一读写服务集群、第二读写服务集群和第三读写服务集群;
20、所述第一分布式文件系统用于存储所述第一类型的对象;所述第一读写服务集群用于对所述第一分布式文件系统中的第一类型的对象执行读写操作;
21、所述第二分布式文件系统用于存储所述第二类型的对象;所述第二读写服务集群用于对所述第二分布式文件系统中的第二类型的对象执行读写操作;
22、所述第三分布式文件系统用于存储所述第三类型的对象;所述第三读写服务集群用于对所述第三分布式文件系统中的第三类型的对象执行读写操作。
23、在一个实施例中,所述方法还包括:
24、从所述分布式数据库读取多个对象中各对象的索引的被访问数据;
25、根据所述各对象的索引的被访问数据确定出需要从所述第一分布式文件系统迁移至所述第二分布式文件系统的第一对象;
26、从所述第一读写服务集群中确定出第一读写服务,向所述第一读写服务发送读取请求,所述读取请求中携带有所述第一对象的标识;所述第一读写服务用于从所述第一分布式文件系统中读取所述第一对象;
27、从所述第二读写服务集群中确定出第二读写服务,向所述第二读写服务发送写入请求,所述写入请求中携带有所述第一对象;所述第二读写服务用于在所述第二分布式文件系统中写入所述第一对象。
28、在一个实施例中,所述第一分布式文件系统采用双园区部署,包括第一主园区分布式文件系统和第一备园区分布式文件系统;
29、相应的,所述第一读写服务集群包括主园区读写服务集群和备园区读写服务集群;所述主园区读写服务集群用于向第一主园区分布式文件系统执行读写操作;所述备园区读写服务集群用于向第一备园区分布式文件系统执行读写操作。
30、在一个实施例中,所述第一分布式文件系统和/或所述第二分布式文件系统采用三副本方式进行存储;和/或,
31、所述第一分布式文件系统和/或所述第二分布式文件系统通过磁带备份的方式进行数据备份。
32、在一个实施例中,所述第三分布式文件系统采用纠删码方式进行冗余存储。
33、本说明书实施例还提供了一种分布式对象处理装置,包括:
34、接收模块,用于接收用户客户端发送的业务请求;所述业务请求中包括目标对象标识;
35、确定模块,用于响应于所述业务请求,从分布式数据库获取所述目标对象标识对应的目标索引的被访问数据;基于所述目标索引的被访问数据,确定所述目标对象标识对应的目标类型;
36、处理模块,用于从所述目标类型对应的读写服务集群中筛选出目标读写服务;将所述目标读写服务的服务标识返回给所述用户客户端,使得所述用户客户端向所述目标读写服务发送对象处理请求,所述目标读写服务用于响应于所述对象处理请求在所述目标类型对应的分布式文件系统中执行对象处理操作;
37、其中,不同目标类型的目标对象存储在不同的分布式文件系统中,不同的分布式文件系统设置有对应的读写服务集群。
38、本说明书实施例还提供一种计算机设备,包括处理器以及用于存储处理器可执行指令的存储器,所述处理器执行所述指令时实现上述任意实施例中所述的分布式对象处理方法的步骤。
39、本说明书实施例还提供一种计算机可读存储介质,其上存储有计算机指令,所述指令被执行时实现上述任意实施例中所述的分布式对象处理方法的步骤。
40、在本说明书实施例中,提供了一种分布式对象处理方法,可以接收用户客户端发送的业务请求,响应于业务请求,从分布式数据库获取目标对象标识对应的目标索引的被本文档来自技高网...
【技术保护点】
1.一种分布式对象处理方法,其特征在于,包括:
2.根据权利要求1所述的分布式对象处理方法,其特征在于,响应于所述业务请求,从分布式数据库获取所述目标对象标识对应的目标索引的被访问数据,包括:
3.根据权利要求1所述的分布式对象处理方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的分布式对象处理方法,其特征在于,所述目标类型包括第一类型、第二类型和第三类型;
5.根据权利要求4所述的分布式对象处理方法,其特征在于,所述分布式文件系统包括:第一分布式文件系统、第二分布式文件系统和第三分布式文件系统;所述分布式数据用于存储所述第一分布式文件系统、所述第二分布式文件系统和所述第三分布式文件系统中存储的对象的索引;所述读写服务集群包括:第一读写服务集群、第二读写服务集群和第三读写服务集群;
6.根据权利要求5所述的分布式对象处理方法,其特征在于,所述方法还包括:
7.根据权利要求5所述的分布式对象处理方法,其特征在于,所述第一分布式文件系统采用双园区部署,包括第一主园区分布式文件系统和第一备园区分布式文件系
8.根据权利要求5所述的分布式对象处理方法,其特征在于,所述第一分布式文件系统和/或所述第二分布式文件系统采用三副本方式进行存储;和/或,
9.根据权利要求5所述的分布式对象处理方法,其特征在于,所述第三分布式文件系统采用纠删码方式进行冗余存储。
10.一种分布式对象处理装置,其特征在于,包括:
11.一种计算机设备,其特征在于,包括处理器以及用于存储处理器可执行指令的存储器,所述处理器执行所述指令时实现权利要求1至9中任一项所述方法的步骤。
12.一种计算机可读存储介质,其上存储有计算机指令,其特征在于,所述指令被处理器执行时实现权利要求1至9中任一项所述方法的步骤。
...【技术特征摘要】
1.一种分布式对象处理方法,其特征在于,包括:
2.根据权利要求1所述的分布式对象处理方法,其特征在于,响应于所述业务请求,从分布式数据库获取所述目标对象标识对应的目标索引的被访问数据,包括:
3.根据权利要求1所述的分布式对象处理方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的分布式对象处理方法,其特征在于,所述目标类型包括第一类型、第二类型和第三类型;
5.根据权利要求4所述的分布式对象处理方法,其特征在于,所述分布式文件系统包括:第一分布式文件系统、第二分布式文件系统和第三分布式文件系统;所述分布式数据用于存储所述第一分布式文件系统、所述第二分布式文件系统和所述第三分布式文件系统中存储的对象的索引;所述读写服务集群包括:第一读写服务集群、第二读写服务集群和第三读写服务集群;
6.根据权利要求5所述的分布式对象处理方法,其特征在于,...
【专利技术属性】
技术研发人员:张艺,张志海,李俊谦,李昊溟,
申请(专利权)人:中国工商银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。