分布式存储的对象目录分配方法、系统、终端及存储介质技术方案

技术编号:26170728 阅读:25 留言:0更新日期:2020-10-31 13:39
本发明专利技术提供一种分布式存储的对象目录分配方法、系统、终端及存储介质,包括:获取对象组目录信息,所述目录信息包括根目录下对象信息、子目录数和子目录层级;确认所述子目录数和子目录层级达到预设子目录标准;从所述根目录下对象信息提取根目录下的所有对象名,根据根目录下对象的对象名为所述对象分配相应子目录;在所述对象的相应子目录下创建与所述对象相同的新对象,并在根目录下删除所述对象。本发明专利技术以在不影响集群使用的前提下将对象组根目录下对象根据对象名移动到子目录下,在对象组中使用子目录存储对象,提升集群性能,增强对象管理能力。

【技术实现步骤摘要】
分布式存储的对象目录分配方法、系统、终端及存储介质
本专利技术涉及分布式存储
,具体涉及一种分布式存储的对象目录分配方法、系统、终端及存储介质。
技术介绍
在信息技术不断进步的同时,数据作为信息技术的重要组成部分受到更多人的重视,通过收集人们的各种活动产生的数据并对这些数据进行分析处理可以获得很十分重要的信息,创造出巨大的经济价值,这也因此推动了大数据、高性能计算的快速发展,如何让存储设备适应数据量快速增长成为关键问题之一。通过软件定义实现的分布式存储凭借其可扩展的系统结构适应数据量不断增长的要求,逐渐被更多的企业所认可。软件定义存储中将所有写入的数据抽象成对象,分配到不同PG中,然后映射到相应的OSD上。软件中定义的collection对应底层文件系统的一个目录,用于保存一个PG内的所有对象,当目录中保存的文件数量过大时,如达到5万,存储系统的性能就会急剧下降,同时在该目录下执行查询等操作耗时会变得很大,因此我们需要将在目录下创建子目录,将对象重新分配到子目录下,如果我们在对象存储过程中根据对象增加动态创建子目录然后将新增的对象移动到子目录下,存在两个问题,第一个是创建目录时会占用PG锁,此时PG无法做其他操作,影响存储性能;第一个是原有目录下的对象不会移动位置,会使对象存储路径变的混乱,查询对象时需要查询根目录及子目录多个目录,增大查询时间。
技术实现思路
针对现有技术的上述不足,本专利技术提供一种分布式存储的对象目录分配方法、系统、终端及存储介质,以解决上述技术问题。第一方面,本专利技术提供一种分布式存储的对象目录分配方法,包括:获取对象组目录信息,所述目录信息包括根目录下对象信息、子目录数和子目录层级;确认所述子目录数和子目录层级达到预设子目录标准;从所述根目录下对象信息提取根目录下的所有对象名,根据根目录下对象的对象名为所述对象分配相应子目录;在所述对象的相应子目录下创建与所述对象相同的新对象,并在根目录下删除所述对象。进一步的,所述方法还包括:将文件系统集群中的所有对象组保存至工作队列的任务链表,所述对象组与根目录一一对应;从任务链表中取出目标对象组,从所述目标对象组的目录结构体中提取所述目标对象组的目录信息;根据所述目录信息判断根目录下是否存在对象:若是,则将所述目标对象组保存至任务链表,并生成所述目标对象组的目录重分配任务;若否,则依次从所述任务链表中取出下一个对象组作为目标对象组。进一步的,所述方法还包括:在将所述对象从根目录变更至相应子目录之后,在所述对象组的目录结构体中同步更新所述对象的目录路径。进一步的,所述方法还包括:设置单次目录分配的对象数量;根据所述对象数量从所述根目录的所有对象中选取相应数量的对象作为当前次分配的目标对象;将所述根目录下的剩余对象信息更新至所述任务链表的相应对象组信息中。进一步的,所述确认所述子目录数和子目录层级达到预设子目录标准,包括:判断所述子目录数和子目录层级是否达到预设子目录标准,所述子目录标准包括标准子目录数和标准子目录层级数:若否,则根据所述预设子目录标准在所述对象组的根目录下创建子目录。进一步的,所述方法还包括:获取分布式存储系统的当前业务量;判断所述当前业务量是否超过预设阈值:若是,则控制将所述对象从根目录向子目录移动的线程暂停。第二方面,本专利技术提供一种分布式存储的对象目录分配系统,包括:信息获取单元,配置用于获取对象组目录信息,所述目录信息包括根目录下对象信息、子目录数和子目录层级;目录确认单元,配置用于确认所述子目录数和子目录层级达到预设子目录标准;对象分配单元,配置用于从所述根目录下对象信息提取根目录下的所有对象名,根据根目录下对象的对象名为所述对象分配相应子目录;对象移动单元,配置用于在所述对象的相应子目录下创建与所述对象相同的新对象,并在根目录下删除所述对象。进一步的,所述系统还包括:任务保存单元,配置用于将文件系统集群中的所有对象组保存至工作队列的任务链表,所述对象组与根目录一一对应;信息提取单元,配置用于从任务链表中取出目标对象组,从所述目标对象组的目录结构体中提取所述目标对象组的目录信息;对象判断单元,配置用于根据所述目录信息判断根目录下是否存在对象;任务生成单元,配置用于若根目录下存在对象,则将所述目标对象组保存至任务链表,并生成所述目标对象组的目录重分配任务;对象切换单元,配置用于若根目录下不存在对象,则依次从所述任务链表中取出下一个对象组作为目标对象组。第三方面,提供一种终端,包括:处理器、存储器,其中,该存储器用于存储计算机程序,该处理器用于从存储器中调用并运行该计算机程序,使得终端执行上述的终端的方法。第四方面,提供了一种计算机存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述各方面所述的方法。本专利技术的有益效果在于,本专利技术提供的分布式存储的对象目录分配方法、系统、终端及存储介质,可以在一个目录下的对象数目过多时,动态开启对象所属目录再次分配功能,可以在不影响集群功能的前提下将对象移动到需要分配的子目录下,同时将所有的对象都只保存在到子目录下,可直接根据对象名查询对象所属子目录。本专利技术以在不影响集群使用的前提下将对象组根目录下对象根据对象名移动到子目录下,在对象组中使用子目录存储对象,提升集群性能,增强对象管理能力。此外,本专利技术设计原理可靠,结构简单,具有非常广泛的应用前景。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1是本专利技术一个实施例的方法的示意性流程图。图2是本专利技术一个实施例的系统的示意性框图。图3为本专利技术实施例提供的一种终端的结构示意图。具体实施方式为了使本
的人员更好地理解本专利技术中的技术方案,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本专利技术保护的范围。下面对本专利技术中出现的关键术语进行解释。PG:PlacementGroup(放置组)OSD:ObjectStorageDevice(对象存储设备)图1是本专利技术一个实施例的方法的示意性流程图。其中,图1执行主体可以为一种分布式存储的对象目录分配系统。如图1所示,该方法100包括:步骤110,获取对象组目录信息,所述本文档来自技高网
...

【技术保护点】
1.一种分布式存储的对象目录分配方法,其特征在于,包括:/n获取对象组目录信息,所述目录信息包括根目录下对象信息、子目录数和子目录层级;/n确认所述子目录数和子目录层级达到预设子目录标准;/n从所述根目录下对象信息提取根目录下的所有对象名,根据根目录下对象的对象名为所述对象分配相应子目录;/n在所述对象的相应子目录下创建与所述对象相同的新对象,并在根目录下删除所述对象。/n

【技术特征摘要】
1.一种分布式存储的对象目录分配方法,其特征在于,包括:
获取对象组目录信息,所述目录信息包括根目录下对象信息、子目录数和子目录层级;
确认所述子目录数和子目录层级达到预设子目录标准;
从所述根目录下对象信息提取根目录下的所有对象名,根据根目录下对象的对象名为所述对象分配相应子目录;
在所述对象的相应子目录下创建与所述对象相同的新对象,并在根目录下删除所述对象。


2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将文件系统集群中的所有对象组保存至工作队列的任务链表,所述对象组与根目录一一对应;
从任务链表中取出目标对象组,从所述目标对象组的目录结构体中提取所述目标对象组的目录信息;
根据所述目录信息判断根目录下是否存在对象:
若是,则将所述目标对象组保存至任务链表,并生成所述目标对象组的目录重分配任务;
若否,则依次从所述任务链表中取出下一个对象组作为目标对象组。


3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
在将所述对象从根目录变更至相应子目录之后,在所述对象组的目录结构体中同步更新所述对象的目录路径。


4.根据权利要求2所述的方法,其特征在于,所述方法还包括:
设置单次目录分配的对象数量;
根据所述对象数量从所述根目录的所有对象中选取相应数量的对象作为当前次分配的目标对象;
将所述根目录下的剩余对象信息更新至所述任务链表的相应对象组信息中。


5.根据权利要求1所述的方法,其特征在于,所述确认所述子目录数和子目录层级达到预设子目录标准,包括:
判断所述子目录数和子目录层级是否达到预设子目录标准,所述子目录标准包括标准子目录数和标准子目录层级数:
若否,则根据所述预设子目录标准在所述对象组的根目录下创建子目录。

【专利技术属性】
技术研发人员:薛玉喜
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1