一种数据存储方法、装置、存储介质及终端制造方法及图纸

技术编号:19263526 阅读:33 留言:0更新日期:2018-10-27 02:24
本发明专利技术公开了一种数据存储方法、装置、存储介质及终端,该方法包括:获取所有逻辑存储卷的状态;根据所有逻辑存储卷中每个逻辑存储卷的状态,确定每个逻辑存储卷对应的第一权重值;根据第一权重值,选取用于进行本次数据存储的逻辑存储卷。本发明专利技术根据每个逻辑存储卷的状态,计算出每个逻辑存储卷对应的第一权重值,为选择本次数据存储的逻辑存储卷提供了合理的选择依据,提高了数据存储时的分配均衡性。

Data storage method, device, storage medium and terminal

The invention discloses a data storage method, device, storage medium and terminal, which comprises: acquiring the state of all logical storage volumes; determining the first weight value corresponding to each logical storage volume according to the state of each logical storage volume in all logical storage volumes; and selecting the first weight value for carrying out the book. Logical storage volume for secondary data storage. According to the state of each logical storage volume, the invention calculates the first weight value corresponding to each logical storage volume, provides a reasonable selection basis for selecting the logical storage volume of the data storage, and improves the distribution balance of the data storage.

【技术实现步骤摘要】
一种数据存储方法、装置、存储介质及终端
本专利技术涉及数据存储领域,特别是涉及一种数据存储方法、装置、存储介质及终端。
技术介绍
随着云计算和大数据技术的发展,新兴分布式文件,块和对象存储技术也正在逐渐取代网络附属存储(NAS,NetworkAttachedStorage),存储区域网络(SAN,StorageAreaNetwork)等传统的存储技术,尤其是对象存储技术更是由于互联网和云存储的发展应运而生。数据分布策略作为分布式存储技术中的关键技术点,被广泛研究。分布式系统基础架构hadoop的底层分布式文件系统(HDFS,HadoopDistributedFileSystem)采用机架感知策略进行副本放置,但在该策略下数据可以被写入至负载较高的节点,造成数据分布不均衡的问题。B站文件存储系统BFS将存储节点划分为组group,每个group管理若干个逻辑存储卷volume,每个volume又有若干备份的存储节点store负责进行实际的存储。在进行数据写入时,先获取所有group,然后根据group下的所有store,以及所有store下的volume,给group计算一个总分,根据总分对group进行权重分配,然后随机命中一个group,在这个group中再随机命中一个volume,将数据写入到这个volume中。在BFS中以group为单位进行选取,粒度比较粗,并且在文件存储系统的硬件状态发生改变后,再次选取逻辑存储卷时无法及时调整存储模式,易造成数据分配不均衡的问题。
技术实现思路
本专利技术提供一种数据存储方法、装置、存储介质及终端,用以解决现有技术在选取逻辑存储卷时的选取策略不合理,在存储系统状态发生改变时,无法及时调整存储模式,易造成数据分配不均衡的问题。为解决上述技术问题,一方面,本专利技术提供一种数据存储方法,包括:获取所有逻辑存储卷的状态;根据所述所有逻辑存储卷中每个逻辑存储卷的状态,确定每个所述逻辑存储卷对应的第一权重值;根据所述第一权重值,选取用于进行本次数据存储的逻辑存储卷。进一步,所述根据所述第一权重值,选取用于本次数据存储的逻辑存储卷,包括:根据所述第一权重值,调整每个所述逻辑存储卷上一次数据存储后的负载状态权重值,得到每个所述逻辑存储卷本次数据存储前的负载状态权重值;选择所述负载状态权重值最大的逻辑存储卷,作为进行本次数据存储的逻辑存储卷。进一步,所述逻辑存储卷的状态至少包括如下状态之一:总空间、当前剩余空间、最小时延、最大时延、总时延。进一步,所述根据所述所有逻辑存储卷中每个逻辑存储卷的状态,确定每个所述逻辑存储卷对应的第一权重值,包括:根据每个所述逻辑存储卷的状态,计算每个所述逻辑存储卷在每个存储节点中的第三权重值;在所述逻辑存储卷在每个存储节点中的第三权重值中,选择符合预设选择策略的第三权重值作为所述逻辑存储卷的第一权重值;其中,所述第三权重值的计算方法为:其中,FreeSpace为所述逻辑存储卷的当前剩余空间,TotalSpace为所述逻辑存储卷总空间,TotalDelay为所述逻辑存储卷总延时,TotalWriteProcess为所述逻辑存储卷的总写入数据量,MinDelay为所述逻辑存储卷最小延时,MaxDelay为所述逻辑存储卷最大延时。进一步,所述选择符合所述预设选择策略的第三权重值作为所述逻辑存储卷的第一权重值,包括:选择每个所述逻辑存储卷在每个存储节点中最小的第三权重值作为所述逻辑存储卷的第一权重值。进一步,所述根据所述第一权重值,调整每个所述逻辑存储卷上一次数据存储后的负载状态权重值,得到每个所述逻辑存储卷本次数据存储钱的负载状态权重值,包括:将所述第一权重值与所述逻辑存储卷上一次数据存储后的负载状态权重值之和作为所述逻辑存储卷本次数据存储前的负载状态权重值。进一步,所述选择所述负载状态权重值最大的逻辑存储卷,作为进行本次数据存储的逻辑存储卷之后,还包括:计算所述进行本次数据存储的逻辑存储卷所在的存储节点的总权重值;将进行本次数据存储的逻辑存储卷的负载状态权重值与所述总权重值的差作为所述逻辑存储卷本次数据存储后的负载状态权重值。另一方面,本专利技术还提供一种数据存储装置,其特征在于,包括:获取模块,用于获取所有逻辑存储卷的状态;第一权重计算模块,根据所述所有逻辑存储卷中每个逻辑存储卷的状态,确定每个所述逻辑存储卷对应的第一权重值;存储模块,用于根据所述第一权重值,选取用于进行本次数据存储的逻辑存储卷。进一步,所述存储模块,包括:负载状态权重计算单元,用于根据所述第一权重值,调整每个所述逻辑存储卷上一次数据存储后的负载状态权重值,得到每个所述逻辑存储卷本次数据存储前的负载状态权重值;存储单元,用于选择所述负载状态权重值最大的逻辑存储卷,作为进行本次数据存储的逻辑存储卷。进一步,所述逻辑存储卷的状态至少包括如下状态之一:总空间、当前剩余空间、最小时延、最大时延、总时延。进一步,所述第一权重计算模块,包括:计算单元,用于根据每个所述逻辑存储卷的状态,计算每个所述逻辑存储卷在每个存储节点中的第三权重值;选择单元,用于在所述逻辑存储卷在每个存储节点中的第三权重值中,选择符合预设选择策略的第三权重值作为所述逻辑存储卷的第一权重值;其中,所述第三权重值的计算方法为:其中,FreeSpace为所述逻辑存储卷的当前剩余空间,TotalSpace为所述逻辑存储卷总空间,TotalDelay为所述逻辑存储卷总延时,TotalWriteProcess为所述逻辑存储卷的总写入数据量,MinDelay为所述逻辑存储卷最小延时,MaxDelay为所述逻辑存储卷最大延时。进一步,所述选择单元,具体用于:选择每个所述逻辑存储卷在每个存储节点中最小的第三权重值作为所述逻辑存储卷的第一权重值。进一步,所述负载状态权重计算单元,具体用于:将所述第一权重值与所述逻辑存储卷上一次数据存储后的负载状态权重值之和作为所述逻辑存储卷本次数据存储前的负载状态权重值。进一步,还包括:总权重计算模块,计算所述进行本次数据存储的逻辑存储卷所在的存储节点的总权重值;所述负载状态权重计算单元,还用于将进行本次数据存储的逻辑存储卷的负载状态权重值与所述总权重值的差作为所述逻辑存储卷本次数据存储后的负载状态权重值。另一方面,本专利技术还提供一种存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现上述的数据存储方法的步骤。另一方面,本专利技术还提供一种终端,至少包括存储器、处理器,所述存储器上存储有计算机程序,所述处理器在执行所述存储器上的计算机程序时实现上述的数据存储方法的步骤。本专利技术根据每个逻辑存储卷的状态,计算出每个逻辑存储卷对应的第一权重值,为选择本次数据存储的逻辑存储卷提供了合理的选择依据,提高了数据存储时的分配均衡性。附图说明图1是本专利技术第一实施例中数据存储方法流程图;图2是本专利技术第二实施例中数据存储方法流程图;图3是本专利技术第三实施例中数据存储方法流程图;图4是本专利技术第四实施例中数据存储方法流程图;图5是本专利技术第五实施例中数据存储装置结构示意图;图6是本专利技术第五实施例中第一权重计算模块的结构示意图;图7是本专利技术第六实施例中数据存储装置结构示意图;图8是本专利技术第六实施例中存储模块的结构示意图。具体实施本文档来自技高网...

【技术保护点】
1.一种数据存储方法,其特征在于,包括:获取所有逻辑存储卷的状态;根据所述所有逻辑存储卷中每个逻辑存储卷的状态,确定每个所述逻辑存储卷对应的第一权重值;根据所述第一权重值,选取用于进行本次数据存储的逻辑存储卷。

【技术特征摘要】
1.一种数据存储方法,其特征在于,包括:获取所有逻辑存储卷的状态;根据所述所有逻辑存储卷中每个逻辑存储卷的状态,确定每个所述逻辑存储卷对应的第一权重值;根据所述第一权重值,选取用于进行本次数据存储的逻辑存储卷。2.如权利要求1所述的数据存储方法,其特征在于,所述根据所述第一权重值,选取用于本次数据存储的逻辑存储卷,包括:根据所述第一权重值,调整每个所述逻辑存储卷上一次数据存储后的负载状态权重值,得到每个所述逻辑存储卷本次数据存储前的负载状态权重值;选择所述负载状态权重值最大的逻辑存储卷,作为进行本次数据存储的逻辑存储卷。3.如权利要求1所述的数据存储方法,其特征在于,所述逻辑存储卷的状态至少包括如下状态之一:总空间、当前剩余空间、最小时延、最大时延、总时延。4.如权利要求1至3中任一项所述的数据存储方法,其特征在于,所述根据所述所有逻辑存储卷中每个逻辑存储卷的状态,确定每个所述逻辑存储卷对应的第一权重值,包括:根据每个所述逻辑存储卷的状态,计算每个所述逻辑存储卷在每个存储节点中的第三权重值;在所述逻辑存储卷在每个存储节点中的第三权重值中,选择符合预设选择策略的第三权重值作为所述逻辑存储卷的第一权重值;其中,所述第三权重值的计算方法为:其中,FreeSpace为所述逻辑存储卷的当前剩余空间,TotalSpace为所述逻辑存储卷总空间,TotalDelay为所述逻辑存储卷总延时,TotalWriteProcess为所述逻辑存储卷的总写入数据量,MinDelay为所述逻辑存储卷最小延时,MaxDelay为所述逻辑存储卷最大延时。5.如权利要求4所述的数据存储方法,其特征在于,所述选择符合所述预设选择策略的第三权重值作为所述逻辑存储卷的第一权重值,包括:选择每个所述逻辑存储卷在每个存储节点中最小的第三权重值作为所述逻辑存储卷的第一权重值。6.如权利要求2所述的数据存储方法,其特征在于,所述根据所述第一权重值,调整每个所述逻辑存储卷上一次数据存储后的负载状态权重值,得到每个所述逻辑存储卷本次数据存储钱的负载状态权重值,包括:将所述第一权重值与所述逻辑存储卷上一次数据存储后的负载状态权重值之和作为所述逻辑存储卷本次数据存储前的负载状态权重值。7.如权利要求2或6所述的数据存储方法,其特征在于,所述选择所述负载状态权重值最大的逻辑存储卷,作为进行本次数据存储的逻辑存储卷之后,还包括:计算所述进行本次数据存储的逻辑存储卷所在的存储节点的总权重值;将进行本次数据存储的逻辑存储卷的负载状态权重值与所述总权重值的差作为所述逻辑存储卷本次数据存储后的负载状态权重值。8.一种数据存储装置,其特征在于,包括:获取模块,用于获取所有逻...

【专利技术属性】
技术研发人员:周化锰
申请(专利权)人:北京五八信息技术有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1