一种分布式存储系统及其存储质量控制方法及装置制造方法及图纸

技术编号:12357942 阅读:100 留言:0更新日期:2015-11-20 13:40
本发明专利技术实施例公开了一种分布式存储系统及其存储质量控制方法及装置,该系统利用指标监控服务器,对每个业务使用的各个存储单元及其所在的各个存储节点服务器进行指标监控,获得每个业务的指标值发送给存储质量控制服务器;存储质量控制服务器,根据接收的每个业务的指标值中,每个业务的各个存储节点指标值和各个存储单元指标值,分别确定每个业务的各个存储节点服务器所在的集群的降级因素参数和各个存储单元的降级因素参数;根据降级因素参数,对该业务使用的所述各个存储单元进行存储质量评分,根据评分进行存储单元切换。应用本发明专利技术实施例,能够实现存储单元的自动切换,并保证存储服务质量。

【技术实现步骤摘要】

本专利技术涉及网络数据存储
,特别是一种分布式存储系统及其存储质量控 制方法及装置。
技术介绍
目前,网络数据存储通常采用分布式文件存储集群来实现。 例如:视频网站在各个视频生产环节进行时,会产生一些中间文件,这些文件一般 都需要存储在分布式文件存储集群(下文简称为存储集群)中。由于各个环节都需要使 用存储服务,因此存储服务的质量会直接或间接导致整个视频生产流水线的整体质量,一 旦存储服务出现质量降级甚至不可用等情况,会直接或间接导致整个视频生产流水线的瘫 痪。 目前,常见的分布式存储系统都包括多个集群,每个集群包括多个集群节点服务 器。通过虚拟化技术将集群内所有节点服务器的多台物理机的磁盘虚拟成一个巨大的存储 池,从存储池中可以分配出多个存储单元。提供给一个业务使用的,通常是一个或多个存储 单元,例如:为视频签名业务分配3个存储单元,为视频编码业务分配6个存储单元,为视频 转码业务分配6个存储单元等等。 也就是说,视频生产过程中的各个业务环节是否通畅,取决于使用的存储单元是 否健康也就是存储质量是否满足业务需求,如果使用的存储单元足够健康,那么就会为视 频生产提供足够稳定且高质量的存储服务,从而可以保证视频生产保持高效且良性运转。 然而,单一的存储单元的健康往往难以保证,因为会受到诸如机房网络问题、机器 网卡降级、机器磁盘容量及RAID卡质量、存储文件系统本身软件问题等多种因素的影响, 因此某个业务只使用一个存储单元往往是不可靠的。目前常见的做法是为某个业务分配多 个存储单元提供服务,通过为每个存储单元分配合理的使用权重,在使用存储时根据权重 选择存储单元,从而可以避免单一存储单元的风险。 此时面临的一个重要问题是,该如何决定使用哪个存储单元? 目前较常见的做法是,加强对存储单元的进行监控,获得监控数据。一旦监控数据 发生异常时,存储单元就会产生相关的报警,那么就将产生报警的存储单元下线停用,启用 为该业务分配的备用存储单元,继续提供服务。这种通过监控触发人为干预的做法的弊端 显而易见,如果运维人员未能及时进行存储单元的切换,或者在手工切换时出现的纰漏,那 么轻则会导致视频生产的堵塞,重则导致整个服务不可用的情况。
技术实现思路
本专利技术实施例的目的在于提供一种分布式存储系统及其存储质量控制方法及装 置,能够实现自动切换存储单元,并保证存储服务质量。 为达到上述目的,第一方面,本专利技术公开了一种分布式存储系统,包括多个分布式 存储集群;每个分布式存储集群包括多个存储节点服务器;每个存储节点服务器包括多个 存储单元;还包括:至少一个指标监控服务器和至少一个存储质量控制服务器; 所述的每个指标监控服务器,与多个集群中的多个存储节点服务器相连,用于针 对每个业务,对该每个业务使用的各个存储单元及其所在的各个存储节点服务器进行指标 监控,获得每个业务的指标值; 所述每个业务的指标值,包括:用于标识该业务使用的各个存储单元当前工作状 态的存储单元指标值,和用于标识该业务使用的各个存储单元所在的各个存储节点服务器 当前工作状态的存储节点指标值; 将获得的每个业务的指标值,按预设的时间周期发送给存储质量控制服务器; 所述的存储质量控制服务器,与多个集群中的多个存储节点服务器相连,用于接 收所述指标监控服务器按预设的时间周期发送的每个业务的指标值; 根据接收的每个业务的指标值中,每个业务的各个存储节点指标值和各个存储单 元指标值,分别确定每个业务的各个存储节点服务器所在的集群的降级因素参数和各个存 储单元的降级因素参数; 根据每个业务的各个集群降级因素参数和各个存储单元降级因素参数,按照预设 的评分算法,对该业务使用的所述各个存储单元进行存储质量评分; 根据每个业务使用的各个存储单元当前周期的存储质量评分值,确定每个业务的 待调整权重的存储单元,和/或待切换新增数据的存储单元;并生成针对待调整权重的存 储单元,和/或待切换新增数据的存储单元的切换建议;根据所述切换建议,控制待调整权 重的存储单元调整接收该业务新增数据的权重和/或将该业务的新增数据切换至为该业 务配置的备用存储单元。 其中,当系统中设置有多个存储质量控制服务器时,各个存储质量控制服务器之 间可以相互连接。 第二方面,本专利技术公开了一种分布式存储系统的存储质量控制方法,应用于第一 方面所述系统中的存储质量控制服务器,包括: 接收指标监控服务器按预设的时间周期发送的每个业务的指标值;所述每个业务 的指标值,包括:用于标识该业务使用的各个存储单元当前工作状态的存储单元指标值,和 用于标识该业务使用的各个存储单元所在的各个存储节点服务器当前工作状态的存储节 点指标值; 根据接收的每个业务的指标值中,每个业务的各个存储节点指标值和各个存储单 元指标值,分别确定每个业务的各个存储节点服务器所在的集群的降级因素参数和各个存 储单元的降级因素参数; 根据每个业务的各个集群降级因素参数和各个存储单元降级因素参数,按照预设 的评分算法,对该业务使用的所述各个存储单元进行存储质量评分; 根据每个业务使用的各个存储单元当前周期的存储质量评分值,确定每个业务的 待调整权重的存储单元,和/或待切换新增数据的存储单元;并生成针对待调整权重的存 储单元,和/或待切换新增数据的存储单元的切换建议;根据所述切换建议,控制待调整权 重的存储单元调整接收该业务新增数据的权重和/或将该业务的新增数据切换至为该业 务配置的备用存储单元。 本专利技术公开的存储质量控制方法中,所述降级因素参数的格式可以为〈类型,参 数调整值〉;其中,类型为存储集群类型或存储单元类型; 具体地,所述根据接收的每个业务的指标值中,每个业务的各个存储节点指标值 和各个存储单元指标值,分别确定每个业务的各个存储节点服务器所在的集群的降级因素 参数和各个存储单元的降级因素参数,可以包括: 查找预设的降级因素参数列表,所述降级因素参数列表中包含存储集群指标调整 条件及对应的参数调整值,和存储单元指标调整条件及对应的参数调整值; 判断接收的每个业务的存储节点指标值,是否满足降级因素参数列表中的任一存 储集群指标调整条件;若是,则该存储节点服务器所在的集群的降级因素参数的类型为: 存储集群类型,参数调整值为:该存储集群指标调整条件对应的参数调整值;若否,则该存 储节点服务器所在的集群的降级因素参数的类型为:存储集群类型,参数调整值为:null; 判断接收的每个业务的存储单元指标值,是否满足降级因素参数列表中的任一存 储单元指标调整条件;若是,则该存储单元的降级因素参数的:类型为:存储单元类型,参 数调整值为:该存储单元指标调整条件对应的参数调整值;若否,则该存储单元的降级因 素参数类型为:存储单元类型,参数调整值为:null。 本专利技术公开的存储质量控制方法中,可以预先设置一个存储质量最高分; 具体地,所述根据每个业务的各个集群降级因素参数和各个存储单元降级因素参 数,按照预设的评分算法,对该业务使用的所述各个存储单元进行存储质量评分,包括: 先判断该业务的集群降级因素参数中,是否有参数调整值为非null的集群降级 因素参数;如果有,则该业务使用的属于该集群的每个存储单元的存储质量评分值为:存 储质量最高分与本文档来自技高网
...
一种<a href="http://www.xjishu.com/zhuanli/62/CN105072201.html" title="一种分布式存储系统及其存储质量控制方法及装置原文来自X技术">分布式存储系统及其存储质量控制方法及装置</a>

【技术保护点】
一种分布式存储系统,包括多个分布式存储集群;每个分布式存储集群包括多个存储节点服务器;每个存储节点服务器包括多个存储单元;其特征在于,还包括:至少一个指标监控服务器和至少一个存储质量控制服务器;所述的每个指标监控服务器,与多个集群中的多个存储节点服务器相连,用于针对每个业务,对该每个业务使用的各个存储单元及其所在的各个存储节点服务器进行指标监控,获得每个业务的指标值;所述每个业务的指标值,包括:用于标识该业务使用的各个存储单元当前工作状态的存储单元指标值,和用于标识该业务使用的各个存储单元所在的各个存储节点服务器当前工作状态的存储节点指标值;将获得的每个业务的指标值,按预设的时间周期发送给存储质量控制服务器;所述的存储质量控制服务器,与多个集群中的多个存储节点服务器相连,用于接收所述指标监控服务器按预设的时间周期发送的每个业务的指标值;根据接收的每个业务的指标值中,每个业务的各个存储节点指标值和各个存储单元指标值,分别确定每个业务的各个存储节点服务器所在的集群的降级因素参数和各个存储单元的降级因素参数;根据每个业务的各个集群降级因素参数和各个存储单元降级因素参数,按照预设的评分算法,对该业务使用的所述各个存储单元进行存储质量评分;根据每个业务使用的各个存储单元当前周期的存储质量评分值,确定每个业务的待调整权重的存储单元,和/或待切换新增数据的存储单元;并生成针对待调整权重的存储单元,和/或待切换新增数据的存储单元的切换建议;根据所述切换建议,控制待调整权重的存储单元调整接收该业务新增数据的权重和/或将该业务的新增数据切换至为该业务配置的备用存储单元。...

【技术特征摘要】

【专利技术属性】
技术研发人员:冯盼盼卢明樊
申请(专利权)人:北京奇艺世纪科技有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1