一种存储系统操作日志的聚合方法及相关装置制造方法及图纸

技术编号:20363052 阅读:56 留言:0更新日期:2019-02-16 16:36
本申请公开了一种存储系统操作日志的聚合方法,包括:根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;根据所述聚合方式依次对所述循环列表内的聚合点循环进行日志聚合;当循环到已进行日志聚合的聚合点时,将所述聚合点的操作日志进行删除,对删除操作日志的聚合点进行日志聚合。通过将日志聚合分布在循环列表的聚合点循环进行日志聚合,当循环到已进行日志聚合的聚合点时,只需要将原有的操作日志进行删除,再进行日志聚合,实现了操作日志的自动删除,避免了人工进行操作,提高了存储系统的可靠性。本申请还公开了一种存储系统操作日志的聚合装置、服务器以及计算机可读存储介质,具有以上有益效果。

【技术实现步骤摘要】
一种存储系统操作日志的聚合方法及相关装置
本申请涉及计算机
,特别涉及一种存储系统操作日志的聚合方法、聚合装置、服务器以及计算机可读存储介质。
技术介绍
目前在分布式对象存储中,对存储数据进行操作会得到相应的操作日志,包括用户级操作日志和桶级操作日志。通过对操作日志的追溯功能,可以方便用户对一段时间内用户或桶的数据操作进行追溯,以便对数据进行恢复。在分布式存储系统中只要开始记录分布式对象存储的操作日志,就会不断记录分布式存储的操作日志,并且系统一般以小时为单位对日志数据进行聚合,当系统的并发流量不断增多时,按照小时为单位的聚合方式,会使单个聚合点的数据过大,影响系统的运行性能。现有技术中,为了解决聚合点数据过多的问题,一般都是系统管理人员按照经验对数据进行删除操作或保留操作,分布式存储系统无法自主、自动的对日志数据进行选择。但是,在无人值守的时候,就缺失了对分布式存储系统的操作日志进行删除的操作,操作日志随着时间推移会保存过多,影响存储系统性能。并且,为了删除存储系统中的操作日志必须要管理人员进行操作,增加了分布式存储系统的维护成本,还无法避免人为操作的错误,降低分布式存储系统的可靠性。因此,如何使分布式存储系统的操作日志在聚合过程中自动进行删除是本领域技术人员关注的重点问题。
技术实现思路
本申请的目的是提供一种存储系统操作日志的聚合方法、聚合装置、服务器以及计算机可读存储介质,通过将日志聚合分布在循环列表的聚合点循环进行日志聚合,当循环到已进行日志聚合的聚合点时,只需要将原有的操作日志进行删除,再进行日志聚合,实现了操作日志的自动删除,避免了人工进行操作,提高了存储系统的可靠性。为解决上述技术问题,本申请提供一种存储系统操作日志的聚合方法,包括:根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;根据所述聚合方式依次对所述循环列表内的聚合点循环进行日志聚合;当循环到已进行日志聚合的聚合点时,将所述聚合点的操作日志进行删除,对删除操作日志的聚合点进行日志聚合。可选的,根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表,包括:对所述聚合方式进行特征数据采集,得到聚合特征数据;根据聚合点数量机器学习模型对所述聚合特征数据进行样本计算,得到所述聚合点数量,根据所述聚合点数量构造聚合点的循环列表;其中,所述聚合点数量机器学习模型是根据日志聚合样本进行训练得到的。可选的,根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表,包括:获取系统硬件资源,根据所述系统硬件资源和所述聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表。可选的,还包括:获取系统实时硬件资源;根据所述实时硬件资源对所述循环列表的聚合点数量进行动态调整。本申请还提供一种存储系统操作日志的聚合装置,包括:循环列表构造模块,用于根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;日志聚合模块,用于根据所述聚合方式依次对所述循环列表内的聚合点循环进行日志聚合;日志删除模块,用于当循环到已进行日志聚合的聚合点时,将所述聚合点的操作日志进行删除,对删除操作日志的聚合点进行日志聚合。可选的,所述循环列表构造模块,包括:聚合特征获取模块,用于对所述聚合方式进行特征数据采集,得到聚合特征数据;机器学习计算模块,用于根据聚合点数量机器学习模型对所述聚合特征数据进行样本计算,得到所述聚合点数量,根据所述聚合点数量构造聚合点的循环列表;其中,所述聚合点数量机器学习模型是根据日志聚合样本进行训练得到的。可选的,所述循环列表构造模块,具体用于获取系统硬件资源,根据所述系统硬件资源和所述聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表。可选的,还包括:实时硬件获取模块,用于获取系统实时硬件资源;动态调整模块,用于根据所述实时硬件资源对所述循环列表的聚合点数量进行动态调整。本申请还提供一种服务器,包括:存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现如上所述的聚合方法的步骤。本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的聚合方法的步骤。本申请所提供的一种存储系统操作日志的聚合方法,包括:根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;根据所述聚合方式依次对所述循环列表内的聚合点循环进行日志聚合;当循环到已进行日志聚合的聚合点时,将所述聚合点的操作日志进行删除,对删除操作日志的聚合点进行日志聚合。通过将操作日志的聚合操作分布在多个聚合点内,每个聚合点都平均承担了操作日志的数据存储,并且聚合点在存储系统内的数量是有限的,所以可以按照聚合点的循环列表对循环列表内的聚合点循环进行日志聚合,当循环到已经执行日志聚合的聚合点时,将该聚合点原有的操作日志进行删除再进行日志聚合,也就是每次对聚合点进行新的日志聚合操作时,后续的日志聚合会对之前的操作日志的数据进行覆盖删除,进而实现操作日志的自动删除,避免人工进行删除操作,降低存储系统的维护成本,提高存储系统的可靠性。本申请还提供一种存储系统操作日志的聚合装置、服务器以及计算机可读存储介质,具有以上有益效果,在此不做赘述。附图说明为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。图1为本申请实施例所提供的一种存储系统操作日志的聚合方法的流程图;图2为本申请实施例所提供的一种存储系统操作日志的聚合装置的结构示意图。具体实施方式本申请的核心是提供一种存储系统操作日志的聚合方法、聚合装置、服务器以及计算机可读存储介质,通过将日志聚合分布在循环列表的聚合点循环进行日志聚合,当循环到已进行日志聚合的聚合点时,只需要将原有的操作日志进行删除,再进行日志聚合,实现了操作日志的自动删除,避免了人工进行操作,提高了存储系统的可靠性。为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。现有技术中,为了解决聚合点数据过多的问题,一般都是系统管理人员按照经验对数据进行删除操作或保留操作,分布式存储系统无法自主、自动的对日志数据进行选择。但是,在无人值守的时候,就缺失了对分布式存储系统的操作日志进行删除的操作,操作日志随着时间推移会保存过多,影响存储系统性能。并且,为了删除存储系统中的操作日志必须要管理人员进行操作,增加了分布式存储系统的维护成本,还无法避免人为操作的错误,降低分布式存储系统的可靠性。因此,本申请实施例提供一种存储系统操作日志的聚合方法,通过将操作日志的聚合操作分布在多个聚合点内,每个聚合点都平均承担了操作日志的数据存储,并且聚合点在存储系统内的数量是有限,所以可以按照聚合点的循环列表对循环列本文档来自技高网...

【技术保护点】
1.一种存储系统操作日志的聚合方法,其特征在于,包括:根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;根据所述聚合方式依次对所述循环列表内的聚合点循环进行日志聚合;当循环到已进行日志聚合的聚合点时,将所述聚合点的操作日志进行删除,对删除操作日志的聚合点进行日志聚合。

【技术特征摘要】
1.一种存储系统操作日志的聚合方法,其特征在于,包括:根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;根据所述聚合方式依次对所述循环列表内的聚合点循环进行日志聚合;当循环到已进行日志聚合的聚合点时,将所述聚合点的操作日志进行删除,对删除操作日志的聚合点进行日志聚合。2.根据权利要求1所述的聚合方法,其特征在于,根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表,包括:对所述聚合方式进行特征数据采集,得到聚合特征数据;根据聚合点数量机器学习模型对所述聚合特征数据进行样本计算,得到所述聚合点数量,根据所述聚合点数量构造聚合点的循环列表;其中,所述聚合点数量机器学习模型是根据日志聚合样本进行训练得到的。3.根据权利要求1所述的聚合方法,其特征在于,根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表,包括:获取系统硬件资源,根据所述系统硬件资源和所述聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表。4.根据权利要求1所述的聚合方法,其特征在于,还包括:获取系统实时硬件资源;根据所述实时硬件资源对所述循环列表的聚合点数量进行动态调整。5.一种存储系统操作日志的聚合装置,其特征在于,包括:循环列表构造模块,用于根据聚合方式确定聚合点数量,根据所述聚合点数量构造聚合点的循环列表;日志聚合模块,用于根据所述聚合方...

【专利技术属性】
技术研发人员:白学余翟亚永杨富强
申请(专利权)人:浪潮电子信息产业股份有限公司
类型:发明
国别省市:山东,37

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1