System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及大数据,特别是涉及一种数据清理方法、装置和计算机设备。
技术介绍
1、在大数据时代,项目或企业经常会需要存储、分析并计算大量的数据,往往会出现由于存储数据量大导致水位打满的问题,而水位问题不及时解决则会带来很多无法预知的问题,如机器宕机、业务停止等,甚至可能会带来非常大的财产损失以及客户投诉。
2、现有技术中针对数据的清理方案往往是周期性对文件进行清理,已解决水位问题,但现有技术中往往只针对某一种存储组件,其余组件仍可能会面临水位打满而无法及时清理的问题,并且由于其并无监控以及日志分析方案,从而进一步导致无法分析历史数据等问题。
3、目前,针对数据清理不够全面的问题,尚未提出有效地解决方案。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种数据清理方法、装置和计算机设备。
2、第一方面,本申请提供了一种数据清理方法。该方法包括:
3、获取对应于预设的至少一个待清理设备的水位警报信息;
4、基于水位警报信息确定待清理设备中的目标待清理设备,对目标待清理设备进行数据水位的查询,得到待清理设备中的数据查询结果,基于数据查询结果与预设的至少一种清理方案进行匹配,确定至少一种目标清理方案;
5、基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果。
6、在其中一个实施例中,基于数据查询结果与预设的至少一种清理方案进行匹配,确定至少一种目标清理方案,包括:
7
8、基于清理方案权重以及数据查询结果确定目标清理方案。
9、在其中一个实施例中,上述方法还包括:
10、根据预设的工作周期对所有待清理设备中保存的数据进行持续监测处理,得到至少一组数据监测结果;
11、对数据监测结果进行可视化处理,得到对应于待清理设备的可视化结果;其中,可视化结果用于反映所有待清理设备的数据存储情况。
12、在其中一个实施例中,基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
13、基于数据查询结果得到目标待清理设备中的已存储数据,并查询得到已存储数据的建立时间;
14、将建立时间与预设的时间限度进行比对,确定建立时间大于时间额度的数据为待清理数据,并对待清理数据进行清除,得到数据清理结果。
15、在其中一个实施例中,清理方案包括索引清理方案;基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
16、基于数据查询结果得到目标待清理设备中的已存储索引数据,并查询得到已存储索引数据的历史访问情况;
17、基于索引清理方案,将已存储索引数据中的未访问数据确定为待清理索引数据,并将待清理索引数据进行删除,得到数据清理结果;其中,未访问数据为基于历史访问情况确定的,在预设的访问期限内未进行访问的索引数据。
18、在其中一个实施例中,清理方案包括主题清理方案;基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
19、基于数据查询结果得到目标待清理设备中的已存储主题数据;
20、基于主题清理方案,响应于获取到的主题清除指令,在已存储主题数据中确定待清理主题数据,并将待清理主题数据进行清除,得到数据清理结果。
21、在其中一个实施例中,清理方案包括会话清理方案;基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
22、基于数据查询结果得到目标待清理设备中的已存储会话数据;
23、基于会话清理方案,对所有已存储会话数据进行检测,将处于无效状态的会话数据确定为待清理会话数据,并将待清理会话数据进行清除,得到数据清理结果。
24、在其中一个实施例中,清理方案包括文件清理方案;基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
25、基于数据查询结果得到目标待清理设备中的已存储文件数据;
26、基于文件清理方案,将已存储文件数据与对应的预设文件配额进行比对,将空间存储额度大于预设文件配额的文件数据确定为待清理文件数据,并对已存储文件数据中的待清理文件数据进行清除,得到数据清理结果。
27、第二方面,本申请还提供了一种数据清理装置。该装置包括:
28、获取模块,用于获取对应于预设的至少一个待清理设备的水位警报信息;
29、计算模块,用于基于水位警报信息确定待清理设备中的目标待清理设备,对目标待清理设备进行数据水位的查询,得到待清理设备中的数据查询结果,基于数据查询结果与预设的至少一种清理方案进行匹配,确定至少一种目标清理方案;
30、生成模块,用于基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果。
31、第三方面,本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
32、获取对应于预设的至少一个待清理设备的水位警报信息;
33、基于水位警报信息确定待清理设备中的目标待清理设备,对目标待清理设备进行数据水位的查询,得到待清理设备中的数据查询结果,基于数据查询结果与预设的至少一种清理方案进行匹配,确定至少一种目标清理方案;
34、基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果。
35、上述数据清理方法、装置和计算机设备,首先获取对应于待清理设备的水位警报信息,根据水位警报信息确定待清理设备中的目标待清理设备,并对目标待清理设备进行数据水位的查询,得到待清理设备中的数据查询结果,再基于数据查询结果与至少一种清理方案进行匹配,从而确定至少一种目标清理方案;最后基于目标清理方案,对数据查询结果中的待清理数据进行清除,得到数据清理结果。通过上述方案,可以及时、全面的对存储的各种数据进行清理,避免由于水位打满而导致业务受到影响的情况。
本文档来自技高网...【技术保护点】
1.一种数据清理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述数据查询结果与预设的至少一种清理方案进行匹配,确定至少一种目标清理方案,包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述基于所述目标清理方案,对所述数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
5.根据权利要求1至4任一项所述的方法,其特征在于,所述清理方案包括索引清理方案;所述基于所述目标清理方案,对所述数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
6.根据权利要求1至4任一项所述的方法,其特征在于,所述清理方案包括主题清理方案;所述基于所述目标清理方案,对所述数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
7.根据权利要求1至4任一项所述的方法,其特征在于,所述清理方案包括会话清理方案;所述基于所述目标清理方案,对所述数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
8
9.一种数据清理装置,其特征在于,所述装置包括:
10.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至8中任一项所述的方法的步骤。
...【技术特征摘要】
1.一种数据清理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述数据查询结果与预设的至少一种清理方案进行匹配,确定至少一种目标清理方案,包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述基于所述目标清理方案,对所述数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
5.根据权利要求1至4任一项所述的方法,其特征在于,所述清理方案包括索引清理方案;所述基于所述目标清理方案,对所述数据查询结果中的待清理数据进行清除,得到数据清理结果,包括:
6.根据权利要求1至4任一项所述的方法,其特征在于,所述清理方案包括主题清理方案;所...
【专利技术属性】
技术研发人员:谈东晨,刘霄杰,金晓磊,
申请(专利权)人:杭州安恒信息技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。