一种处理方法、装置、电子设备及存储介质制造方法及图纸

技术编号:35488488 阅读:18 留言:0更新日期:2022-11-05 16:43
本发明专利技术公开了一种处理方法、装置、电子设备及存储介质。方法包括:获取第一数据中的第二数据在目标节点内的目标存储时长,所述第一数据为目标用户的目标用户数据中与目标业务类型对应的数据;如果所述目标存储时长小于或等于所述目标用户对应的第一预设时长,则根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据;对所述待处理数据进行处理。该方法通过设置目标用户对应的第一预设时长,能够当第一数据中的第二数据在目标节点内的目标存储时长小于或等于目标用户对应的第一预设时长时,根据目标用户数据所占用的存储空间大小来对待处理数据进行处理,以此在实现第一数据生命周期管理的基础上,满足各用户的控制需求。各用户的控制需求。各用户的控制需求。

【技术实现步骤摘要】
一种处理方法、装置、电子设备及存储介质


[0001]本专利技术涉及计算机
,尤其涉及一种处理方法、装置、电子设备及存储介质。

技术介绍

[0002]Elasticsearch(简称ES)是一种基于Apache Lucene的开源搜索引擎,在进行数据存储时,ES通常将数据分为热数据和冷数据,并分别存放在对应的存储空间,而随着时间流逝,ES中的数据会慢慢积累变多,此时需要将存储的热数据和冷数据进行动态的调整,以减少ES的负压,提升当前的查询效率。
[0003]在现有的技术方案中,ES能够根据索引来实现热数据与冷数据生命周期的管理,如索引中存放有热数据,当某一用户的热数据到达其设定的保存时间时,就会将包含此热数据的整条索引进行迁移,此种管理方式力度较为粗放,不能满足各用户的控制需求。

技术实现思路

[0004]本专利技术提供了一种处理方法、装置、电子设备及存储介质,以在实现热数据与冷数据生命周期管理的基础上,满足各用户的控制需求。
[0005]根据本专利技术的一方面,提供了一种处理方法,包括:
[0006]获取第一数据中的第二数据在目标节点内的目标存储时长,所述第一数据为目标用户的目标用户数据中与目标业务类型对应的数据;
[0007]如果所述目标存储时长小于或等于所述目标用户对应的第一预设时长,则根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据;
[0008]对所述待处理数据进行处理。
[0009]根据本专利技术的另一方面,提供了一种处理装置,包括:
[0010]获取模块,用于获取第一数据中的第二数据在目标节点内的目标存储时长,所述第一数据为目标用户的目标用户数据中与目标业务类型对应的数据;
[0011]确定模块,用于如果所述目标存储时长小于或等于所述目标用户对应的第一预设时长,则根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据;
[0012]处理模块,用于对所述待处理数据进行处理。
[0013]根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
[0014]至少一个处理器;以及
[0015]与所述至少一个处理器通信连接的存储器;其中,
[0016]所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的处理方法。
[0017]根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储
介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的处理方法。
[0018]本专利技术实施例提供了一种处理方法、装置、电子设备及存储介质。所述方法包括:获取第一数据中的第二数据在目标节点内的目标存储时长,所述第一数据为目标用户的目标用户数据中与目标业务类型对应的数据;如果所述目标存储时长小于或等于所述目标用户对应的第一预设时长,则根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据;对所述待处理数据进行处理。利用上述技术方案,通过设置目标用户对应的第一预设时长,能够当第一数据中的第二数据在目标节点内的目标存储时长小于或等于目标用户对应的第一预设时长时,根据目标用户数据所占用的存储空间大小来对待处理数据进行处理,以此在实现第一数据生命周期管理的基础上,满足各用户的控制需求。
[0019]应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例一提供的一种处理方法的流程图;
[0022]图2是根据本专利技术实施例二提供的一种处理方法的流程图;
[0023]图3是根据本专利技术实施例二提供的一种处理方法的流程图;
[0024]图4是根据本专利技术实施例三提供的一种处理方法的流程图;
[0025]图5是根据本专利技术实施例三提供的一种处理方法的流程图;
[0026]图6是根据本专利技术实施例四提供的一种处理装置的结构示意图;
[0027]图7是根据本专利技术实施例五提供的一种电子设备的结构示意图。
具体实施方式
[0028]为了使本
的人员更好地理解本专利技术方案,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分的实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本专利技术保护的范围。
[0029]需要说明的是,本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0030]实施例一
[0031]图1是根据本专利技术实施例一提供的一种处理方法的流程图,本实施例可适用于对ES中用户存储的数据进行处理的情况,该方法可以由处理装置来执行,该处理装置可以采用硬件和/或软件的形式实现,该处理装置可配置于电子设备中。如图1所示,该方法包括:
[0032]S110、获取第一数据中的第二数据在目标节点内的目标存储时长,所述第一数据为目标用户的目标用户数据中与目标业务类型对应的数据。
[0033]其中,第一数据可以认为是目标用户的目标用户数据中与目标业务类型对应的数据,目标用户可以是指在目标节点中存储有数据的某一用户;目标用户数据即为目标用户在目标节点中存储的数据,目标用户数据的大小与内容不限,目标用户数据可以对应一个或多个的业务类型,目标业务类型可以理解为多个业务类型中的某一业务类型,目标业务类型用于表征第一数据的业务类型,如目标业务类型可以为云防火墙业务等。
[0034]目标节点可理解为存储多个用户的用户数据的服务器,在本实施例中,不同类型服务器中存储的用户数据的类型有所差异,如在性能较高的服务器(即热节点)中可以存储有各用户访问频率较高的用户数据(即热数据),便于用户进行查询;而在性能较低的服务器(即冷节点,如硬盘)中可以存储有各用户访问频率较低高的用户数据(即冷数据),用于恢复与备份等。...

【技术保护点】

【技术特征摘要】
1.一种处理方法,其特征在于,所述方法包括:获取第一数据中的第二数据在目标节点内的目标存储时长,所述第一数据为目标用户的目标用户数据中与目标业务类型对应的数据;如果所述目标存储时长小于或等于所述目标用户对应的第一预设时长,则根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据;对所述待处理数据进行处理。2.根据权利要求1所述的方法,其特征在于,所述第一数据包括热数据,所述目标节点包括热节点。3.根据权利要求2所述的方法,其特征在于,所述根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据,包括:如果所述目标用户数据所占用的存储空间大小大于第一预设阈值且所述第二数据的目标存储时长大于第二预设时长,则将所述第一数据中的第一待处理数据作为待处理数据;如果所述目标用户数据所占用的存储空间大小大于第一预设阈值且所述第二数据的目标存储时长小于或等于第二预设时长,则将所述第一数据中的第二待处理数据作为待处理数据。4.根据权利要求2所述的方法,其特征在于,在所述对所述待处理数据进行处理之前,还包括:如果所述目标存储时长大于所述目标用户对应的第一预设时长,则将所述第一数据中的第一待处理数据作为待处理数据。5.根据权利要求3或4所述的方法,其特征在于,所述将所述第一数据中的第一待处理数据作为待处理数据,包括:确定所述目标业务类型对应的目标热数据索引以及所述目标热数据索引中存储的第一数据;将存储时间位于所述第一数据对应的首个第一预设时间周期之内的第一待处理数据作为待处理数据。6.根据权利要求3所述的方法,其特征在于,所述将所述第一数据中的第二待处理数据作为待处理数据,包括:确定所述目标业务类型对应的目标热数据索引以及所述目标热数据索引中存储的第一数据;将存储时间位于所述第一数据对应的前n个预设时间粒度之内的第二待处理数据作为待处理数据,其中,n为正整数,所述前n个预设时间粒度对应的总时间长度小于第一预设时间周期的周期长度。7.根据权利要求2所述的方法,其特征在于,所述对所述待处理数据进行处理,包括:将所述待处理数据迁移至冷节点中的第一冷数据索引内,所述第一冷数据索引与所述目标业务类型以及当前第一预设时间周期对应。8.根据权利要求7所述的方法,其特征在于,所述将所述待处理数据迁移至冷节点中的第一冷数据索引内,包括:按照预设时间粒度和存储时间对所述待处理数据进行分组,其中,所述预设时间粒度
对应的时间长度小于第一预设时间周期的周期长度;按照存储时间由早到晚的顺序依次将各组待处理数据迁移至冷节点中的第一冷数据索引内。9.根据权利要求7所述的方法,其特征在于,在所述将所述待处理数据迁移至冷节点中的第一冷数据索引内之前,还包括:如果冷节点中不存在第一冷数据索引,则创建与所述目标业务类型以及当前第一预设时间周期对应的冷数据索引,作为第一冷数据索引。10.根据权利要求1所述的方法,其特征在于,所述第一数据包括冷数据,所述目标节点包括冷节点。11.根据权利要求10所述的方法,其特征在于,所述根据所述目标用户数据所占用的存储空间大小确定所述第一数据中的待处理数据,包括:如果所述目标用户数据...

【专利技术属性】
技术研发人员:林东森
申请(专利权)人:北京青云科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1