基于索引模板的分表管理方法、装置、设备及存储介质制造方法及图纸

技术编号:32571166 阅读:25 留言:0更新日期:2022-03-09 16:58
本申请提出一种基于索引模板的分表管理方法、装置、设备及存储介质。该方法包括:接收用户的数据插入请求,数据插入请求包括待插入的业务数据和业务表名;确定与业务表名匹配的索引模板,索引模板中包括分表单位的修改记录;根据业务表名和分表单位的修改记录,将待插入的业务数据插入目标分区索引表。本申请在索引模板的元数据中记录分表单位的修改记录。基于分表单位实现对分区索引表的灵活管理,实现对任意分区索引表中数据的增删改查。通过对分表单位的修改记录的精确记录和管理,实现了将对业务表的增删改查操作,快速转换为对某些特定分区索引表的操作,减少了每次操作需要处理的索引分片数量,从而提高了数据处理的效率。率。率。

【技术实现步骤摘要】
基于索引模板的分表管理方法、装置、设备及存储介质


[0001]本申请涉及数据处理
,更为具体来说,本申请涉及一种基于 索引模板的分表管理方法、装置、设备及存储介质。

技术介绍

[0002]目前搜索服务器Elasticsearch(简称ES)提供了对滚动索引(rolloverindex)的支持,可以根据索引大小、文档数量和索引存在时间实现自动 分表的功能。当满足指定条件时自动触发建立新的索引,并将写别名(writealias)指向新的索引。后续所有的更新都将写入新的索引中,旧的索引变 为只读。
[0003]但在数据写入时,会将数据写入最新的分区索引表中,旧的分区索引 表只提供数据查询功能。如此无法实现将数据写入指定的分区索引表。

技术实现思路

[0004]基于上述技术缺陷,本申请提出了一种基于索引模板的分表管理方法、 装置、设备及存储介质。基于分表单位实现对数据的分区索引表管理,基 于业务表名和分表单位,能够将数据写入指定的分区索引表。
[0005]本申请第一方面提供了一种基于索引模板的分表管理方法,所述方法 包括:
[0006]接收用户的数据插入请求,所述数据插入请求包括业务表名和待插入 的业务数据;
[0007]确定与所述业务表名匹配的索引模板,所述索引模板中包括分表单位 的修改记录;
[0008]根据所述业务表名和所述分表单位的修改记录,将所述待插入的业务 数据插入目标分区索引表。
[0009]在本申请的一些实施例中,所述确定与所述业务表名匹配的索引模板 之前,还包括:
[0010]接收用户的建表请求,所述建表请求至少包括分表单位和别名信息;
[0011]根据所述建表请求,创建索引模板,所述索引模板中包括所述分表单 位和所述别名信息。
[0012]在本申请的一些实施例中,所述根据所述建表请求,创建索引模板, 包括:
[0013]创建索引模板;
[0014]根据所述别名信息,生成所述索引模板对应的模板匹配模式;
[0015]将所述别名信息和所述模板匹配模式存储在所述索引模板中;
[0016]根据所述分表单位和当前时间,在所述索引模板的元数据中存储所述 分表单位对应的修改记录。
[0017]在本申请的一些实施例中,所述方法还包括:
[0018]接收分表单位更新请求,所述分表单位更新请求包括业务表名和新的 分表单位;
[0019]根据所述新的分表单位和当前的时间戳,生成所述新的分表单位对应 的修改记录;
[0020]将所述新的分表单位对应的修改记录存储在所述业务表名对应的索 引模板的元数据中。
[0021]在本申请的一些实施例中,所述确定与所述业务表名匹配的索引模板, 包括:
[0022]从第一索引模板中获取所述第一索引模板对应的别名信息和模板匹 配模式;所述第一索引模板为当前已创建的任一索引模板;
[0023]确定所述业务表名与所述第一索引模板的别名信息是否符合所述第 一索引模板对应的模板匹配模式;
[0024]如果是,则将所述第一索引模板确定为与所述业务表名匹配的索引模 板。
[0025]在本申请的一些实施例中,所述根据所述业务表名和所述分表单位的 修改记录,将所述待插入的业务数据插入目标分区索引表,包括:
[0026]从与所述业务表名匹配的索引模板的元数据中,获取分表单位的修改 记录;
[0027]获取所述数据插入请求对应的时间戳;
[0028]根据所述分表单位的修改记录,确定所述时间戳对应的分表单位;
[0029]根据所述业务表名、所述时间戳及所述时间戳对应的分表单位,生成 分区表名称;
[0030]将所述待插入的业务数据存储至所述分区表名称对应的目标分区索 引表中。
[0031]在本申请的一些实施例中,所述方法还包括:
[0032]接收用户的数据查询请求,所述数据查询请求包括业务表名、时间参 数和待查询数据的数据标识;
[0033]根据所述业务表名,从与所述业务表名匹配的索引模板的元数据中获 取分表单位的修改记录;
[0034]根据所述业务表名、所述时间参数和所述分表单位的修改记录,生成 待查询的分区表名称;
[0035]根据所述待查询数据的数据标识,从所述待查询的分区表名称对应的 分区索引表中查询所述待查询数据。
[0036]在本申请的一些实施例中,所述时间参数包括待查询的起始时间戳和 截止时间戳;所述根据所述业务表名、所述时间参数和所述分表单位的修 改记录,生成待查询的分区表名称,包括:
[0037]从与所述业务表名匹配的索引模板中获取所有分区索引表的分区表 名称;
[0038]从所述分表单位的修改记录中获取所有修改记录的修改时间;
[0039]按照时间先后顺序对所述起始时间戳、所述截止时间戳和所有修改记 录的修改时间进行排序;
[0040]根据排序后位于所述起始时间戳和所述截止时间戳之间的修改记录 的修改时间,从所述所有分区索引表的分区表名称中,确定所述起始时间 戳和所述截止时间戳之间各时间段的分区索引表的分区表名称;
[0041]根据确定的各时间段对应的分区表名称,生成待查询的分区表名称列 表。
[0042]本申请第二方面提供了一种基于索引模板的分表管理装置,所述装置 包括:
[0043]接收模块,用于接收用户的数据插入请求,所述数据插入请求包括业 务表名和待插入的业务数据;
[0044]确定模块,用于确定与所述业务表名匹配的索引模板,所述索引模板 中包括分表单位的修改记录;
[0045]数据插入模块,用于根据所述业务表名和所述分表单位的修改记录, 将所述待插入的业务数据插入目标分区索引表。
[0046]本申请第三方面提供了一种电子设备,包括存储器、处理器及存储在 所述存储器上并可在所述处理器上运行的计算机程序,所述处理器运行所 述计算机程序以实现上述第一方面所述的方法。
[0047]本申请第四方面提供了一种计算机可读存储介质,其上存储有计算机 程序,该计算机程序被处理器执行时实现上述第一方面所述方法的步骤。
[0048]本申请的有益效果为:
[0049]本申请实施例在用户首次请求建表时创建了索引模板,在该索引模板 的元数据中记录了分表单位的修改记录,分表单位的修改方便快捷。基于 分表单位实现对分区索引表的灵活管理,实现对任意分区索引表中数据的 增删改查。通过对分表单位的修改记录的精确记录和管理,实现了将对业 务表的增删改查操作,快速转换为对某些特定分区索引表的操作,减少了 每次操作需要处理的索引分片数量,从而提高了数据处理的效率。
附图说明
[0050]构成说明书的一部分的附图描述了本申请的实施例,并且连同描述一 起用于解释本申请的原理。
[0051]参照附图,根据下面的详细描述,可以更加清楚地理解本申请,其中:
[本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于索引模板的分表管理方法,其特征在于,所述方法包括:接收用户的数据插入请求,所述数据插入请求包括业务表名和待插入的业务数据;确定与所述业务表名匹配的索引模板,所述索引模板中包括分表单位的修改记录,所述分表单位为基于所述索引模板划分分区索引表所依据的划分单位;根据所述业务表名和所述分表单位的修改记录,将所述待插入的业务数据插入目标分区索引表。2.根据权利要求1所述的方法,其特征在于,所述确定与所述业务表名匹配的索引模板之前,还包括:接收用户的建表请求,所述建表请求至少包括分表单位和别名信息;根据所述建表请求,创建索引模板,所述索引模板中包括所述分表单位和所述别名信息。3.根据权利要求2所述的方法,其特征在于,所述根据所述建表请求,创建索引模板,包括:创建索引模板;根据所述别名信息,生成所述索引模板对应的模板匹配模式;将所述别名信息和所述模板匹配模式存储在所述索引模板中;根据所述分表单位和当前时间,在所述索引模板的元数据中存储所述分表单位对应的修改记录。4.根据权利要求1

3任一项所述的方法,其特征在于,所述方法还包括:接收分表单位更新请求,所述分表单位更新请求包括业务表名和新的分表单位;根据所述新的分表单位和当前的时间戳,生成所述新的分表单位对应的修改记录;将所述新的分表单位对应的修改记录存储在所述业务表名对应的索引模板的元数据中。5.根据权利要求1所述的方法,其特征在于,所述确定与所述业务表名匹配的索引模板,包括:从第一索引模板中获取所述第一索引模板对应的别名信息和模板匹配模式;所述第一索引模板为当前已创建的任一索引模板;确定所述业务表名与所述第一索引模板的别名信息是否符合所述第一索引模板对应的模板匹配模式;如果是,则将所述第一索引模板确定为与所述业务表名匹配的索引模板。6.根据权利要求1所述的方法,其特征在于,所述根据所述业务表名和所述分表单位的修改记录,将所述待插入的业务数据插入目标分区索引表,包括:从与所述业务表名匹配的索引模板的元数据中,获取分表单位的修改记录;获取所述数据插入请求对应的时间戳;根据所述分表单位的修改记录,确定所述时间戳对应的分表单位;根据所述业务表名、所述时间戳及所述时间戳对应的分表单位,生成分区表名称;将所...

【专利技术属性】
技术研发人员:李京京谷凯凯
申请(专利权)人:新华三大数据技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1