时序数据的通用检索方法、系统、设备及存储介质技术方案

技术编号:40435477 阅读:28 留言:0更新日期:2024-02-22 23:00
本发明专利技术提供一种时序数据的通用检索方法、系统、设备及存储介质,该方法包括:根据每个时间点的时序数据表分别构建通用索引;将通用索引进行分块压缩得到压缩后的通用索引,先将压缩后的通用索引存储至磁盘中,再将时序数据表中的时序数据存储至磁盘中;从磁盘中读取通用索引,根据通用索引过滤并检索时序数据。本发明专利技术根据通用索引中位置信息快速精确的检索时序数据,通用索引构造简单,适用于所有时序数据表,同时避免读写磁盘IO的浪费,消耗的CPU和内存资源较少,进而提高时序数据的有效利用率。

【技术实现步骤摘要】

本专利技术涉及数据处理,具体涉及一种时序数据的通用检索方法、系统、设备及存储介质


技术介绍

1、随着物联网和5g时代的到来,物联网、应用监测、工业互联网等时序场景的数据呈爆发式增长,因此需要实时处理大规模的时序数据。时序数据是一种按时间维度索引的数据,由于时序数据能够有效反映数据指标在时间维度的变化规律,因此时序数据被广泛应用于包括用户行为分析、用户标签计算和网络统计工程等大数据分析场景中。在这些大数据分析场景中,通常会生成很多数据表,在对数据表查询的过程中需要进行全量的数据查询和数据检索,数据查询是查询某一时间点或时间段统计表的所有数据,数据检索则是检索某一时间点或时间段统计表中满足一定条件的数据。

2、目前时序数据常用的检索方案通常为先遍历时间找到需要检索的时间,然后从磁盘读出对应时间的数据根据检索条件过滤得到需要的数据,该方案要从磁盘读取数据的规模太大时,会严重浪费io资源,同时读取的数据中很多不是我们需要检索的数据,导致数据的有效利用率低。有的方案提出采用时间投影索引过滤掉无效的时间点,进而提升检索性能,但是该方案只能从时间级别过滤,本文档来自技高网...

【技术保护点】

1.一种时序数据的通用检索方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的时序数据的通用检索方法,其特征在于,所述根据每个时间点的时序数据表分别构建通用索引具体包括:

3.根据权利要求2所述的时序数据的通用检索方法,其特征在于,采用以下公式计算所述缓存的大小:

4.根据权利要求1所述的时序数据的通用检索方法,其特征在于,将所述通用索引进行分块压缩得到压缩后的通用索引具体包括:

5.根据权利要求4所述的时序数据的通用检索方法,其特征在于,所述第一设定值根据所述压缩数据块的大小设定,所述压缩数据块的大小根据所述磁盘的参数设置。...

【技术特征摘要】

1.一种时序数据的通用检索方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的时序数据的通用检索方法,其特征在于,所述根据每个时间点的时序数据表分别构建通用索引具体包括:

3.根据权利要求2所述的时序数据的通用检索方法,其特征在于,采用以下公式计算所述缓存的大小:

4.根据权利要求1所述的时序数据的通用检索方法,其特征在于,将所述通用索引进行分块压缩得到压缩后的通用索引具体包括:

5.根据权利要求4所述的时序数据的通用检索方法,其特征在于,所述第一设定值根据所述压缩数据块的大小设定,所述压缩数据块的大小根据所述磁盘的参数设置。

6.根据权利要求1所述的时序数据的通...

【专利技术属性】
技术研发人员:游浣权王勇
申请(专利权)人:科来网络技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1