【技术实现步骤摘要】
本专利技术涉及数据处理,具体涉及一种时序数据的通用检索方法、系统、设备及存储介质。
技术介绍
1、随着物联网和5g时代的到来,物联网、应用监测、工业互联网等时序场景的数据呈爆发式增长,因此需要实时处理大规模的时序数据。时序数据是一种按时间维度索引的数据,由于时序数据能够有效反映数据指标在时间维度的变化规律,因此时序数据被广泛应用于包括用户行为分析、用户标签计算和网络统计工程等大数据分析场景中。在这些大数据分析场景中,通常会生成很多数据表,在对数据表查询的过程中需要进行全量的数据查询和数据检索,数据查询是查询某一时间点或时间段统计表的所有数据,数据检索则是检索某一时间点或时间段统计表中满足一定条件的数据。
2、目前时序数据常用的检索方案通常为先遍历时间找到需要检索的时间,然后从磁盘读出对应时间的数据根据检索条件过滤得到需要的数据,该方案要从磁盘读取数据的规模太大时,会严重浪费io资源,同时读取的数据中很多不是我们需要检索的数据,导致数据的有效利用率低。有的方案提出采用时间投影索引过滤掉无效的时间点,进而提升检索性能,但是该方案
...【技术保护点】
1.一种时序数据的通用检索方法,其特征在于,所述方法包括如下步骤:
2.根据权利要求1所述的时序数据的通用检索方法,其特征在于,所述根据每个时间点的时序数据表分别构建通用索引具体包括:
3.根据权利要求2所述的时序数据的通用检索方法,其特征在于,采用以下公式计算所述缓存的大小:
4.根据权利要求1所述的时序数据的通用检索方法,其特征在于,将所述通用索引进行分块压缩得到压缩后的通用索引具体包括:
5.根据权利要求4所述的时序数据的通用检索方法,其特征在于,所述第一设定值根据所述压缩数据块的大小设定,所述压缩数据块的大小根据
...【技术特征摘要】
1.一种时序数据的通用检索方法,其特征在于,所述方法包括如下步骤:
2.根据权利要求1所述的时序数据的通用检索方法,其特征在于,所述根据每个时间点的时序数据表分别构建通用索引具体包括:
3.根据权利要求2所述的时序数据的通用检索方法,其特征在于,采用以下公式计算所述缓存的大小:
4.根据权利要求1所述的时序数据的通用检索方法,其特征在于,将所述通用索引进行分块压缩得到压缩后的通用索引具体包括:
5.根据权利要求4所述的时序数据的通用检索方法,其特征在于,所述第一设定值根据所述压缩数据块的大小设定,所述压缩数据块的大小根据所述磁盘的参数设置。
6.根据权利要求1所述的时序数据的通...
【专利技术属性】
技术研发人员:游浣权,王勇,
申请(专利权)人:科来网络技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。