一种时序数据处理方法、装置、设备以及存储介质制造方法及图纸

技术编号:38378932 阅读:15 留言:0更新日期:2023-08-05 17:38
本发明专利技术公开了一种时序数据处理方法、装置、设备以及存储介质。该方法包括:响应于对目标时序数据的写入请求,确定所述目标时序数据对应的测点信息和测量数据;基于预设的文档搜索引擎,确定所述测点信息对应的测点编号;根据所述测量数据和所述测点编号,将所述目标时序数据写入预设数据库和共享内存队列中。本发明专利技术的技术方案,可以基于文档搜索引擎快速确定目标时序数据对应的测点编号,提高目标时序数据的写入效率,同时,通过将目标时序数据分别写入预设数据库和共享内存队列,有助于后续针对性地对目标时序数据的检索请求和广播请求进行响应,提高时序数据处理效率。提高时序数据处理效率。提高时序数据处理效率。

【技术实现步骤摘要】
一种时序数据处理方法、装置、设备以及存储介质


[0001]本专利技术涉及计算机领域,尤其涉及一种时序数据处理方法、装置、设备以及存储介质。

技术介绍

[0002]时序数据是随时间不断产生的一系列数据,相比于其他数据,时序数据有明显的时间维度,这类数据通常写多读少,需要支持秒级、毫秒级甚至纳秒级数据写入频率。
[0003]因此,如何有效地对时序数据的写入过程进行管理,提高时序数据的处理效率,是目前亟待解决的问题。

技术实现思路

[0004]本专利技术提供了一种时序数据处理方法、装置、设备以及存储介质,可以提高时序数据的处理效率,更好地对时序数据进行管理。
[0005]根据本专利技术的一方面,提供了一种时序数据处理方法,包括:
[0006]响应于对目标时序数据的写入请求,确定所述目标时序数据对应的测点信息和测量数据;
[0007]基于预设的文档搜索引擎,确定所述测点信息对应的测点编号;
[0008]根据所述测量数据和所述测点编号,将所述目标时序数据写入预设数据库和共享内存队列中。
[0009]可选的,根据所述测量数据和所述测点编号,将所述目标时序数据写入预设数据库和共享内存队列中,包括:
[0010]基于远程过程调用协议,与预设的HBase集群交互,将所述测量数据和所述测点编号写入所述HBase集群的HBase数据库中;
[0011]若检测到目标时序数据在HBase数据库写入完成,则根据所述测点编号和所述测量数据,将所述目标时序数据写入预设的共享内存队列中。
[0012]上述技术方案通过基于RPC协议与HBase集群交互,从而可以将目标时序数据关联的测量数据和测点编号写入HBase数据库,给出了将目标时序数据写入数据库的一种可实施方式,通过在检测到在数据库写入完成后,进一步将目标时序数据写入共享内存队列进行缓存,给出了将目标时序数据写入内存队列的一种可实施方式,通过将目标时序数据分别写入数据库和内存队列,有助于后续针对性的数据读取,实现时序数据的全面管理。
[0013]可选的,将所述测量数据和所述测点编号写入所述HBase集群的HBase数据库中,包括:
[0014]根据所述测量数据和所述测点编号,确定预设的数据库存储表的行键;
[0015]根据所述测量数据中的测量时间戳,确定所述测量数据在所述数据库存储表中的目标写入列;
[0016]根据所述行键和所述目标写入列,将所述测量数据和所述测点编号写入HBase集
群中预设HBase数据库的数据库存储表。
[0017]上述技术方案通过根据测量数据和测点编号确定数据库存储表的行键,根据测量数据中的测量时间戳确定目标写入列,最后根据行键和目标写入列将测量数据和测点编号写入HBase数据库的数据库存储表,给出了将目标时序数据写入预设数据库的一种可实施方式,可以快速有效地将目标时序数据相关数据写入HBase数据库。
[0018]可选的,基于预设的文档搜索引擎,确定所述测点信息对应的测点编号,包括:
[0019]基于预设的文档搜索引擎,获取预存的测点信息和测点编号的映射关系,并根据所述映射关系,确定是否存在所述测点信息对应的测点编号;
[0020]若否,则确定所述文档搜索引擎已存储的测点编号中的最大值,并对所述最大值进行自增,得到目标新增测点编号;
[0021]将所述目标新增测点编号作为所述测点信息对应的测点编号。
[0022]上述技术方案通过基于预设的文档搜索引擎,可以根据预存的测点信息和测点编号的映射关系,准确确定出文档搜索引擎的索引信息中是否已存储该测点信息对应的测点编号,在不存在对应测点编号的情况下,新增测点编号,给出了在测点编号不存在时确定测点信息对应测点编号的一种可实施方式,可以保证写入的目标时序数据在文档搜索引擎中均有对应索引。
[0023]可选的,响应于时序数据检索请求,基于所述文档搜索引擎,确定时序数据检索请求中检索测点信息对应的检索测点编号;
[0024]根据所述检索测点编号和时序数据检索请求中的检索起止时间,从所述预设数据库中查询检索时序数据;
[0025]对所述检索时序数据进行还原操作,确定所述检索时序数据对应的测量时间戳和测量值,并根据所述测量时间戳和检索起止时间,对所述检索时序数据进行筛选;
[0026]根据经筛选后的检索时序数据和对应的测量值,对所述时序数据检索请求进行响应。
[0027]上述技术方案通过给出在检测到时序数据检索请求时,可以先基于文档搜索引擎确定对应检索测点编号,从而可以根据确定的检索测点编号和时序数据检索请求中的检索起止时间,在预设数据库中进行检索确定检索时序数据,并根据检索时序数据的测量时间戳和检索起止时间,对检索时序数据进行更精细的筛选,从而可以确定出更准确的检索时序数据进行响应。
[0028]可选的,响应于时序数据广播请求,基于所述文档搜索引擎,确定时序数据广播请求中广播测点信息对应的广播测点编号;
[0029]根据广播测点编号,在共享内存队列中进行读取,确定广播时序数据,并基于预设的长连接协议,将所述广播时序数据进行广播。
[0030]上述技术方案通过给出在检测到时序数据广播请求时,基于文档搜索引擎确定对应广播测点编号,从而可以根据确定的广播测点编号从共享内存队列中快速获取广播时序数据;通过预设的长连接协议,可以实现同时对多个客户端进行广播时序数据的广播,提高时序数据广播的效率。
[0031]可选的,将所述目标时序数据写入预设数据库之前,还包括:
[0032]根据对目标时序数据对应的测量数据的分析情况,从所述目标时序数据中确定出
测量值满足预设条件的热点时序数据;
[0033]确定热点时序数据对应的测点编号和热点时序数据在预设数据库存储表的目标行键;
[0034]根据所述目标行键,确定对预设数据库存储表的预分区策略,并基于所述预分区策略,对所述预设数据库存储表进行预分区。
[0035]上述技术方案通过分析目标时序数据的测量数据的测量值,可以预先从目标时序数据中识别出容易造成热点问题的热点时序数据,进一步采用对应的预分区策略在预设数据库中进行预分区,可以避免后续热点时序数据写入时可能发生的热点问题,保证时序数据的高效写入。
[0036]根据本专利技术的另一方面,提供了一种时序数据处理装置,包括:
[0037]第一确定模块,用于响应于对目标时序数据的写入请求,确定所述目标时序数据对应的测点信息和测量数据;
[0038]第二确定模块,用于基于预设的文档搜索引擎,确定所述测点信息对应的测点编号;
[0039]写入模块,用于根据所述测量数据和所述测点编号,将所述目标时序数据写入预设数据库和共享内存队列中。
[0040]根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
[0041]至少一个处理器;以及
[0042]与所述至少一个处理器通信连本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种时序数据处理方法,其特征在于,包括:响应于对目标时序数据的写入请求,确定所述目标时序数据对应的测点信息和测量数据;基于预设的文档搜索引擎,确定所述测点信息对应的测点编号;根据所述测量数据和所述测点编号,将所述目标时序数据写入预设数据库和共享内存队列中。2.根据权利要求1所述的方法,其特征在于,根据所述测量数据和所述测点编号,将所述目标时序数据写入预设数据库和共享内存队列中,包括:基于远程过程调用协议,与预设的HBase集群交互,将所述测量数据和所述测点编号写入所述HBase集群的HBase数据库中;若检测到目标时序数据在HBase数据库写入完成,则根据所述测点编号和所述测量数据,将所述目标时序数据写入预设的共享内存队列中。3.根据权利要求2所述的方法,其特征在于,将所述测量数据和所述测点编号写入所述HBase集群的HBase数据库中,包括:根据所述测量数据和所述测点编号,确定预设的数据库存储表的行键;根据所述测量数据中的测量时间戳,确定所述测量数据在所述数据库存储表中的目标写入列;根据所述行键和所述目标写入列,将所述测量数据和所述测点编号写入HBase集群中预设HBase数据库的数据库存储表。4.根据权利要求1所述的方法,其特征在于,基于预设的文档搜索引擎,确定所述测点信息对应的测点编号,包括:基于预设的文档搜索引擎,获取预存的测点信息和测点编号的映射关系,并根据所述映射关系,确定是否存在所述测点信息对应的测点编号;若否,则确定所述文档搜索引擎已存储的测点编号中的最大值,并对所述最大值进行自增,得到目标新增测点编号;将所述目标新增测点编号作为所述测点信息对应的测点编号。5.根据权利要求1所述的方法,其特征在于,还包括:响应于时序数据检索请求,基于所述文档搜索引擎,确定时序数据检索请求中检索测点信息对应的检索测点编号;根据所述检索测点编号和时序数据检索请求中的检索起止时间,从所述预设数据库中查询检索时序数据;对所述检索时序数据进行还原操...

【专利技术属性】
技术研发人员:王忠勤张建磊董宇飞
申请(专利权)人:曙光信息产业北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1