监控数据库的数据处理方法及装置、存储介质、处理器制造方法及图纸

技术编号:35897930 阅读:11 留言:0更新日期:2022-12-10 10:32
本申请公开了一种监控数据库的数据处理方法及装置、存储介质、处理器。该方法包括:从监控的多个数据中心获取监控指标数据,其中,监控指标数据包括多个监控指标对应的数据内容;确定监控指标数据中每个监控指标的指纹特征码;将指纹特征码以及指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中;响应监控数据库的数据拉取请求,从缓存模块中获取对应的键值对发送给监控数据库,其中,键值对用于监控数据库对监控指标数据进行处理。解决了相关技术中监控数据库Prometheus,需要在各个数据中心分别部署数据库,与中央数据库建立连接,以供中央数据库对各个数据中心的数据拉取,存在占用资源高的问题。题。题。

【技术实现步骤摘要】
监控数据库的数据处理方法及装置、存储介质、处理器


[0001]本申请涉及数据处理领域,具体而言,涉及一种监控数据库的数据处理方法及装置、存储介质、处理器。

技术介绍

[0002]Prometheus监控数据库是目前非常热门的一个完整的开源监控解决方案,其提供了数据采集、数据存储、数据查询、数据告警等一系列功能。
[0003]在多数据中心环境下,需要将各数据中心的监控指标汇聚到中央Prometheus对各数据中心的资源进行集中监控告警。但Prometheus的指标采集只能使用拉取方式,常见的汇聚方法是在每个数据中心部署一套Prometheus采集所在区域的指标然后通过联邦集群方式汇聚到中央Prometheus,或者部署一套PushGateway网关进行数据中转,但是这两种方式存在占用资源较高或者不支持高可用部署的缺点、中央Prometheus频繁到各资源池拉去数据占用网络带宽也较大。
[0004]针对相关技术中监控数据库Prometheus,需要在各个数据中心分别部署数据库,与中央数据库建立连接,以供中央数据库对各个数据中心的数据拉取,存在占用资源高的问题,目前尚未提出有效的解决方案。

技术实现思路

[0005]本申请的主要目的在于提供一种监控数据库的数据处理方法及系统,以解决相关技术中监控数据库Prometheus,需要在各个数据中心分别部署数据库,与中央数据库建立连接,以供中央数据库对各个数据中心的数据拉取,存在占用资源高的问题。
[0006]为了实现上述目的,根据本申请的一个方面,提供了一种监控数据库的数据处理方法,包括:从监控的多个数据中心获取监控指标数据,其中,所述监控指标数据包括多个监控指标对应的数据内容;确定所述监控指标数据中每个监控指标的指纹特征码;将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中;响应监控数据库的数据拉取请求,从所述缓存模块中获取对应的键值对发送给所述监控数据库,其中,所述键值对用于所述监控数据库对所述监控指标数据进行处理。
[0007]可选的,将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中之前,所述方法还包括:将所述监控指标数据中的多个监控指标分配到多个数据分片中;将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中包括:确定监控指标所述的数据分片;根据所述监控指标的指纹特征编码和数据内容构建键值对,将所述键值对存储在缓存模块中对应的数据分片中。
[0008]可选的,响应监控数据库的数据拉取请求,从所述缓存模块中获取对应的键值对发送给所述监控数据库包括:接收所述监控数据库的数据拉取请求,其中,所述数据拉取请求包括需要拉取的监控数据所属的数据分片的标识和存储地址;响应所述数据拉取请求,
根据所述标识和存储地址,从所述缓存模块中获取对应的数据分片发送给所述监控数据库。
[0009]可选的,从监控的多个数据中心获取监控指标数据包括:通过预先设置的中间模块,接收所述多个数据中心推送的监控指标,并将所述多个数据中心的监控指标作为监控指标数据存储在所述中间模块中;通过运行实例从所述中间模块中按照预设速率获取所述监控指标数据。
[0010]可选的,从监控的多个数据中心获取监控指标数据之前,所述方法还包括:配置所述中间模块和所述缓存模块;建立所述中间模块与所述多个数据中心的数据连接,其中,所述数据连接用于所述多个数据中心将监控指标推送给所述中间模块。
[0011]可选的,确定所述监控指标数据中每个监控指标的指纹特征码包括:获取所述监控指标数据中的监控指标的数据内容;通过预设的运算算法对所述数据内容进行运算,得到所述监控指标对应的指纹特征码;通过遍历所述监控指标数据中的多个监控指标,确定每个监控指标的指纹特征码。
[0012]可选的,通过预设的运算算法对所述数据内容进行运算,得到所述监控指标对应的指纹特征码之前,所述方法还包括:对所述监控指标中的数据内容包含的多个数据标签进行排序,得到按照预定顺序排列数据标签的数据内容;通过预设的运算算法对所述数据内容进行运算,得到所述监控指标对应的指纹特征码包括:通过预设的运算算法对所述监控指标排列后的数据内容进行运算,得到所述控指标对应的指纹特征码,其中,所述预设的运算算法为信息摘要算法。
[0013]为了实现上述目的,根据本申请的另一方面,提供了一种监控数据库的数据处理装置。该装置包括:输出模块,缓存模块,中间模块;所述中间模块与多个数据中心相连接,用于从监控的多个数据中心获取监控指标数据,其中,所述监控指标数据包括多个监控指标对应的数据内容;所述输出模块与所述中间模块相连接,用于确定所述监控指标数据中每个监控指标的指纹特征码;所述输出模块与所述缓存模块相连接,所述输出模块还用于将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中;所述输出模块还与监控数据库相连接,所述输出模块还用于响应监控数据库的数据拉取请求,从所述缓存模块中获取对应的键值对发送给所述监控数据库,其中,所述键值对用于所述监控数据库对所述监控指标数据进行处理。
[0014]根据本申请的另一方面,还提供了一种计算机可读存储介质,所述处存储介质用于存储程序,其中,所述程序执行上述中任意一项所述的监控数据库的数据处理方法。
[0015]根据本申请的另一方面,还提供了一种电子设备,包括一个或多个处理器和存储器,所述存储器用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现上述中任意一项所述的监控数据库的数据处理方法。
[0016]通过本申请,从监控的多个数据中心获取监控指标数据,其中,监控指标数据包括多个监控指标对应的数据内容;确定监控指标数据中每个监控指标的指纹特征码;将指纹特征码以及指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中;响应监控数据库的数据拉取请求,从缓存模块中获取对应的键值对发送给监控数据库,键值对用于监控数据库对监控指标数据进行处理。通过缓存拉取得监控指标的数据,并通过指纹
特征码和数据内容的键值对进行存储,然后根据监控数据库的拉取,为监控数据库提供拉取的监控指标数据,形成对监控指标数据的缓存和管理,不需要在数据中心部署监控数据库的分数据库,实现了降低了对存储资源的占用的技术效果,进而解决了相关技术中监控数据库Prometheus,需要在各个数据中心分别部署数据库,与中央数据库建立连接,以供中央数据库对各个数据中心的数据拉取,存在占用资源高的问题。
附图说明
[0017]构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
[0018]图1是根据本申请实施例提供的一种监控数据库的数据处理方法的流程图;
[0019]图2是根据本申请实施方式提供的Promet本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种监控数据库的数据处理方法,其特征在于,包括:从监控的多个数据中心获取监控指标数据,其中,所述监控指标数据包括多个监控指标对应的数据内容;确定所述监控指标数据中每个监控指标的指纹特征码;将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中;响应监控数据库的数据拉取请求,从所述缓存模块中获取对应的键值对发送给所述监控数据库,其中,所述键值对用于所述监控数据库对所述监控指标数据进行处理。2.根据权利要求1所述的方法,其特征在于,将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中之前,所述方法还包括:将所述监控指标数据中的多个监控指标分配到多个数据分片中;将所述指纹特征码以及所述指纹特征码对应的监控指标的数据内容,通过键值对存储在缓存模块中包括:确定监控指标所述的数据分片;根据所述监控指标的指纹特征编码和数据内容构建键值对,将所述键值对存储在缓存模块中对应的数据分片中。3.根据权利要求2所述的方法,其特征在于,响应监控数据库的数据拉取请求,从所述缓存模块中获取对应的键值对发送给所述监控数据库包括:接收所述监控数据库的数据拉取请求,其中,所述数据拉取请求包括需要拉取的监控数据所属的数据分片的标识和存储地址;响应所述数据拉取请求,根据所述标识和存储地址,从所述缓存模块中获取对应的数据分片发送给所述监控数据库。4.根据权利要求1所述的方法,其特征在于,从监控的多个数据中心获取监控指标数据包括:通过预先设置的中间模块,接收所述多个数据中心推送的监控指标,并将所述多个数据中心的监控指标作为监控指标数据存储在所述中间模块中;通过运行实例从所述中间模块中按照预设速率获取所述监控指标数据。5.根据权利要求4所述的方法,其特征在于,从监控的多个数据中心获取监控指标数据之前,所述方法还包括:配置所述中间模块和所述缓存模块;建立所述中间模块与所述多个数据中心的数据连接,其中,所述数据连接用于所述多个数据中心将监控指标推送给所述中间模块。6.根据权利要求1所述的方法...

【专利技术属性】
技术研发人员:湛耀康邓志强
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1