System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种云原生监控Prometheus智能分片提高资源利用率的方法技术_技高网

一种云原生监控Prometheus智能分片提高资源利用率的方法技术

技术编号:40960397 阅读:2 留言:0更新日期:2024-04-18 20:38
本发明专利技术公开了一种云原生监控Prometheus智能分片提高资源利用率的方法,涉及存储领域,基于云原生监控Prometheus实现自动分片、根据分片的负载高低自动迁移分片到性能好的分片去采集更多的指标、分片的自动扩缩容,具体包含如下步骤;云原生监控Prometheus初始化;云原生监控Prometheus根据机器性能自动给分片填充监控指标;云原生监控Prometheus对分片进行自动扩缩容。在云原生监控Prometheus监控指标采集过程中,单个Prometheus能够采集的监控指标数量是有限的。多个Prometheus配合去采集大规模的监控指标就涉及到监控指标如何进行分片,同时每个Prometheus所在的机器的CPU、磁盘IO性能是有差别的,如果进行平均分配就会导致性能好的机器上的Prometheus会浪费资源,同时解决了分片自动迁移、分片自动扩缩容等功能。

【技术实现步骤摘要】

本专利技术属于存储,尤其涉及一种云原生监控prometheus智能分片提高资源利用率的方法。


技术介绍

1、在云原生监控prometheus监控指标采集过程中,单个prometheus能够采集的监控指标数量是有限的。多个prometheus配合去采集大规模的监控指标就涉及到监控指标如何进行分片,同时每个prometheus所在的机器的cpu、磁盘io性能是有差别的,如果进行平均分配就会导致性能好的机器上的prometheus会浪费资源此时需要一种可以解决上述问题。本专利技术为基于云原生监控prometheus实现自动分片、根据分片的负载高低自动迁移分片到性能好的分片去采集更多的指标、分片的自动扩缩容,能力和特性包括:

2、1.prometheus根据机器性能计算分片采集能力并给分片填充要采集的监控指标;

3、2.prometheus分片自动扩缩容。

4、目前prometheus分片的实现方式有kubernetes种基于服务发现的方式、开源项目kvass进行平均分配的方式,对应问题如下:

5、不同节点的cpu、磁盘io性能是不一致的,会导致性能好的机器上的分片prometheus资源浪费。


技术实现思路

1、本专利技术所要解决的技术问题是针对
技术介绍
的不足提供本一种云原生监控prometheus智能分片提高资源利用率的方法,在云原生监控prometheus监控指标采集过程中,单个prometheus能够采集的监控指标数量是有限的;多个prometheus配合去采集大规模的监控指标就涉及到监控指标如何进行分片,同时每个prometheus所在的机器的cpu、磁盘io性能是有差别的,如果进行平均分配就会导致性能好的机器上的prometheus会浪费资源,同时解决了分片自动迁移、分片自动扩缩容等功能。

2、本专利技术为解决上述技术问题采用以下技术方案:

3、一种云原生监控prometheus智能分片提高资源利用率的方法,基于云原生监prometheus实现自动分片、根据分片的负载高低自动迁移分片到性能好的分片去采集更多的指标、分片的自动扩缩容,具体包含如下步骤;

4、步骤1,云原生监控prometheus初始化;

5、步骤2,云原生监控prometheus根据机器性能自动给分片填充监控指标;

6、步骤2,云原生监控prometheus对分片进行自动扩缩容。

7、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,所述云原生监控prometheus具体包含agent组件、controller组件和prometheus组件。

8、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,云原生监控prometheus初始化具体如下:

9、步骤1.1,controller组件根据配置文件获取总的要抓取的监控指标数量;

10、步骤1.2,controller组件根据总指标量以及分片的初始抓取指标量来扩容出足够数量的分片;

11、步骤1.3,controller组件初始将分片平均分配给每个分片然后将每个分片的target列表下发到每个分片的agent组件;

12、步骤1.4,agent组件根据接收到的target列表生成对应的prometheus配置文件,同时通知prometheus热更新配置文件,然后prometheus根据配置文件抓取监控指标。

13、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,在步骤2中,计算分片并下发采集任务,具体如下:

14、步骤2.1,agent组件采集当前分片的cpu、内存、iops这三个监控指标,定时向controller组件上报;

15、步骤2.2,controller组件根据各个分片的指标并依据计算公式进行计算出分片的指标采集数量,根据计算公式算出分片抓取的指标量后向其下发要采集的监控指标集,将不同性能机器上的prometheus分片分配了匹配对应硬件性能的监控指标采集数量。

16、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,在步骤2中,分片抓取能力计算公式包含内存抓取指标数计算公式、iops抓取指标数计算公式和iops抓取指标数计算公式。

17、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,内存抓取指标数计算公式,具体如下:

18、当前分片监控指标平均字节数量=当前分片总的监控指标的总的字节数/当前分片总的监控当前分片内存能抓取的总指标数=当前分片总内存/当前分片平均字节数量。

19、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,iops抓取指标数计算公式,具体如下:

20、当前分片iops能抓取的总指标数=(当前分片iops目前负载因子/当前分片iops目前抓取的数量)*分配给分片总的iops负载因子。

21、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,cpu抓取指标数计算公式:

22、当前分片cpu能抓取的总指标数=(当前分片cpu目前负载因子/当前分片cpu目前抓取的数量)*分配给分片总的cpu负载因子。

23、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,当前分片能够抓取的指标数=min(当前分片内存能抓取的总指标数,当前分片iops能抓取的总指标数,当前分片cpu能抓取的总指标数)。

24、作为本专利技术一种云原生监控prometheus智能分片提高资源利用率的方法的进一步优选方案,在步骤3中,对分片进行自动扩缩容,具体如下:

25、步骤3.1,agent组件采集当前分片的cpu、内存、iops这三个监控指标,定时向controller组件上报;

26、步骤3.2,controller组件根据各个分片的指标通过计算公式计算出每个分片的指标抓取数量;

27、步骤3.3,controller组件根据每个分片的能够抓取的监控指标数量,发现有比较空闲的分片可以全部迁移到高性能的分片,则将target迁移到高性能的分片上同时将老的分片缩容。

28、本专利技术采用以上技术方案与现有技术相比,具有以下技术效果:

29、1、本专利技术prometheus分片抓取的指标是根据分片所在机器的硬件资源通过公式计算出来的,可以显著提升资源利用率;

30、2、本专利技术prometheus分片可以根据总的监控指标数量进行动态的自动扩缩容;

31、3、本专利技术将监控分片的iops、cpu等指标进行抽象,然后本文档来自技高网...

【技术保护点】

1.一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:基于云原生监控Prometheus实现自动分片、根据分片的负载高低自动迁移分片到性能好的分片去采集更多的指标、分片的自动扩缩容,具体包含如下步骤;

2.根据权利要求1所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:所述云原生监控Prometheus具体包含Agent组件、Controller组件和Prometheus组件。

3.根据权利要求2所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:云原生监控Prometheus初始化具体如下:

4.根据权利要求1所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:在步骤2中,计算分片并下发采集任务,具体如下:

5.根据权利要求1所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:在步骤2中,分片抓取能力计算公式包含内存抓取指标数计算公式、IOPS抓取指标数计算公式和IOPS抓取指标数计算公式。

6.根据权利要求4所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:内存抓取指标数计算公式,具体如下:

7.根据权利要求4所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:IOPS抓取指标数计算公式,具体如下:

8.根据权利要求4所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:CPU抓取指标数计算公式:

9.根据权利要求8所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:当前分片能够抓取的指标数=Min(当前分片内存能抓取的总指标数,当前分片IOPS能抓取的总指标数,当前分片CPU能抓取的总指标数)。

10.根据权利要求4所述的一种云原生监控Prometheus智能分片提高资源利用率的方法,其特征在于:在步骤3中,对分片进行自动扩缩容,具体如下:

...

【技术特征摘要】

1.一种云原生监控prometheus智能分片提高资源利用率的方法,其特征在于:基于云原生监控prometheus实现自动分片、根据分片的负载高低自动迁移分片到性能好的分片去采集更多的指标、分片的自动扩缩容,具体包含如下步骤;

2.根据权利要求1所述的一种云原生监控prometheus智能分片提高资源利用率的方法,其特征在于:所述云原生监控prometheus具体包含agent组件、controller组件和prometheus组件。

3.根据权利要求2所述的一种云原生监控prometheus智能分片提高资源利用率的方法,其特征在于:云原生监控prometheus初始化具体如下:

4.根据权利要求1所述的一种云原生监控prometheus智能分片提高资源利用率的方法,其特征在于:在步骤2中,计算分片并下发采集任务,具体如下:

5.根据权利要求1所述的一种云原生监控prometheus智能分片提高资源利用率的方法,其特征在于:在步骤2中,分片抓取能力计算公式包含内存...

【专利技术属性】
技术研发人员:徐兴文陈希罗婵
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1