一种Ceph分布式存储系统的资源限制及分配方法技术方案

一种Ceph分布式存储系统的资源限制及分配方法，包括CGroup虚拟文件系统和Ceph进程，CGroup虚拟文件系统定义有多个子系统，子系统提供对Ceph进程的控制功能，包括以下步骤：步骤A：挂载CGroup虚拟文件系统；步骤B：在子系统中定义CGroup层级规则；步骤C：用户是否启动Ceph进程，若是，则先启动CGroup层级规则，然后Ceph进程在CGroup层级规则中启动；步骤D：若Ceph进程在CGroup层级规则中启动，则自动附加子系统；步骤E：用户是否关闭Ceph进程，若是，则关闭Ceph进程后，清除CGroup层级规则。本发明专利技术提出一种Ceph分布式存储系统的资源限制及分配方法，通过使用CGroup对Ceph进程进行资源限制和分配，使得资源分配利用最大化，提高Ceph分布式存储系统的稳定性和性能。

Resource constraint and allocation method for Ceph distributed storage system

A method of resource restriction and allocation for Ceph distributed storage system includes CGroup virtual file system and Ceph process. CGroup virtual file system defines multiple subsystems. The subsystems provide control over the Ceh process, including the following steps: Step A: Mount the CGroup virtual file system; Step B: Set it in the subsystem Step C: Whether the user starts the Ceph process, if so, then the CGroup hierarchy rules are started, and then the Ceph process starts in the CGroup hierarchy rules; Step D: If the Ceph process starts in the CGroup hierarchy rules, the subsystem is automatically attached; Step E: Whether the user closes the Ceph process, if so, closes the C. After the Eph process, the CGroup hierarchy rules are cleared. The invention provides a method for resource limitation and allocation of Ceph distributed storage system, which uses CGroup to restrict and allocate resources to Ceph process, maximizes resource allocation and utilization, and improves the stability and performance of Ceph distributed storage system.

【技术实现步骤摘要】
一种Ceph分布式存储系统的资源限制及分配方法
本专利技术涉及系统资源分配
，尤其涉及一种Ceph分布式存储系统的资源限制及分配方法。
技术介绍
Ceph是一个高可靠性，可扩展的，高性能的分布式存储系统。它旨在实现可轻松扩展到数PB级别容量、支持多种工作负载的高性能、高可靠性和自动均衡以保证数据的安全等功能。但是由于Ceph动辄一个进程就有上百个线程的情况，大量的进程和线程可能会占用过多的内存和CPU资源，特别对资源的争夺以及缓存的失效将导致存储系统性能的大幅下降。这种影响在融合架构中尤为明显。为保证整体系统的稳定性，需要对Ceph资源进行有效控制，合理分配资源，使得Ceph生态中各组件能够协调工作，提升系统性能。而CGroup是Linux内核提供的一种可以限制、记录、隔离进程组所使用的物理资源的机制，CGroup是将任意进程进行分组化管理的Linux内核功能，通过CGroup可以实现系统资源的控制与分配。
技术实现思路
本专利技术的目的在于提出一种Ceph分布式存储系统的资源限制及分配方法，通过使用CGroup对Ceph进程进行资源限制和分配，使得资源分配利用最大化，提高Ceph分布式存储系统的稳定性和性能。为达此目的，本专利技术采用以下技术方案：一种Ceph分布式存储系统的资源限制及分配方法，包括CGroup虚拟文件系统和Ceph进程，所述CGroup虚拟文件系统定义有多个子系统，所述子系统提供对所述Ceph进程的控制功能，包括以下步骤：步骤A：挂载所述CGroup虚拟文件系统；步骤B：在所述子系统中定义CGroup层级规则；步骤C：用户是否启动所述Ceph进程，若是，则先启动所述CGroup层级规则，然后所述Ceph进程在所述CGroup层级规则中启动；步骤D：若所述Ceph进程在所述CGroup层级规则中启动，则自动附加所述子系统；步骤E：用户是否关闭所述Ceph进程，若是，则关闭所述Ceph进程后，清除所述CGroup层级规则。优选的，还包括CGroup层级，所述CGroup层级为一组Ceph进程；所述在子系统中定义CGroup层级规则包括以下步骤：定义一个所述CGroup层级的名称，并附加一个或多个所述子系统；在每个所述子系统中设定规则，并启动所述CGroup层级规则。优选的，包括使用cgconfigparser命令启动所述CGroup层级规则。优选的，包括通过修改Ceph分布式存储系统的systemd启动文件，使启动所述Ceph进程前先启动所述CGroup层级规则，且当所述Ceph进程启动时，自动附加所述子系统，并在所述Ceph进程关闭后，清除所述CGroup层级规则。优选的，包括使用egexec命令启动所述Ceph进程。本专利技术的有益效果：解决Ceph分布式存储系统对资源的巨大需求而容易导致的资源争夺和资源分配不均等问题，通过使用CGroup对Ceph进程的资源进行限制，分配和隔离，使得资源分配利用最大化，提高Ceph分布式存储系统的稳定性和性能。附图说明图1是本专利技术的Ceph分布式存储系统的资源限制及分配的流程图。具体实施方式下面结合附图并通过具体实施方式来进一步说明本专利技术的技术方案。本实施例的一种Ceph分布式存储系统的资源限制及分配方法，包括CGroup虚拟文件系统和Ceph进程，所述CGroup虚拟文件系统定义有多个子系统，所述子系统提供对所述Ceph进程的控制功能，包括以下步骤：步骤A：挂载所述CGroup虚拟文件系统；步骤B：在所述子系统中定义CGroup层级规则；步骤C：用户是否启动所述Ceph进程，若是，则先启动所述CGroup层级规则，然后所述Ceph进程在所述CGroup层级规则中启动；步骤D：若所述Ceph进程在所述CGroup层级规则中启动，则自动附加所述子系统；步骤E：用户是否关闭所述Ceph进程，若是，则关闭所述Ceph进程后，清除所述CGroup层级规则。由于通过使用CGroup来限制及分配Ceph进程的资源，从而减少Ceph进程对系统资源的抢夺，合理分配系统资源，提升系统稳定性，因此必须使得Ceph进程启动后立即处于CGroup的控制下。所以需要事先创建好CGroup层级规则，在Ceph进程启动前加载CGroup层级规则以让Ceph进程在CGroup的控制下，并在Ceph进程终止后清除CGroup层级规则。CGroup提供了一个CGroup虚拟文件系统，作为进行分组管理和各子系统设置的用户接口，因此必须先挂载CGroup虚拟文件系统，通过挂载选项指定使用哪个子系统，才能使用CGroup。子系统具体包括：Blkio子系统，为块设备设定输入/输出限制，比如物理设备(磁盘，固态硬盘，USB等)；Cpu子系统，使用调度程序提供对CPU的group任务访问；cpuacct子系统，自动生成cgroup中任务所使用的CPU报告；cpuset子系统，为cgroup中的任务分配独立CPU(在多核系统)和内存节点；devices子系统可允许或拒绝cgroup中的任务访问设备；freezer子系统，挂起或恢复cgroup中的任务；memory子系统，设定cgroup中任务使用的内存限制，并自动生成由那些任务使用的内存资源报告；net_cls子系统，使用等级识别符calssid标记网络数据包。可允许Linux流量控制程序TC，识别从具体cgroup中生成的数据包。而所述子系统所在的集合提供了以下功能：1.Resourcelimiting功能，实现限制进程组可以使用的资源数据量。2.Prioritization功能，实现进程组的优先级控制。3.Accounting功能，实现记录进程组使用的资源数量。4.Isolation功能，实现进程组隔离。5.Control功能，实现进程组控制。通过在子系统中根据子系统提供的功能编写所述CGroup层级规则，从而实现对Ceph进程的资源限制及分配。优选的，还包括CGroup层级，所述CGroup层级为一组Ceph进程；所述在子系统中定义CGroup层级规则包括以下步骤：定义一个所述CGroup层级的名称，并附加一个或多个所述子系统；在每个所述子系统中设定规则，并启动所述CGroup层级规则。比如定义一个CGroup层级名称为cgtest，并附加cpu，cpuset，memory子系统。在每个子系统内分别设定不同的CGroup层级规则，CGroup层级规则根据实际情况具体定义，以下仅仅给出样例，CGroup层级规则如下：以上代表在cpu子系统中设定CGroup层级规则，规则内容包括对Ceph进程的cpu的使用周期、CFS周期和利用率权重的限制。以上代表在cpuset子系统中设定CGroup层级规则。优选的，包括使用cgconfigparser命令启动所述CGroup层级规则。在定义完毕CGroup层级规则后，可使用cgconfigparser命令启动它。如此，将在CGroup虚拟文件系统下新建一个CGroup层级，名称为cgtest。接下来，将Ceph进程在该层级内启动，即可让进程处于该层级下的控制。使用cgconfigparser命令启动CGroup层级规则如下：ExecStartPre＝/usr/bin/sudo/usr/sbin/cgco本文档来自技高网...

【技术保护点】
1.一种Ceph分布式存储系统的资源限制及分配方法，其特征在于：包括CGroup虚拟文件系统和Ceph进程，所述CGroup虚拟文件系统定义有多个子系统，所述子系统提供对所述Ceph进程的控制功能，包括以下步骤：步骤A：挂载所述CGroup虚拟文件系统；步骤B：在所述子系统中定义CGroup层级规则；步骤C：用户是否启动所述Ceph进程，若是，则先启动所述CGroup层级规则，然后所述Ceph进程在所述CGroup层级规则中启动；步骤D：若所述Ceph进程在所述CGroup层级规则中启动，则自动附加所述子系统；步骤E：用户是否关闭所述Ceph进程，若是，则关闭所述Ceph进程后，清除所述CGroup层级规则。

【技术特征摘要】
1.一种Ceph分布式存储系统的资源限制及分配方法，其特征在于：包括CGroup虚拟文件系统和Ceph进程，所述CGroup虚拟文件系统定义有多个子系统，所述子系统提供对所述Ceph进程的控制功能，包括以下步骤：步骤A：挂载所述CGroup虚拟文件系统；步骤B：在所述子系统中定义CGroup层级规则；步骤C：用户是否启动所述Ceph进程，若是，则先启动所述CGroup层级规则，然后所述Ceph进程在所述CGroup层级规则中启动；步骤D：若所述Ceph进程在所述CGroup层级规则中启动，则自动附加所述子系统；步骤E：用户是否关闭所述Ceph进程，若是，则关闭所述Ceph进程后，清除所述CGroup层级规则。2.根据权利要求1所述一种Ceph分布式存储系统的资源限制及分配方法，其特征在于：还包括CGroup层级，所述CGroup层级为一组Ceph进程...

【专利技术属性】
技术研发人员：赵健文，曾星，黄日良，史伟，
申请(专利权)人：广东睿江云计算股份有限公司，
类型：发明
国别省市：广东,44