分布式存储的自动化部署及性能测试方法及系统技术方案

本发明专利技术公开了分布式存储的自动化部署及性能测试方法及系统，属于分布式存储技术领域，要解决的技术问题为如何基于iSCSI转发实现Ceph分布式存储的自动化部署以及性能测试。包括如下步骤：在存储池中生成多个RBD块存储设备；选取多个计算节点，在每个计算节点中构建虚拟机、并在每个虚拟机上挂载一个对应的RBD块存储设备；选取并配置存储网关节点，配置后的存储网关节点提供多种iSCSI存储转发方式，用于将虚拟机发起的数据读写请求转发至分布式存储集群；向多个虚拟机同时发送测试指令，获取RBD块存储设备并进行并发性能测试，依次执行多种并发数量的测试场景；收集每个虚拟机的测试文件，解析测试文件并汇总输出测试结果。果。果。

【技术实现步骤摘要】
分布式存储的自动化部署及性能测试方法及系统


[0001]本专利技术涉及分布式存储
，具体地说是分布式存储的自动化部署及性能测试方法及系统。

技术介绍

[0002]分布式存储是一种数据存储技术，能够将分散的存储资源构成一个虚拟的存储设备，通过网络来使用每个设备的磁盘空间。分布式存储把数据分散在多个存储节点上，可以对这些节点的资源进行统一的管理，具有可扩展、高可用性、低成本、弹性存储等优点。而Ceph是一种可靠、自动重均衡、自动恢复的分布式存储系统，根据场景划分可以将Ceph分为三大块，分别是对象存储、块设备和文件系统服务，块设备存储是Ceph的强项。
[0003]针对Ceph分布式存储，可以基于iSCSI协议的CephRados Block Device(以下简称RBD)的块存储转发方案来实现，把基于网络流的数据读写转换为SCSI读写，将RBD映射为SCSItarget，让远端设备通过iSCSI协议来读写RBD块设备。iSCSI是一种可提供远程块存储设备访问的SCSI协议实现。目前Linux内核中默认的iSCSI Target实现是Linux IO，通过Configfs文件系统访问内核接口，完成SCSI Target的创建和数据读写。目前有多种部署iSCSI存储转发的方法，包括STGT、Linux IO、CephiSCSIGateway、SPDK iSCSITarget。
[0004]当然iSCSI存储转发也会带来一定的性能损耗，影响的指标包括IOPS、IO时延、读写吞吐量。如果要验证各个实现方案的性能，需要进行存储测试获取相应指标。常用的测试工具是fio，可以对磁盘进行压力测试和验证，得到各个RBD设备在顺序读写和随机读写模式的性能。
[0005]上述四种iSCSI协议的实现方式在部署时操作均相对复杂，有些还需要获取用户侧的相关信息。当RBD块设备较多时，又存在大量相同的配置指令，执行时间比较长。而在fio存储测试中，为了得到iSCSI存储转发的极限性能，往往需要进行多节点网络转发，采用同时测试多个块设备的方式进行压测，得到测试数据后对指标进行分析。因此需要对多节点执行fio测试指令，会产生大量测试文件，且均分布在各个测试节点上，在该测试中需要大量手动执行的指令。而对于测试文件还需提取测试数据进行处理分析，由于测试得到的文件数量较多，操作相对繁琐、耗费时间也比较长。
[0006]如何基于iSCSI转发实现Ceph分布式存储的自动化部署以及性能测试，是需要解决的技术问题。

技术实现思路

[0007]本专利技术的技术任务是针对以上不足，提供分布式存储的自动化部署及性能测试方法及系统，来解决如何基于iSCSI转发实现Ceph分布式存储的自动化部署以及性能测试的技术问题。
[0008]第一方面，本专利技术的一种分布式存储的自动化部署及性能测试方法，基于iSCSI转发的方式实现Ceph分布式存储的自动化部署，并进行多节点并发的性能测试，所述方法包
括如下步骤：
[0009]选取一个存储池，在所述存储池中生成多个大小相同的RBD块存储设备，基于所述多个RBD块存储设备形成分布式存储集群；
[0010]选取多个计算节点，在每个计算节点中构建相同数量的虚拟机、并在每个虚拟机上挂载一个与其对应的RBD块存储设备；
[0011]选取并配置存储网关节点，配置后的存储网关节点提供多种iSCSI存储转发方式，用于将虚拟机发起的数据读写请求转发至分布式存储集群；
[0012]向所述多个虚拟机同时发送测试指令，获取RBD块存储设备并进行并发性能测试，依次执行多种并发数量的测试场景；
[0013]所述多种并发数量的测试场景执行完成后，收集每个虚拟机的测试文件，解析测试文件并汇总输出测试结果。
[0014]作为优选，选取多个计算节点，在每个计算节点中构建相同数量的虚拟机，包括如下操作：
[0015]基于云平台管理项目OpenStack，选取多个不同的计算节点，在每个计算节点均创建数量相同的虚拟机，每个计算机节点中虚拟机的创建参数一致，所述虚拟机的创建参数包括网络参数和镜像参数；
[0016]生成缓存文件，将虚拟机的配置参数写入所述缓存文件，并对虚拟机进行初始化操作，虚拟机的配置参数包括uuid、IP地址、名称和编号。
[0017]作为优选，配置存储网关节点，包括如下步骤：
[0018]通过向存储网关节点发送配置指令的方式配置网关存储节点，在存储网关节点中部署多种iSCSI存储转发的实现方式；
[0019]从缓存文件中读取虚拟机的配置参数，基于虚拟机的IP地址建立存储网关节点与各虚拟机的连接；
[0020]向每个虚拟机发送相应的iscsiadm命令，获取RBD块存储设备并连接。
[0021]作为优选，向所述多个虚拟机同时发送测试指令包括如下步骤：
[0022]根据测试需要，设置数据转发的测试数量；
[0023]通过fio工具向多个虚拟机同时发送fio测试指令，进行性能并发测试，并基于测试的读写模式以及参数指标对测试文件进行命名；
[0024]其中，测试的读写模式包括顺序读写和随机读写；
[0025]参数指标包括IOPS、IO时延、以及读写吞吐量。
[0026]作为优选，收集每个虚拟机的测试文件，解析测试文件并汇总输出测试结果，包括如下步骤：
[0027]通过scp将各个虚拟机的测试文件收集到同一位置；
[0028]根据测试文件名称识别测试模式以及参数指标，对测试文件内容进行解析，生成性能指标；
[0029]将性能指标汇总并以表格的形式输出。
[0030]第二方面，本专利技术的一种分布式存储的自动化部署及性能测试系统，用于通过如第一方面任一项所述的方法实现Ceph分布式存储的自动化部署，并进行多节点并发的性能测试，所述系统包括：
[0031]配置预设模块，所述配置预设模块用于选取一个存储池，在所述存储池中生成多个大小相同的RBD块存储设备，基于所述多个RBD块存储设备形成分布式存储集群；用于选取多个计算节点，在每个计算节点中构建相同数量的虚拟机、并在每个虚拟机上挂载一个与其对应的RBD块存储设备；
[0032]存储网关节点控制模块，所述存储网关节点控制模块用于选取并配置存储网关节点，配置后的存储网关节点提供多种iSCSI存储转发方式，用于将虚拟机发起的数据读写请求转发至分布式存储集群；
[0033]测试节点控制模块，所述测试节点控制模块用于向所述多个虚拟机同时发送测试指令，获取RBD块存储设备并进行并发性能测试，依次执行多种并发数量的测试场景；
[0034]数据处理模块，所述数据处理模块用于在所述多种并发数量的测试场景执行完成后，收集每个虚拟机的测试文件，解析测试文件并汇总输出测试结果。
[0035]作为优选，所述配置预设模块用于通过如下操作选取多个计算节点、在每个计算节点中构建相同数量的虚拟机：
[0036]基本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种分布式存储的自动化部署及性能测试方法，其特征在于，基于iSCSI转发的方式实现Ceph分布式存储的自动化部署，并进行多节点并发的性能测试，所述方法包括如下步骤：选取一个存储池，在所述存储池中生成多个大小相同的RBD块存储设备，基于所述多个RBD块存储设备形成分布式存储集群；选取多个计算节点，在每个计算节点中构建相同数量的虚拟机、并在每个虚拟机上挂载一个与其对应的RBD块存储设备；选取并配置存储网关节点，配置后的存储网关节点提供多种iSCSI存储转发方式，用于将虚拟机发起的数据读写请求转发至分布式存储集群；向所述多个虚拟机同时发送测试指令，获取RBD块存储设备并进行并发性能测试，依次执行多种并发数量的测试场景；所述多种并发数量的测试场景执行完成后，收集每个虚拟机的测试文件，解析测试文件并汇总输出测试结果。2.根据权利要求1所述的分布式存储的自动化部署及性能测试方法，其特征在于，选取多个计算节点，在每个计算节点中构建相同数量的虚拟机，包括如下操作：基于云平台管理项目OpenStack，选取多个不同的计算节点，在每个计算节点均创建数量相同的虚拟机，每个计算机节点中虚拟机的创建参数一致，所述虚拟机的创建参数包括网络参数和镜像参数；生成缓存文件，将虚拟机的配置参数写入所述缓存文件，并对虚拟机进行初始化操作，虚拟机的配置参数包括uuid、IP地址、名称和编号。3.根据权利要求2所述的分布式存储的自动化部署及性能测试方法，其特征在于，配置存储网关节点，包括如下步骤：通过向存储网关节点发送配置指令的方式配置网关存储节点，在存储网关节点中部署多种iSCSI存储转发的实现方式；从缓存文件中读取虚拟机的配置参数，基于虚拟机的IP地址建立存储网关节点与各虚拟机的连接；向每个虚拟机发送相应的iscsiadm命令，获取RBD块存储设备并连接。4.根据权利要求1、2或3所述的分布式存储的自动化部署及性能测试方法，其特征在于，向所述多个虚拟机同时发送测试指令包括如下步骤：根据测试需要，设置数据转发的测试数量；通过fio工具向多个虚拟机同时发送fio测试指令，进行性能并发测试，并基于测试的读写模式以及参数指标对测试文件进行命名；其中，测试的读写模式包括顺序读写和随机读写；参数指标包括IOPS、IO时延、以及读写吞吐量。5.根据权利要求1、2或3所述的分布式存储的自动化部署及性能测试方法，其特征在于，收集每个虚拟机的测试文件，解析测试文件并汇总输出测试结果，包括如下步骤：通过scp将各个虚拟机的测试文件收集到同一位置；根据测试文件名称识别测试模式以及参数指标，对测试文件内容进行解析，生成性能指标；
将性能指标汇总并以表格的形式输出。6.一种分布式存储的自动化部署及性能测试系统，其特征在于，用于通过如权利要求1
‑
5任一...

【专利技术属性】
技术研发人员：杨绪昌，陶锐哲，田雨，
申请(专利权)人：浪潮云信息技术股份公司，
类型：发明
国别省市：