KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统技术方案

本发明专利技术公开了一种KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，优化系统应用于目标文件系统，优化系统包括用户态应用、网络文件系统和虚拟文件系统，虚拟文件系统包括虚拟文件系统客户端和虚拟文件系统服务端，网络文件系统包括网络文件系统服务器和网络文件系统客户端，用户态应用通过网络文件系统客户端挂载于网络文件系统服务器暴露的共享目录上；虚拟文件系统服务端中的文件块分配与格式化模块在其中一或多个目标文件系统的对象存储目标设备上，创建虚拟文件块用于存储小文件，虚拟文件块挂载于网络文件系统服务器暴露的共享目录上；本发明专利技术极大提升了大量小文件的读写性能，并保留分布式共享存储便于管理、可基于网络随处挂载的优点。

【技术实现步骤摘要】
KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统
本专利技术涉及文件系统存储领域，更具体地，涉及一种KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统。
技术介绍
当今互联网，数据呈现爆炸式增长，社交网络、移动通信、网络视频、电子商务等各种应用往往能产生亿级甚至十亿、百亿级的海量小文件。由于在元数据管理、访问性能、存储效率等方面面临巨大的挑战，海量小文件问题成为了业界公认的难题。在计算机存储领域，小文件的存储性能的优劣是影响整个文件系统存储性能的重要一方面，特别是在深度学习领域，以小图片和小文本为代表的大量小文件读写性能对整个深度学习训练过程的整体效率有着重要影响。KUBERNETES是一个开源系统，用于容器化应用的自动部署、扩缩和管理。它旨在提供“跨主机集群的自动部署、扩展以及运行应用程序容器的平台”。它支持一系列容器工具,包括DOCKER等。并将构成应用的容器按逻辑单位进行分组以便于管理和发现。容器占用资源少、部署快，每个应用可以被打包成一个容器镜像，每个应用与容器间成一对一关系也使容器有更大优势，使用容器可以在build或release的阶段，为应用创建容器镜像，因为每个应用不需要与其余的应用堆栈组合，也不依赖于生产环境基础结构，这使得从研发到测试、生产能提供一致环境。类似地，容器比虚拟机轻量、更“透明”，这更便于监控和管理。KUBERNETES包括MASTER节点和普通(工作)节点，在每个普通节点上包含POD(容器组)、KUBELET和KUBE-PROXY，每个POD中包含一个或多个CONTAINER(容器)，每个节点相当于一台虚拟机/物理机。目标文件系统可为多种分布式文件系统，如Lustre文件系统，Lustre是一种集群存储体系结构，其核心组件就是lustre文件系统、该文件系统可在linux操作系统上运行，并提供了符合POSIX*标准的UNIX文件系统接口。Lustre架构普遍使用于高性能计算集群中，且可提供PB级存储和每秒数百GB的吞吐量。当Lustre文件系统存储用量逐渐增加时，继续在Lustre文件系统中存储小文件时随着文件量的增加，对小文件的读写效率将显著下降。在文件系统已用容量占比较大的场景下，对大量小文件的读写时，文件系统对其特定小文件元数据的检索需要在整个文件系统中进行，这是影响小文件存储性能的重要因素。
技术实现思路
本专利技术旨在克服上述现有技术的至少一种缺陷，提供一种KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，用于解决小文件存储和读取的效率下降的问题。本专利技术提供的技术方案是：一种KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，其特征在于，所述优化系统应用于目标文件系统，所述优化系统包括用户态应用、网络文件系统和虚拟文件系统，所述虚拟文件系统包括虚拟文件系统客户端和虚拟文件系统服务端，所述网络文件系统包括网络文件系统服务器和网络文件系统客户端，所述用户态应用中包含所述网络文件系统客户端；所述网络文件系统服务器和所述虚拟文件系统封装在同一镜像中，该镜像所在的容器为NFS特制镜像容器，所述用户态应用封装在用户态应用镜像中，所述用户态应用镜像所在的容器为用户态应用镜像容器，所述NFS特制镜像容器和所述用户态应用镜像容器均部署在KUBERNETES集群中，所述目标文件系统为所述KUBERNETES集群所使用的文件系统；在所述用户态应用镜像容器被运行后，以及所述NFS特制镜像容器以PRIVILEGED＝TRUE的方式被运行后，所述用户态应用、所述网络文件系统客户端、所述网络文件系统服务端以及所述虚拟文件系统均在同一KUBERNETES集群网络中，所述用户态应用通过网络文件系统客户端挂载于所述网络文件系统服务器暴露的共享目录上，所述用户态应用用于向所述虚拟文件系统客户端发送虚拟文件块创建请求；所述虚拟文件系统客户端部署于所述目标文件系统的客户端上，所述虚拟文件系统客户端用于将所述用户态应用发出的所述虚拟文件块创建请求发送至所述虚拟文件系统服务端；所述虚拟文件系统服务端部署于所述目标文件系统的对象存储服务器上；所述虚拟文件系统服务端包括文件块分配与格式化模块，所述文件块创建与格式化模块用于根据所述虚拟文件系统客户端发出的虚拟文件块创建请求在其中一或多个所述目标文件系统的对象存储目标设备上创建并格式化虚拟文件块；所述虚拟文件块用于存储小文件，所述虚拟文件块挂载于所述网络文件系统服务器暴露的共享目录上。本专利技术提供的优化系统建立在KUBERNETES集群上，在该集群上部署有用户态应用镜像容器以及NFS特制镜像容器，该两个容器可处于任何KUBERNETES的节点上，封装有用户态应用的镜像设置在用户态应用镜像容器中，封装有网络文件系统服务器以及虚拟文件系统的镜像设置在NFS特制镜像容器中。所述优化系统应用于目标文件系统，目标文件系统为KUBERNETES集群所使用的文件系统，目标文件系统中包括对象存储服务器以及对象存储目标设备，对象存储服务器用于负责目标文件系统客户端与物理存储之间的交互及数据存储，该客户端通过对象存储服务器访问保存在对象存储目标设备中的文件数据。在KUBERNETES环境下，运行用户态应用镜像容器以及NFS特制镜像容器，NFS特制镜像容器被运行后，虚拟文件系统中的虚拟文件系统客户端将部署于目标文件系统的客户端上，虚拟文件系统中的虚拟文件系统服务端将部署于目标文件系统的对象存储服务器上。用户态应用镜像容器被运行后，用户态应用向虚拟文件系统客户端发送虚拟文件块创建请求，虚拟文件系统客户端接收该请求后，通过目标文件系统的客户端，将其传输到部署在对象存储服务器上的虚拟文件系统服务端，虚拟文件系统服务端包括文件块分配与格式化模块，由于该模块处于对象存储服务器上，因此可对一个或多个对象存储目标设备进行管理，该模块获取虚拟文件系统客户端发出的虚拟文件块创建请求后，在一个或多个对象存储目标设备上创建并格式化虚拟文件块，用以存储小文件。用户态应用通过应用本身包含的网络文件系统客户端，挂载于网络文件系统服务器暴露的共享目录上，网络文件系统服务器通过暴露共享目录，使网络文件系统客户端主机可以访问共享目录中的文件，且其访问过程与访问本地存储一样。同样挂载于该共享目录上的是上述创建的虚拟文件块，创建于对象存储目标设备上的虚拟文件块挂载于该共享目录上，通过网络文件系统的客户端与服务端，实现了用户态应用向虚拟文件块读写小文件的目的。在KUBERNETES集群环境下，通过在一个或多个目标文件系统的对象存储目标设备上设置虚拟文件块，专门用于存储小文件，使小文件集中存储于虚拟文件块中，该虚拟文件系统可以极大地提升大量小文件的读写性能，而且保留了分布式共享存储便于管理、可基于网络随处挂载的优点。进一步，所述用户态应用还用于向虚拟文件系统客户端发送虚拟文件块参数，所述虚拟文件系统客户端还用于将用户态应用发出的虚拟文件块参数发送至所述虚拟文件系统服务端，所述本文档来自技高网...

【技术保护点】
1.一种KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，其特征在于，所述优化系统应用于目标文件系统，所述优化系统包括用户态应用、网络文件系统和虚拟文件系统，所述虚拟文件系统包括虚拟文件系统客户端和虚拟文件系统服务端，所述网络文件系统包括网络文件系统服务器和网络文件系统客户端，所述用户态应用中包含所述网络文件系统客户端；/n所述网络文件系统服务器和所述虚拟文件系统封装在同一镜像中，该镜像所在的容器为NFS特制镜像容器，所述用户态应用封装在用户态应用镜像中，所述用户态应用镜像所在的容器为用户态应用镜像容器，所述NFS特制镜像容器和所述用户态应用镜像容器均部署在KUBERNETES集群中，所述目标文件系统为所述KUBERNETES集群所使用的文件系统；/n在所述用户态应用镜像容器被运行后，以及所述NFS特制镜像容器以PRIVILEGED＝TRUE的方式被运行后，所述用户态应用、所述网络文件系统客户端、所述网络文件系统服务端以及所述虚拟文件系统均在同一KUBERNETES集群网络中，所述用户态应用通过网络文件系统客户端挂载于所述网络文件系统服务器暴露的共享目录上，所述用户态应用用于向所述虚拟文件系统客户端发送虚拟文件块创建请求；/n所述虚拟文件系统客户端部署于所述目标文件系统的客户端上，所述虚拟文件系统客户端用于将所述用户态应用发出的所述虚拟文件块创建请求发送至所述虚拟文件系统服务端；所述虚拟文件系统服务端部署于所述目标文件系统的对象存储服务器上；所述虚拟文件系统服务端包括文件块分配与格式化模块，所述文件块创建与格式化模块用于根据所述虚拟文件系统客户端发出的虚拟文件块创建请求在其中一或多个所述目标文件系统的对象存储目标设备上创建并格式化虚拟文件块；所述虚拟文件块用于存储小文件，所述虚拟文件块挂载于所述网络文件系统服务器暴露的共享目录上。/n...

【技术特征摘要】
1.一种KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，其特征在于，所述优化系统应用于目标文件系统，所述优化系统包括用户态应用、网络文件系统和虚拟文件系统，所述虚拟文件系统包括虚拟文件系统客户端和虚拟文件系统服务端，所述网络文件系统包括网络文件系统服务器和网络文件系统客户端，所述用户态应用中包含所述网络文件系统客户端；
所述网络文件系统服务器和所述虚拟文件系统封装在同一镜像中，该镜像所在的容器为NFS特制镜像容器，所述用户态应用封装在用户态应用镜像中，所述用户态应用镜像所在的容器为用户态应用镜像容器，所述NFS特制镜像容器和所述用户态应用镜像容器均部署在KUBERNETES集群中，所述目标文件系统为所述KUBERNETES集群所使用的文件系统；
在所述用户态应用镜像容器被运行后，以及所述NFS特制镜像容器以PRIVILEGED＝TRUE的方式被运行后，所述用户态应用、所述网络文件系统客户端、所述网络文件系统服务端以及所述虚拟文件系统均在同一KUBERNETES集群网络中，所述用户态应用通过网络文件系统客户端挂载于所述网络文件系统服务器暴露的共享目录上，所述用户态应用用于向所述虚拟文件系统客户端发送虚拟文件块创建请求；
所述虚拟文件系统客户端部署于所述目标文件系统的客户端上，所述虚拟文件系统客户端用于将所述用户态应用发出的所述虚拟文件块创建请求发送至所述虚拟文件系统服务端；所述虚拟文件系统服务端部署于所述目标文件系统的对象存储服务器上；所述虚拟文件系统服务端包括文件块分配与格式化模块，所述文件块创建与格式化模块用于根据所述虚拟文件系统客户端发出的虚拟文件块创建请求在其中一或多个所述目标文件系统的对象存储目标设备上创建并格式化虚拟文件块；所述虚拟文件块用于存储小文件，所述虚拟文件块挂载于所述网络文件系统服务器暴露的共享目录上。


2.根据权利要求1所述的KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，其特征在于，所述用户态应用还用于向虚拟文件系统客户端发送虚拟文件块参数，所述虚拟文件系统客户端还用于将用户态应用发出的虚拟文件块参数发送至所述虚拟文件系统服务端，所述虚拟文件块参数中包括虚拟文件块执行请求参数，所述虚拟文件系统服务端还包括请求参数处理模块；所述请求参数处理模块用于获取所述虚拟文件系统客户端发出的所述虚拟文件块执行请求参数，并根据所述虚拟文件块执行请求参数判断是否可创建虚拟文件块；
所述文件块创建与格式化模块用于根据所述虚拟文件系统客户端发出的虚拟文件块创建请求用于在其中一或多个所述目标文件系统的对象存储目标设备上创建并格式化虚拟文件块，具体为：
所述文件块创建与格式化模块用于在接收到所述虚拟文件系统客户端发出的虚拟文件块请求后，获取所述请求参数处理模块的判定结果，当所述请求参数处理模块判定可创建虚拟文件块时，在其中一或多个所述目标文件系统的对象存储目标设备上创建并格式化虚拟文件块。


3.根据权利要求2所述的KUBERNETES用户态应用中基于虚拟文件系统的小文件存储优化系统，其特征在于，所述虚拟文件块执行请求参数包括所述虚拟文件块的大小和所述虚拟文件块的格式；所述请求参数处理模块用于获取所述虚拟文件系统客户端发出的所述虚拟文件块执行请求参数，并根据所述虚拟文件块执行请求参数判断是否可创建虚拟文件块，具体为：
所述请求参数处理模块用于获取所述虚拟文件系统客户端发出的所述虚拟文件块的大小和所述虚拟文件块的格式，并根据接收到的所述虚拟文件块的大小检测所述目标文件系统的存储容量和所述目标系统的用户存储配额是否...

【专利技术属性】
技术研发人员：杜量，郭贵鑫，钟康游，杜云飞，卢宇彤，周中柱，
申请(专利权)人：中山大学，
类型：发明
国别省市：广东;44