一种并行文件系统客户端高速缓存方法和系统技术方案

技术编号:40903670 阅读:12 留言:0更新日期:2024-04-18 14:35
本申请公开了一种并行文件系统客户端高速缓存方法和系统,包括通过文件数据同步工具将文件数据从并行文件系统以读写缓存模式拷贝到客户端的本地缓存层,当其他所述客户端想要访问已经被本客户端缓存的文件数据时,触发该文件被拷贝到分布式集群并行文件系统的存储集群的操作,多个不同所述客户端本地缓存层通过使用布局锁保证缓存服务与全局文件系统状态一致。本发明专利技术在客户端利用高速存储介质,提供了一个读写缓冲层,将计算节点内置的快速存储设备整合到分布式并行文件系统的存储层次栈,并保持维护了一个统一的全局命名空间。通过文件数据同步工具预读取和数据恢复,数据同步到本地缓存,利用本地高速缓存加速单客户端读写访问性能。

【技术实现步骤摘要】

本专利技术涉及大规模分布式存储,具体为一种并行文件系统客户端高速缓存方法和系统


技术介绍

1、并行文件系统(parallel file system)是一种专门设计用于处理大规模数据并发读写的文件系统,它通常用于高性能计算、大规模数据分析、科学计算和其他需要大量数据存储和快速访问的领域,一些著名的并行文件系统包括谷歌的google file system(gfs)、ibm的general parallel file system(gpfs)、cray的lustre、以及开源的ceph等。这些文件系统在高性能计算领域和大规模数据处理中得到广泛应用,为大规模数据存储和访问提供了可靠的解决方案。

2、当前大多数数据中心一般通过并行文件系统(如gpfs)来提供一个全局的存储服务,计算节点一般作为并行文件系统客户端形式存在,并通常配置有内置的高速存储设备如ssd/nvme,目前并行文件系统都是作为一个独立的文件系统存在,计算节点的客户端没有与并行文件系统整合在一起,其内置的高速存储设备没有在整个并行文件系统中发挥出应有的作用。>

<本文档来自技高网...

【技术保护点】

1.一种并行文件系统客户端高速缓存方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,通过文件数据同步工具,将元数据服务器的文件数据以读写缓存模式拷贝到客户端的本地缓存层,具体方法为:

3.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,所述步骤S01中的预读取操作的具体方法为:

4.根据权利要求1或3所述的一种并行文件系统客户端高速缓存方法,其特征在于,在文件被预读取到客户端的本地缓存层缓存后,文件数据可以直接写入/读出本地缓存层,若预读取操作失败,客户端将直接退回到正常的IO...

【技术特征摘要】

1.一种并行文件系统客户端高速缓存方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,通过文件数据同步工具,将元数据服务器的文件数据以读写缓存模式拷贝到客户端的本地缓存层,具体方法为:

3.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,所述步骤s01中的预读取操作的具体方法为:

4.根据权利要求1或3所述的一种并行文件系统客户端高速缓存方法,其特征在于,在文件被预读取到客户端的本地缓存层缓存后,文件数据可以直接写入/读出本地缓存层,若预读取操作失败,客户端将直接退回到正常的io路径,并将io发送到分布式集群并行文件系统上,客户端的本地缓存层为客户端自己的本地高速存储介质,其本地存储介质为ssd或nvme设备。

5.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,已缓存到所述客户端本地缓存层的文件的i/o定向到本地的客户端高速缓存后端文件系统,其他的i/o定向到分布式集群并行文件系统。

...

【专利技术属性】
技术研发人员:吴文峰
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1