【技术实现步骤摘要】
本专利技术涉及大规模分布式存储,具体为一种并行文件系统客户端高速缓存方法和系统。
技术介绍
1、并行文件系统(parallel file system)是一种专门设计用于处理大规模数据并发读写的文件系统,它通常用于高性能计算、大规模数据分析、科学计算和其他需要大量数据存储和快速访问的领域,一些著名的并行文件系统包括谷歌的google file system(gfs)、ibm的general parallel file system(gpfs)、cray的lustre、以及开源的ceph等。这些文件系统在高性能计算领域和大规模数据处理中得到广泛应用,为大规模数据存储和访问提供了可靠的解决方案。
2、当前大多数数据中心一般通过并行文件系统(如gpfs)来提供一个全局的存储服务,计算节点一般作为并行文件系统客户端形式存在,并通常配置有内置的高速存储设备如ssd/nvme,目前并行文件系统都是作为一个独立的文件系统存在,计算节点的客户端没有与并行文件系统整合在一起,其内置的高速存储设备没有在整个并行文件系统中发挥出应有的作用。
><本文档来自技高网...
【技术保护点】
1.一种并行文件系统客户端高速缓存方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,通过文件数据同步工具,将元数据服务器的文件数据以读写缓存模式拷贝到客户端的本地缓存层,具体方法为:
3.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,所述步骤S01中的预读取操作的具体方法为:
4.根据权利要求1或3所述的一种并行文件系统客户端高速缓存方法,其特征在于,在文件被预读取到客户端的本地缓存层缓存后,文件数据可以直接写入/读出本地缓存层,若预读取操作失败,客户端将
...【技术特征摘要】
1.一种并行文件系统客户端高速缓存方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,通过文件数据同步工具,将元数据服务器的文件数据以读写缓存模式拷贝到客户端的本地缓存层,具体方法为:
3.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,所述步骤s01中的预读取操作的具体方法为:
4.根据权利要求1或3所述的一种并行文件系统客户端高速缓存方法,其特征在于,在文件被预读取到客户端的本地缓存层缓存后,文件数据可以直接写入/读出本地缓存层,若预读取操作失败,客户端将直接退回到正常的io路径,并将io发送到分布式集群并行文件系统上,客户端的本地缓存层为客户端自己的本地高速存储介质,其本地存储介质为ssd或nvme设备。
5.根据权利要求1所述的一种并行文件系统客户端高速缓存方法,其特征在于,已缓存到所述客户端本地缓存层的文件的i/o定向到本地的客户端高速缓存后端文件系统,其他的i/o定向到分布式集群并行文件系统。
...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。