基于元数据的写入方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:44624652 阅读:25 留言:0更新日期:2025-03-17 18:22
本申请属于数据处理和金融领域,涉及一种基于元数据的写入方法,包括解析客户端发送的写数据请求,得到文件元数据,根据文件元数据从节点列表中选取目标数据节点,客户端根据节点标识信息确定当前数据节点,当前数据节点将客户端发送的数据包写入预设存储位置,生成对应的响应包放入预设的待处理队列,调用回调函数获取数据包长度和切片元数据信息,将切片元数据信息同步至其他节点,根据数据包长度从待处理队列中取出响应包放入预设响应队列返回客户端。本申请还提供一种基于元数据的写入装置、计算机设备及存储介质。此外,本申请还涉及区块链技术,数据包可存储于区块链中。本申请在数据节点传输元数据,提高数据写入的效率和及时性。

【技术实现步骤摘要】

本申请涉及数据处理和金融科技,尤其涉及一种基于元数据的写入方法、装置、计算机设备及存储介质


技术介绍

1、在金融领域,随着大数据技术的快速发展,处理和分析海量数据已成为金融机构提升业务效率、优化决策流程和增强风险管理能力的关键。hadoop生态系统作为大数据处理领域的核心框架之一,凭借其高扩展性、高容错性和高效的数据处理能力,在金融行业得到了广泛应用。其中,hadoop分布式文件系统(hdfs)作为hadoop生态的基础组件,更是承载着大数据存储和访问的重任。

2、hdfs被设计为专门处理大规模数据集,具有高容错性,并且针对高吞吐量数据访问进行了优化。这使得hdfs能够在商用硬件上稳定运行,有效支持金融领域复杂且庞大的数据处理需求。hdfs的系统架构主要由namenode和datanode两类节点构成,它们各司其职,共同维护着整个文件系统的稳定运行。

3、namenode(nn)作为hdfs的主节点,扮演着至关重要的角色。它负责管理文件系统的命名空间和文件块的映射关系,存储着所有文件和目录的元数据,如文件名、权限、块位置等关键信息本文档来自技高网...

【技术保护点】

1.一种基于元数据的写入方法,其特征在于,包括下述步骤:

2.根据权利要求1所述的基于元数据的写入方法,其特征在于,在所述获得待写入文件的文件元数据的步骤之后还包括:

3.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述根据所述文件元数据从预先建立的节点列表中选取可用的目标数据节点的步骤包括:

4.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述通过所述当前数据节点接收所述客户端发送的数据包,并将所述数据包写入预设存储位置的步骤包括:

5.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述将所述切片元数据信息通过...

【技术特征摘要】

1.一种基于元数据的写入方法,其特征在于,包括下述步骤:

2.根据权利要求1所述的基于元数据的写入方法,其特征在于,在所述获得待写入文件的文件元数据的步骤之后还包括:

3.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述根据所述文件元数据从预先建立的节点列表中选取可用的目标数据节点的步骤包括:

4.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述通过所述当前数据节点接收所述客户端发送的数据包,并将所述数据包写入预设存储位置的步骤包括:

5.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述将所述切片元数据信息通过预设的分布式协调服务同步至其他节点的步骤包括:

6.根据权利要求1所述的基于元数据的写入方法,其特征在于,所述根据所述数...

【专利技术属性】
技术研发人员:唐镇
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1