一种数据存储与读取系统及其工作方法技术方案

本公开的实施例提供了一种数据存储与读取系统及其工作方法，属于大数据传输技术领域。所述数据存储方法包括数据转换模块接收数据生产设备上传的数据并进行转换；数据转发和记录模块将转换后的数据上传给所述数据存储系统，接收所述数据存储系统反馈的文件检索信息并写入所述文件检索信息数据库；文件检索信息数据库接收并存储所述数据转发和记录模块写入的文件检索信息。以此方式，可以提升数据采集与传输的高可用性和高性能，适应于各类分布式数据生产环境中的数据收集与汇总。布式数据生产环境中的数据收集与汇总。布式数据生产环境中的数据收集与汇总。

【技术实现步骤摘要】
一种数据存储与读取系统及其工作方法


[0001]本公开涉及大数据传输
，尤其涉及一种数据存储、数据访问


技术介绍

[0002]利用网络进行数据传输的大规模数据采集是现在各个领域的重要需求。常见的采用方法是以中心化或半中心化服务器，进行数据采集。现有技术大多采用通过一台数据接收服务器来进行数据采集，可用性差，一旦汇总服务器发生问题就会导致采集出错。用户为了拓展数据下载节点需要将相同的程序和环境部署到新的机器上，部署麻烦，需要考虑各类不同的复杂场景，程序的可拓展性差，不适用于动态延伸，更新版本流程繁琐。

技术实现思路

[0003]本公开提供了一种数据存储与读取系统及其工作方法。
[0004]根据本公开的第一方面，提供了一种数据存储与读取系统，包括：
[0005]数据转发模块、记录模块、数据存储系统、文件检索信息数据库、前端显示模块，其中，
[0006]所述数据转发模块为一个或多个，用于接收数据生产设备上传的数据并将数据上传给所述数据存储系统；
[0007]所述记录模块，用于将所述数据存储系统反馈的文件检索信息写入所述文件检索信息数据库；
[0008]所述数据存储系统，用于存储所述数据转发模块上传的数据，并向所述记录模块反馈文件检索信息；还用于根据前端要求，返回指定的文件；
[0009]所述文件检索信息数据库，用于接收并存储所述记录模块写入的文件检索信息；还用于接收用户通过前端显示模块提交的访问请求；
[0010]所述前端显示模块，用于将用户的访问请求提交给所述文件检索信息数据库，接收对应的检索结果；根据所述检索结果从所述数据存储系统下载对应的文件。
[0011]在第一方面的一些实现方式中，包括：
[0012]所述数据转发模块、记录模块部署在基于K8S的云原生平台的POD中；
[0013]所述数据存储系统为基于集群的HDFS存储系统。
[0014]根据本公开的第二方面，提供了一种数据存储与读取系统的工作方法，该方法包括：
[0015]数据转发模块接收数据生产设备上传的数据并将数据上传给所述数据存储系统；
[0016]记录模块将接收所述数据存储系统反馈的文件检索信息并写入所述文件检索信息数据库；
[0017]文件检索信息数据库接收并存储所述记录模块写入的文件检索信息；
[0018]在第二方面的一些实现方式中，数据转发模块接收数据生产设备上传的数据包括：
[0019]一个或多个数据转发模块分别通过SSH服务接收一个或多个数据生产设备上传的数据，存储在临时文件缓冲区；
[0020]在第二方面的一些实现方式中，数据转发模块将所接收到的数据上传给所述数据存储系统包括：
[0021]数据转发根据定时任务，将接收到的数据上传给所述数据存储系统。
[0022]根据本公开的第三方面，提供了一种数据读取方法，该方法包括：
[0023]文件检索信息数据库接收用户通过前端显示模块提交的访问请求，并根据访问请求中的关键词进行检索；
[0024]前端显示模块根据所述文件检索信息数据库检索到的结果从所述数据存储系统下载对应的文件。
[0025]如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述文件检索信息包括：文件名称、大小、位置、上传时间、文件MD5。
[0026]本公开将数据存储与读取相结合，使多台设备产生的数据能够通过基于K8S的云原生平台的数据转发环境，将数据上传至基于HDFS的分布式存储空间中，并将上传后的数据的检索信息写入文件检索信息数据库。用户访问或读取数据时可以通过前端展示页面或查询页面来获取所需要的数据，也可通过调用HDFS访问数据接口来获取所需要的数据。满足了数据采集、汇总与存储以及访问的高可用性。
[0027]应当理解，
技术实现思路
部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
[0028]结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。附图用于更好地理解本方案，不构成对本公开的限定在附图中，相同或相似的附图标记表示相同或相似的元素，其中：
[0029]图1示出了根据本公开的实施例的一种数据存储及读取系统的方框图；
[0030]图2示出了根据本公开的实施例的一种数据存储及读取系统的结构示意图；
[0031]图3示出了根据本公开的实施例的一种数据存储及读取系统的数据存储方法的流程图；
[0032]图4示出了根据本公开的实施例的一种数据存储及读取系统的数据读取方法的流程图；
[0033]图5示出了能够实施本公开的实施例的示例性电子设备的方框图。
具体实施方式
[0034]为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。
[0035]另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在
三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
[0036]本公开中，将数据存储与读取系统相结合，使多台设备产生的数据能够通过基于K8S的云原生平台的数据转发环境，将数据上传至基于HDFS的分布式存储空间中，并将上传后的数据的检索信息写入文件检索信息数据库。用户访问或读取数据时可以通过前端展示页面或查询页面来获取所需要的数据，通过调用HDFS访问数据接口来下载所需要的文件。实现了数据采集、汇总与存储的高可用性以及数据访问便捷性。
[0037]图1示出了根据本公开的实施例的一种数据存储及读取系统的方框图。
[0038]如图1所示，所述数据存储及读取系统100包括：
[0039]数据转发模块101，用于接收数据生产设备上传的数据并将接收到的数据上传给所述数据存储系统；
[0040]记录模块102，用于将所述数据存储系统反馈的文件检索信息写入所述文件检索信息数据库；
[0041]数据存储系统103，用于存储所述数据转发模块上传的数据，并向所述记录模块反馈文件检索信息；还用于根据前端要求，返回指定的文件；
[0042]文件检索信息数据库104，用于接收并存储所述记录模块写入的文件检索信息；还用于接收用户通过前端显示模块提交的访问请求；
[0043]前端显示模块105，用于将用户的访问请求提交给所述文件检索信息数据库，接收对应的检索结果；根据所述检索结果从所述数据存储系统下载对应的文件。
[0044本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据存储与读取系统，其特征在于，所述系统包括：数据转发模块、记录模块、数据存储系统、文件检索信息数据库、前端显示模块；其中，所述数据转发模块为一个或多个，用于接收数据生产设备上传的数据，并将数据上传给所述数据存储系统；所述记录模块，用于将所述数据存储系统反馈的文件检索信息写入所述文件检索信息数据库；所述数据存储系统，用于存储所述数据转发模块上传的数据，并向所述记录模块反馈文件检索信息；还用于根据前端要求，返回指定的文件；所述文件检索信息数据库，用于接收并存储所述记录模块写入的文件检索信息；还用于接收用户通过前端显示模块提交的访问请求；所述前端显示模块，用于将用户的访问请求提交给所述文件检索信息数据库，接收对应的检索结果；根据所述检索结果从所述数据存储系统下载对应的文件。2.根据权利要求1所述的数据存储与读取系统，其特征在于，所述数据转发模块、记录模块部署在基于K8S的云原生平台的POD中；所述数据存储系统为基于集群的HDFS存储系统。3.根据权利要求1或2所述的数据存储与读取系统的工作方法，其特征在于，包括：数据转发模块接收数据生产设备上传的数据，并将数据上传给所述数据存储系统；记录模块接收所述数据存储系统反馈的文件检索信息并写入所述文件检索信息数据库；文件检索信息数据库接收并存储所述记录模块写入的文件检索信息...

【专利技术属性】
技术研发人员：马涛，郝伟，刘加瑞，吴璇，
申请(专利权)人：北京华云安软件有限公司，
类型：发明
国别省市：