一种数据处理方法、装置、计算机设备和存储介质制造方法及图纸

技术编号:37866548 阅读:9 留言:0更新日期:2023-06-15 20:56
本申请公开了一种数据处理方法、装置、计算机设备和存储介质,该方法包括:根据待处理数据集合的数据信息,得到待处理数据集合中每个待处理数据的存储指令,其中,数据信息包括待处理数据的属性信息、时间戳和属性值;根据存储指令,生成每个待处理数据的存储路径和唯一标识,并在存储路径的目标文件夹中存储以唯一标识命名的待处理数据,得到存储后的目标数据;其中,唯一标识由属性信息的第一字段与时间戳的第二字段拼接得到,目标文件夹所在的文件目录与第一字段相对应,第一字段的每个分隔字段对应文件目录中的一个层级。本申请能够提升数据存储、查询的效率和准确性。查询的效率和准确性。查询的效率和准确性。

【技术实现步骤摘要】
一种数据处理方法、装置、计算机设备和存储介质


[0001]本申请涉及数据结构与算法
,具体涉及一种数据处理方法、装置、计算机设备和存储介质。

技术介绍

[0002]传统数据库一般分为单文件存储和多文件存储两种数据存储类型,单文件存储是将所有数据都存储在同一个文件中,多文件存储是将数据进行分类后存储在多个文件中。
[0003]然而,单文件存储的方式存在数据存储压力大、易损坏、扩容难,数据查询效率和准确性较低等缺陷。多文件存储虽然改善了数据存储压力,但通常存在对数据分类不准确、分类维度不够多、分类粒度不够细的问题,导致数据存储混乱、查询效率,以及数据查询结果难以满足用户查询需求的缺陷。

技术实现思路

[0004]本专利技术实施例提供一种数据处理方法、装置、计算机设备和存储介质,能够提升数据存储、查询的效率和准确性。
[0005]本专利技术实施例提供一种数据处理方法,,该方法包括:
[0006]根据待处理数据集合的数据信息,得到所述待处理数据集合中每个待处理数据的存储指令,其中,所述数据信息包括所述待处理数据的属性信息、时间戳和属性值;
[0007]根据所述存储指令,生成所述每个待处理数据的唯一标识、存储路径,以及所述存储路径对应的多级文件目录,并在所述存储路径的目标文件夹中存储以所述唯一标识命名的所述待处理数据,得到存储后的目标数据;
[0008]其中,所述唯一标识由所述属性信息的第一字段与所述时间戳的第二字段拼接得到,所述多级文件目录与所述第一字段相对应,所述第一字段的每个分隔字段对应所述多级文件目录的每一个层级。
[0009]可选地,所述生成所述每个待处理数据的存储路径,包括:
[0010]根据所述存储指令的字段,得到所述待处理数据的表信息;
[0011]在所述表信息的字段中添加路径字符,以将所述表信息转换为所述存储路径。
[0012]可选地,在所述存储路径的目标文件夹中存储以所述唯一标识命名的所述待处理数据,包括:
[0013]根据所述路径字符分割所述存储路径,得到多个所述分隔字段;
[0014]从所述多个分隔字段中选取位于末尾的目标分隔字段,得到以所述目标分隔字段命名的所述目标文件夹;
[0015]将所述待处理数据存储至所述目标文件夹,并以所述唯一标识命名所述待处理数据。
[0016]可选地,所述根据待处理数据集合的数据信息,得到所述待处理数据集合中每个待处理数据的存储指令,包括:
[0017]针对所述每个待处理数据,获取所述属性信息对应的第一字段、所述时间戳对应的第二字段,以及所述属性值对应的第三字段;
[0018]拼接存储语句字段、所述第一字段、所述第二字段和所述第三字段,得到所述存储指令。
[0019]可选地,所述方法还包括:
[0020]接收针对所述目标数据的第一读写指令,其中,所述第一读写指令包括第一路径字段和数据显示字符;
[0021]执行所述第一读写指令,根据所述第一路径字段跳转至第一文件夹,并根据所述数据显示字符,显示所述第一文件夹所包含的数据和子文件夹,或者显示所述第一文件所包含的数据、所述子文件夹和所述子文件夹的数据。
[0022]可选地,所述方法还包括:
[0023]接收针对目标时刻的待处理数据的第二读写指令,其中,所述第二读写指令包括第二路径字段和多个间隔时刻的时间戳,所述多个间隔时刻为与所述目标时刻相邻且连续的多个时刻;
[0024]执行所述第二读写指令,根据所述第二路径字段跳转至第二文件夹,并显示所述多个间隔时刻的时间戳对应的目标数据。
[0025]可选地,在所述根据待处理数据集合的数据信息,得到所述待处理数据集合中每个待处理数据的存储指令之前,所述方法还包括:
[0026]获取所述待处理数据对应传感器的属性信息或所述待处理数据对应目标对象的属性信息,得到所述属性信息;
[0027]获取所述待处理数据的获取时间,对所述获取时间进行时间戳字符转换,得到所述时间戳。
[0028]本专利技术实施例还提供一种数据处理装置,,该装置包括:
[0029]存储指令生成模块,用于根据待处理数据集合的数据信息,得到所述待处理数据集合中每个待处理数据的存储指令,其中,所述数据信息包括所述待处理数据的属性信息、时间戳和属性值;
[0030]目标数据存储模块,用于根据所述存储指令,生成所述每个待处理数据的唯一标识、存储路径,以及所述存储路径对应的多级文件目录,并在所述存储路径的目标文件夹中存储以所述唯一标识命名的所述待处理数据,得到存储后的目标数据;
[0031]其中,所述唯一标识由所述属性信息的第一字段与所述时间戳的第二字段拼接得到,所述多级文件目录与所述第一字段相对应,所述第一字段的每个分隔字段对应所述多级文件目录的每一个层级。
[0032]在本专利技术的一些实施例中,还可以提供一种计算机设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,所述处理器执行所述计算机程序时实现如上所述方法的步骤。
[0033]在本专利技术的一些实施例中,还可以提供一种计算机可读存储介质,其上存储有计算机程序,当计算机程序在计算机上运行时,使得所述计算机执行如如上所述方法的步骤。
[0034]由上可知,本申请可以通过待处理数据的存储指令,直接生成待处理数据的存储路径和唯一标识,并将待处理数据快速、准确地存储至该存储路径的多级文件目录的目标
文件夹下,从而能够提升海量数据分类存储、后续查询的效率和准确性。
[0035]并且本申请通过以测量属性和时间戳拼接的唯一标识命名待处理数据,由于时间戳达到毫秒级别,使得每个待处理数据均为分类维度极高、分类粒度极细的原子型数据,以实现待处理数据的拆分存储的精确性和准确性。
附图说明
[0036]为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0037]图1是本专利技术实施例提供的数据处理方法的应用场景示意图;
[0038]图2是本专利技术实施例提供的数据处理方法的流程示意图;
[0039]图3是本专利技术实施例提供的根据读写指令确定目标文件夹的示意图;
[0040]图4是本专利技术实施例提供的根据读写指令确定数据展示内容的示意图;
[0041]图5是本专利技术实施例提供的数据以多级目录存储的树状结构示意图;
[0042]图6是本专利技术实施例提供的根据读写指令确定目标文件夹的另一示意图;
[0043]图7是本专利技术实施例提供的目标数据以分布式节点查询/存储的示意图;
[0044]图8是本专利技术实施例提供的对目标数据进行可视化呈现的示意图;
[0045]图9是本专利技术实施例提供的数据处理装置的结构示本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法包括:根据待处理数据集合的数据信息,得到所述待处理数据集合中每个待处理数据的存储指令,其中,所述数据信息包括所述待处理数据的属性信息、时间戳和属性值;根据所述存储指令,生成所述每个待处理数据的唯一标识、存储路径,以及所述存储路径对应的多级文件目录,并在所述存储路径的目标文件夹中存储以所述唯一标识命名的所述待处理数据,得到存储后的目标数据;其中,所述唯一标识由所述属性信息的第一字段与所述时间戳的第二字段拼接得到,所述多级文件目录与所述第一字段相对应,所述第一字段的每个分隔字段对应所述多级文件目录的每一个层级。2.根据权利要求1所述的数据处理方法,其特征在于,所述生成所述每个待处理数据的存储路径,包括:根据所述存储指令的字段,得到所述待处理数据的表信息;在所述表信息的字段中添加路径字符,以将所述表信息转换为所述存储路径。3.根据权利要求2所述的数据处理方法,其特征在于,在所述存储路径的目标文件夹中存储以所述唯一标识命名的所述待处理数据,包括:根据所述路径字符分割所述存储路径,得到多个所述分隔字段;从所述多个分隔字段中选取位于末尾的目标分隔字段,得到以所述目标分隔字段命名的所述目标文件夹;将所述待处理数据存储至所述目标文件夹,并以所述唯一标识命名所述待处理数据。4.根据权利要求1所述的数据处理方法,其特征在于,所述根据待处理数据集合的数据信息,得到所述待处理数据集合中每个待处理数据的存储指令,包括:针对所述每个待处理数据,获取所述属性信息对应的第一字段、所述时间戳对应的第二字段,以及所述属性值对应的第三字段;拼接存储语句字段、所述第一字段、所述第二字段和所述第三字段,得到所述存储指令。5.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括:接收针对所述目标数据的第一读写指令,其中,所述第一读写指令包括第一路径字段和数据显示字符;执行所述第一读写指令,根据所述第一路径字段跳转至第一文件夹,并根据所述数据显示字符,显示所述第一文件夹所包...

【专利技术属性】
技术研发人员:王玉廷王戎
申请(专利权)人:浙江泰易云信息科技有限公司
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1