数据处理方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术公开了一种数据处理方法、装置、电子设备及存储介质，其中，该方法包括：接收待存储业务数据，并确定待存储业务数据的数据量是否超过预设数据量存储阈值；若是，则基于目标处理引擎，确定与待存储业务数据相关联的至少一个存储节点；将待存储业务数据分别存储至对应的存储节点中，以在同时接收到多个数据处理请求时，基于各数据处理请求，分别调取相应的目标业务数据。本发明专利技术实施例的技术方案，实现了在大数据环境下，对业务数据的快速存取的效果，通过多进程和多线程的方法，达到了高并发、高性能和高可用的目标。高性能和高可用的目标。高性能和高可用的目标。

【技术实现步骤摘要】
数据处理方法、装置、电子设备及存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种数据处理方法、装置、电子设备及存储介质。

技术介绍

[0002]随着新能源仪器检测领域的迅速发展，需要处理的检测结果数据也从之前的兆字节增长到了太字节。对于数据存储这一环节，通常是将数据存储到工控机上某一磁盘的某一目录文件下，这种方式可以直接操作文件，无需过多配置，即可实现数据的存和取。
[0003]然而，当数据量仅限于几兆字节或几十兆字节时，这种方式方可应对；若数据量增长过快，同时又要求对数据进行快速读和取，采用这种方式将会导致机器CPU和内存的持续飙升，进而导致整个检测环节崩溃、数据丢失，甚至机器宕机的风险。

技术实现思路

[0004]本专利技术提供了一种数据处理方法、装置、电子设备及存储介质，以实现在大数据环境下，对业务数据的快速存取，达到了高并发、高性能和高可用的目标。
[0005]根据本专利技术的一方面，提供了一种数据处理方法，该方法包括：
[0006]接收待存储业务数据，并确定所述待存储业务数据的数据量是否超过预设数据量存储阈值；
[0007]若是，则基于目标处理引擎，确定与所述待存储业务数据相关联的至少一个存储节点；
[0008]将所述待存储业务数据分别存储至对应的存储节点中，以在同时接收到多个数据处理请求时，基于各所述数据处理请求，分别调取相应的目标业务数据。
[0009]根据本专利技术的另一方面，提供了一种数据处理装置，该装置包括：
[0010]待存储业务数据接收模块，用于接收待存储业务数据，并确定所述待存储业务数据的数据量是否超过预设数据量存储阈值；
[0011]存储节点确定模块，用于若是，则基于目标处理引擎，确定与所述待存储业务数据相关联的至少一个存储节点；
[0012]目标业务数据调取模块，用于将所述待存储业务数据分别存储至对应的存储节点中，以在同时接收到多个数据处理请求时，基于各所述数据处理请求，分别调取相应的目标业务数据。
[0013]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0014]至少一个处理器；以及
[0015]与所述至少一个处理器通信连接的存储器；其中，
[0016]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据处理方法。
[0017]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据处理方法。
[0018]本专利技术实施例的技术方案，通过接收待存储业务数据，并确定待存储业务数据的数据量是否超过预设数据量存储阈值，进一步的，若是，则基于目标处理引擎，确定与待存储业务数据相关联的至少一个存储节点，最后，将待存储业务数据分别存储至对应的存储节点中，以在同时接收到多个数据处理请求时，基于各数据处理请求，分别调取相应的目标业务数据，实现了在大数据环境下，对业务数据的快速存取的效果，通过多进程和多线程的方法，达到了高并发、高性能和高可用的目标。
[0019]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例一提供的一种数据处理方法的流程图；
[0022]图2是根据本专利技术实施例一所适用的分布式数据处理系统的架构图；
[0023]图3是根据本专利技术实施例二提供的一种数据处理装置的结构示意图；
[0024]图4是根据本专利技术实施例二提供的一种数据处理装置的结构示意图；
[0025]图5是实现本专利技术实施例的数据处理方法的电子设备的结构示意图。
具体实施方式
[0026]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0027]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0028]实施例一
[0029]图1为本专利技术实施例一提供了一种数据处理方法的流程图，本实施例可适用于大量业务数据的存储和读取的情况，该方法可以由数据处理装置来执行，该数据处理装置可
以采用硬件和/或软件的形式实现，该数据处理装置可配置于终端和/或服务器中。如图1所示，该方法包括：
[0030]S110、接收待存储业务数据，并确定待存储业务数据的数据量是否超过预设数据量存储阈值。
[0031]在本实施例中，当新能源车辆运行一段时间后，可以通过仪器检测设备对车辆的电池包、通信设备以及其他设备进行检测，并获取相应的数据，并且，可以将这些数据存储至服务器中，以使服务器可以对其进行数据分析处理，可以将这些数据作为待存储业务数据。可选的，待存储业务数据可以包括电池的电压数据、电流数据、温度数据、通信设备的通信数据以及车辆用户的用户信息等。预设数据量存储阈值可以为预先设置的，用于确定待存储业务数据是否可以在单机环境下进行处理的数据量阈值。预设数据量阈值可以为任意值，可选的，可以为100太字节、200太字节或500太字节等。
[0032]在实际应用中，通过仪器检测设备对新能源车辆的相关设备进行数据采集之后，还可以将采集后的数据存储至服务器中，在接收到待存储业务数据后，可以确定这些待存储业务数据的数据量是否大于预设数据量阈值。这样设置的好处在于：可以根据待存储业务数据的数据量判断这些待存储业务数据是要在单机环境下进行处理，还是在分布式多机环境下进行处理，以提高数据的处理效率。
[0033]S120、若是，则基于目标处理引擎，确定与待存储业务数据相关联的至少一个存储节点。
[0034]在本实施例中，目标本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，包括：接收待存储业务数据，并确定所述待存储业务数据的数据量是否超过预设数据量存储阈值；若是，则基于目标处理引擎，确定与所述待存储业务数据相关联的至少一个存储节点；将所述待存储业务数据分别存储至对应的存储节点中，以在同时接收到多个数据处理请求时，基于各所述数据处理请求，分别调取相应的目标业务数据。2.根据权利要求1所述的方法，其特征在于，所述基于目标处理引擎，确定与所述待存储业务数据相关联的至少一个存储节点，包括：基于所述目标处理引擎，确定与所述待存储业务数据相对应的数据属性；基于所述数据属性，确定至少一个存储节点；其中，数据属性包括数据查询次数、数据变更次数以及数据类型中的至少一种。3.根据权利要求1所述的方法，其特征在于，所述基于各所述数据处理请求，分别调取相应的目标业务数据，包括：针对各所述数据处理请求，确定与当前数据处理请求相对应的请求处理数据；基于各所述请求处理数据，确定相应的存储节点，以基于各所述存储节点，调取相应的目标业务数据。4.根据权利要求1所述的方法，其特征在于，还包括：确定与各所述数据处理请求相对应的至少一个数据处理模型，其中，各数据处理模型是基于历史业务数据训练完成的；针对各所述数据处理模型，将所述目标业务数据输入至当前数据处理模型中，得到数据规律预测结果，其中，所述数据规律预测结果包括不同时间维度下的业务数据；根据各所述数据规律预测结果，确定相应的规律预测曲线，并将所述规律预测曲线显示在相应的用户终端。5.根据权利要求1所述的方法，其特征在于，还包括：当检测到与至少一个存储节点相关联的目标业务数据存在异常数据...

【专利技术属性】
技术研发人员：舒伟，李德满，董汉，陈超，
申请(专利权)人：苏州清研精准汽车科技有限公司，
类型：发明
国别省市：