一种检测数据的处理方法、装置、设备及存储介质制造方法及图纸

本发明专利技术公开了一种检测数据的处理方法、装置、设备及存储介质。该方法包括：获取产品检测设备实时生成的检测数据；其中，所述检测数据包括产品检测数据、设备检测数据、设备操作数据以及设备生产数据；基于流式计算引擎，对检测数据进行流式处理，输出检测流数据；根据检测流数据的数据类型和业务逻辑，确定分表数据，并确定分表数据的关联关系；其中，所述业务逻辑包括实时统计和离线统计；将存在关联关系的分表数据存储至关系型数据库，并将不存在关联关系的分表数据存储至非关系型数据库。本技术方案解决了检测数据传输过程中资源利用率低、数据处理效率不高等问题，可以在提高检测数据的处理效率的同时，有效提高存储资源的利用率。用率。用率。

【技术实现步骤摘要】
一种检测数据的处理方法、装置、设备及存储介质


[0001]本专利技术涉及数据处理
，尤其涉及一种检测数据的处理方法、装置、设备及存储介质。

技术介绍

[0002]在工业互联网中，各种检测设备通过网络的互联、数据的互通，实现制造设备的管理、检测以及制作工艺的监控、优化，以达到资源的高效利用。
[0003]现有技术中，由于检测数据种类繁多、数据来源分散以及数据上报协议不同等特点，经常会出现一个工厂对接多个数据管理平台的情况，每个数据管理平台用于管理不同类型的数据。例如对检测设备上报的检测图片、文本文件以及设备配置参数等检测数据使用不同的数据管理平台进行管理。
[0004]但是，随着数据量的增加，非结构化的海量检测数据无法进行合理的管理和监控，资源利用率低下。同时，现有数据库的扩展需要企业级硬件支持，且很难做到水平线性扩展，因此难以支撑迅猛增长的检测数据存储。

技术实现思路

[0005]本专利技术提供了一种检测数据的处理方法、装置、设备及存储介质，以解决检测数据传输过程中资源利用率低、数据处理效率不高等问题，可以在提高检测数据的处理效率的同时，有效提高存储资源的利用率。
[0006]根据本专利技术的一方面，提供了一种检测数据的处理方法，所述方法包括：
[0007]获取产品检测设备实时生成的检测数据；其中，所述检测数据包括产品检测数据、设备检测数据、设备操作数据以及设备生产数据；
[0008]基于流式计算引擎，对检测数据进行流式处理，输出检测流数据；
[0009]根据检测流数据的数据类型和业务逻辑，确定分表数据，并确定分表数据的关联关系；其中，所述业务逻辑包括实时统计和离线统计；
[0010]将存在关联关系的分表数据存储至关系型数据库，并将不存在关联关系的分表数据存储至非关系型数据库。
[0011]根据本专利技术的另一方面，提供了一种检测数据的处理装置，该装置包括：
[0012]检测数据获取模块，用于获取产品检测设备实时生成的检测数据；其中，所述检测数据包括产品检测数据、设备检测数据、设备操作数据以及设备生产数据；
[0013]检测流数据输出模块，用于基于流式计算引擎，对检测数据进行流式处理，输出检测流数据；
[0014]关联关系确定模块，用于根据检测流数据的数据类型和业务逻辑，确定分表数据，并确定分表数据的关联关系；其中，所述业务逻辑包括实时统计和离线统计；
[0015]分表数据存储模块，用于将存在关联关系的分表数据存储至关系型数据库，并将不存在关联关系的分表数据存储至非关系型数据库。
[0016]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0017]至少一个处理器；以及
[0018]与所述至少一个处理器通信连接的存储器；其中，
[0019]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的检测数据的处理方法。
[0020]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的检测数据的处理方法。
[0021]本专利技术实施例的技术方案，通过获取产品检测设备实时生成的检测数据，基于流式计算引擎，对检测数据进行流式处理，输出检测流数据；根据检测流数据的数据类型和业务逻辑，确定分表数据，并确定分表数据的关联关系；将存在关联关系的分表数据存储至关系型数据库，并将不存在关联关系的分表数据存储至非关系型数据库。该技术方案解决了检测数据传输过程中资源利用率低、数据处理效率不高等问题，可以在提高检测数据的处理效率的同时，有效提高存储资源的利用率。
[0022]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0023]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0024]图1是根据本专利技术实施例一提供的一种检测数据的处理方法的流程图；
[0025]图2是根据本专利技术实施例二提供的一种检测数据的处理方法的流程图；
[0026]图3是根据本专利技术实施例三提供的一种检测数据的处理装置的结构示意图；
[0027]图4是实现本专利技术实施例的检测数据的处理方法的电子设备的结构示意图。
具体实施方式
[0028]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0029]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于
清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请技术方案中对数据的获取、存储、使用、处理等均符合国家法律法规的相关规定。
[0030]实施例一
[0031]图1为本专利技术实施例一提供了一种检测数据的处理方法的流程图，本实施例可适用于工厂互联网中检测数据的处理的情况，该方法可以由检测数据的处理装置来执行，该装置可以采用硬件和/或软件的形式实现，该装置可配置于电子设备中。如图1所示，该方法包括：
[0032]S110、获取产品检测设备实时生成的检测数据。
[0033]本方案可以由数据处理平台执行，数据处理平台可以实时获取产品检测设备生成的检测数据。其中，所述检测数据可以包括产品检测数据、设备检测数据、设备操作数据以及设备生产数据。所述产品检测设备可以用于采集产品图像，并基于质量检测算法对产品图像进行缺陷检测，得到产品检测数据。同时，产品检测设备还可以对本身进行检测，输出产品检测设备的运行状态、运行时间等设备检测数据。产品检测设备可以由人员、自动化程序等进行控制。产品检测设备可以生成设备操作数据，用于对产品检测设备的操控情况进行记录。产品检测设备还可以对生产线上的产品数量、产品类型等信息进行采集，得到设备生产数据。
[0034]S120本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种检测数据的处理方法，其特征在于，所述方法包括：获取产品检测设备实时生成的检测数据；其中，所述检测数据包括产品检测数据、设备检测数据、设备操作数据以及设备生产数据；基于流式计算引擎，对检测数据进行流式处理，输出检测流数据；根据检测流数据的数据类型和业务逻辑，确定分表数据，并确定分表数据的关联关系；其中，所述业务逻辑包括实时统计和离线统计；将存在关联关系的分表数据存储至关系型数据库，并将不存在关联关系的分表数据存储至非关系型数据库。2.根据权利要求1所述的方法，其特征在于，所述关联关系包括以下关系中的至少一种：产品检测结果与产品图像地址的匹配关系；产品检测结果与缺陷图像地址的匹配关系；产品检测结果与检测结果文件地址的匹配关系；产品生产线与检测站点的匹配关系。3.根据权利要求1所述的方法，其特征在于，所述方法还包括：按照第一预设周期获取产品检测设备上报的产品图像和缺陷图像；将产品图像按照第一预设压缩比例进行压缩，并将压缩前和压缩后的产品图像分别存储至匹配的分布式图像存储数据库中；将缺陷图像按照第二预设压缩比例进行压缩，并将压缩前和压缩后的缺陷图像分别存储至匹配的分布式图像存储数据库中。4.根据权利要求1所述的方法，其特征在于，所述方法还包括：按照第二预设周期获取产品检测设备上报的检测结果文件以及缺陷统计文件；将检测结果文件以及缺陷统计文件分别上传至匹配的分布式存储系统中。5.根据权利要求1所述的方法，其特征在于，所述方法还包括：按照第三预设周期读取产品检测设备预设批量的检测结果文件以及缺陷统计文件；将检测结果文件以及缺陷统计文件分别上传至匹配的分布式存储系统中。6.根据权利要求1所述的方法，其特征在于，在获取产品检测设备生成的检测数据之后，所述方法还包括：对检测数据进行非对称加密，得到检测加密数据；在基...

【专利技术属性】
技术研发人员：杨俊，于雷，全煜鸣，赵严，
申请(专利权)人：苏州凌云光工业智能技术有限公司，
类型：发明
国别省市：