一种数据处理方法、装置、电子设备和存储介质制造方法及图纸

本发明专利技术公开了一种数据处理方法、装置、电子设备和存储介质。其中，该方法包括：获取至少一类数据源的初始数据，并按照预设格式将所述初始数据转换为数据对象；根据预定义事件模型为所述数据对象绑定事件监听器；在所述事件监听器触发时将所述数据对象存储到响应数据集。本发明专利技术实施例解决了现有数据检索方法中数据源单一以及检索效率较低的问题，可以对复杂且庞大的多源异构数据进行数据检索，同时采用事件驱动方式触发数据进行主动响应，提高了数据检索效率。检索效率。检索效率。

【技术实现步骤摘要】
一种数据处理方法、装置、电子设备和存储介质


[0001]本专利技术涉及信息处理
，尤其涉及一种数据处理方法、装置、电子设备和存储介质。

技术介绍

[0002]随着自动化、信息化、智能化等技术不断提高，网络上的数据形态以及数据来源也随之愈加丰富。结构化数据、非结构化数据和半结构化数据等多源异构数据成为目前数据处理的主要目标对象，从复杂且庞大的多源异构数据中抽取和导出有价值的信息，可以有利于用户进行数据分析，为工作决策提供重要依据。
[0003]现有的数据处理检索方法大多针对结构化数据，查询方式主要是通过主动对数据库的数据进行遍历，或者增加索引解决热数据块频繁查询的问题。因此，现有数据处理检索方法存在处理数据源单一，以及检索效率较低的问题。

技术实现思路

[0004]本专利技术提供了一种数据处理方法、装置、电子设备和存储介质，以实现多源异构数据的数据检索操作，同时采用事件驱动方式触发数据进行主动响应，提高了数据检索效率。
[0005]第一方面，本专利技术实施例提供了一种数据处理方法，包括：
[0006]获取至少一类数据源的初始数据，并按照预设格式将初始数据转换为数据对象；
[0007]根据预定义事件模型为数据对象绑定事件监听器；
[0008]在事件监听器触发时将数据对象存储到响应数据集。
[0009]第二方面，本专利技术实施例还提供了一种数据处理装置，包括：
[0010]数据对象模块，用于获取至少一类数据源的初始数据，并按照预设格式将初始数据转换为数据对象；
[0011]监听绑定模块，用于根据预定义事件模型为数据对象绑定事件监听器；
[0012]数据集合模块，用于在事件监听器触发时将数据对象存储到响应数据集。
[0013]第三方面，本专利技术实施例还提供了一种电子设备，所述电子设备包括：
[0014]至少一个处理器；以及
[0015]与所述至少一个处理器通信连接的存储器；其中，
[0016]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据处理方法。
[0017]第四方面，本专利技术实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据处理方法。
[0018]本专利技术实施例的技术方案，通过获取至少一类数据源的初始数据，并按照预设格式将初始数据转换为数据对象，然后根据预定义事件模型为数据对象绑定事件监听器，进
而在事件监听器触发时将数据对象存储到响应数据集，解决了现有数据检索方法中数据源单一以及检索效率较低的问题，可以对复杂且庞大的多源异构数据进行数据检索，同时采用事件驱动方式触发数据进行主动响应，提高了数据检索效率。
[0019]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例一提供的一种数据处理方法的流程图；
[0022]图2是根据本专利技术实施例二提供的一种数据处理方法的流程图；
[0023]图3是根据本专利技术实施例三提供的一种数据处理方法的流程图；
[0024]图4是根据本专利技术实施例三所适用的数据处理系统的结构示例图；
[0025]图5是根据本专利技术实施例四提供的一种数据处理装置的结构示意图；
[0026]图6是实现本专利技术实施例的数据处理方法的电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]实施例一
[0029]图1为本专利技术实施例一提供了一种数据处理方法的流程图，本专利技术实施例可适用于对多源异构数据进行数据处理的情况，该方法可以由数据处理装置来执行，该数据处理装置可以采用硬件和/或软件的形式实现。如图1所示，本实施例一提供的一种数据处理方法，具体包括如下步骤：
[0030]S110、获取至少一类数据源的初始数据，并按照预设格式将初始数据转换为数据对象。
[0031]在本专利技术实施例中，初始数据可以理解为用于处理的多源异构数据，示例性地，初始数据可以包括非结构化数据、结构化数据、二进制流数据和半结构化数据等。预设格式可以理解为一个统一标准的数据格式，用于将不同数据源的初始数据进行结构化和标准化处理，示例性地，预设格式可以包括且不限于以下几项元素：对象标记、对象属性、属性类型和对象值等。数据对象可以理解为将不同数据源的初始数据进行结构化处理后的数据，示例性地，数据对象可以包括对象名称、属性信息和数据值等。
[0032]具体的，数据处理装置可以根据业务需求以及基于数据量、拉取频率和拉取方法等条件，采用通过数据源主动向数据处理装置PUSH(推)的方式，和/或主动从数据源PULL
(拉)的方式获取来自不同数据源的初始数据，在一具体实施例中，若数据源的类型较多(比如包括非结构化数据、结构化数据、二进制流数据和半结构化数据等中的多种)，且数据源方产生数据的频率比较随机，比如，数据源方不定期的生成数据且数据量也不固定，为了让数据处理装置第一时间能够完整获取每次产生的数据，则可以采用PUSH的方式进行数据获取；在另一具体实施例中，若业务要求必须以固定频率(比如每10分钟)或者固定时间点(比如每天的8:00、12:00、20:00)更新数据，则可以采用PULL的方式进行数据获取；同时，也可以采用批量、实时或一次性负载等多次接入的方式进行初始数据的获取，具体数据获取方式可以根据业务需求以及数据源的结构特点等进行综合确定，本专利技术实施例对此不做限制；然后，按照不同数据源的初始数据的标签属性进行归纳分析，进而得到一个统一的数据标准格式，即预设格式；最后，初始数据经过预设格式转换后即为所需的数据对象，其中，数据对象可以包含初始数据的一些重要参数，示例性地，数据对象可以包括对象名称、属性信息和数据值等。通过将不同数据源的初始数据转换成具有相同数据格式的数据对象，可以便于提高后面数据检索的效率。
[0033]S120、根据预定义事件模型为数据对象绑定事件监听器。
[0034]在本专利技术实施例中，预定义事件模型可以理解为预先生成的某本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，包括：获取至少一类数据源的初始数据，并按照预设格式将所述初始数据转换为数据对象；根据预定义事件模型为所述数据对象绑定事件监听器；在所述事件监听器触发时将所述数据对象存储到响应数据集。2.根据权利要求1所述方法，其特征在于，所述获取至少一类数据源的初始数据，并按照预设格式将所述初始数据转换为数据对象，包括：采集非结构化数据源、结构化数据源、二进制流数据源、半结构化数据源中至少之一的所述初始数据；确定所述初始数据的对象名称、属性信息以及数据值；将所述对象名称、所述属性信息以及所述数据值作为所述数据对象存储到数据湖。3.根据权利要求1所述方法，其特征在于，所述根据预定义事件模型为所述数据对象绑定事件监听器，包括：提取所述数据对象的对象名称；按照所述对象名称查找与所述数据对象匹配的所述预定义事件模型；将所述数据对象挂载到所述预定义事件模型的所述事件监听器。4.根据权利要求3所述方法，其特征在于，所述事件监听器通过数据库触发器监听所述预定义事件模型的信息以及事件指令。5.根据权利要求1所述方法，其特征在于，所述在所述事件监听器触发时将所述数据对象存储到响应数据集，包括：控制所述事件监听器监测外部事件源；在所述外部事件源的事件特征满足所述事件监听器时，将所述事件监听器绑定的所述数据对象存储到所述响应...

【专利技术属性】
技术研发人员：杨良志，白琳，汪志新，卢业波，肖胜雄，梁智睿，
申请(专利权)人：彩讯科技股份有限公司，
类型：发明
国别省市：