数据处理方法技术

本公开提供了一种数据处理方法

【技术实现步骤摘要】
数据处理方法、处理装置及处理系统


[0001]本公开涉及计算机
，尤其涉及一种数据处理方法
、
处理装置及处理系统
。

技术介绍

[0002]随着互联网和信息化的快速发展，各种数据呈井喷式增长，需要通过使用一些
ETL(Extract
‑
Transform
‑
Load
，抽取
‑
转换
‑
装载
)
工具对各种数据进行处理
、
转换
、
整合
、
迁移等操作，但目前市面上的
ETL
工具存在着各种各样的局限性，例如不支持分布式部署
、
不支持数据实时同步
、
对使用者技术能力要求较高
、
模型无法复用等，导致数据处理效率低
。

技术实现思路

[0003]本公开提供了一种数据处理方法
、
处理装置及处理系统，以至少解决相关技术中使用
ETL
工具进行数据处理的效率低的技术问题
。
[0004]根据本公开的一方面，提供了一种数据处理方法，包括：在操作界面的第一显示区域中显示多个第一组件，其中，多个第一组件包括：源数据库组件
、
目标数据库组件和多个运算组件，每个运算组件用于对输入至该运算组件的数据进行目标运算以得到运算结果；响应作用于多个第一组件中目标组件的拖动操作，将目标组件从第一显示区域移动至操作界面的第二显示区域；响应作用于第二显示区域中的触控操作，在第二显示区域中显示数据处理模型，其中，数据处理模型通过第二显示区域中显示的多个第二组件进行连接得到，多个第二组件包括：源数据库组件
、
目标数据库组件和至少一个运算组件
。
[0005]根据本公开的另一方面，提供了一种数据处理装置，包括：组件显示模块，用于在操作界面的第一显示区域中显示多个第一组件，其中，多个第一组件包括：源数据库组件
、
目标数据库组件和多个运算组件，每个运算组件用于对输入至该运算组件的数据进行目标运算以得到运算结果；组件拖动模块，用于响应作用于多个第一组件中目标组件的拖动操作，将目标组件从第一显示区域移动至操作界面的第二显示区域；模型显示模块，用于响应作用于第二显示区域中的触控操作，在第二显示区域中显示数据处理模型，其中，数据处理模型通过第二显示区域中显示的多个第二组件进行连接得到，多个第二组件包括：源数据库组件
、
目标数据库组件和至少一个运算组件
。
[0006]根据本公开的另一方面，提供了一种数据处理系统，包括：源数据库，用于存储原始数据；目标数据库，用于存储处理结果；终端设备，用于在操作界面的第一显示区域中显示多个第一组件，响应作用于多个第一组件中目标组件的拖动操作，将目标组件从第一显示区域移动至操作界面的第二显示区域，并响应作用于第二显示区域中的触控操作，在第二显示区域中显示数据处理模型，其中，多个第一组件包括：源数据库组件
、
目标数据库组件和多个运算组件，每个运算组件用于对输入至该运算组件的数据进行目标运算以得到运算结果，数据处理模型通过第二显示区域中显示的多个第二组件进行连接得到，多个第二组件包括：源数据库组件
、
目标数据库组件和至少一个运算组件
。
[0007]根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与至
少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行根据本公开的方法
。
[0008]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行根据本公开的方法
。
[0009]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现根据本公开的方法
。
[0010]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围
。
本公开的其它特征将通过以下的说明书而变得容易理解
。
附图说明
[0011]附图用于更好地理解本方案，不构成对本公开的限定
。
其中：
[0012]图1是根据本公开实施例的一种数据处理方法的流程示意图；
[0013]图2是根据本公开实施例的一种操作界面结构示意图；
[0014]图3是根据本公开实施例的一种
kafka
消费失败处理机制示意图；
[0015]图4是根据本公开实施例的一种数据处理方法的结构示意图；
[0016]图5是根据本公开实施例的一种操作界面配置方法流程示意图；
[0017]图6是根据本公开实施例的一种模型训练的装置的结构框图；
[0018]图7是根据本公开第一实施例的一种用于实现数据处理方法的计算机终端
(
或移动设备
)
的硬件结构框图示意图
。
具体实施方式
[0019]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的
。
因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神
。
同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述
。
[0020]需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第二”、“第三”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序
。
应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施
。
此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程
、
方法
、
系统
、
产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程
、
方法
、
产品或设备固有的其它步骤或单元
。
[0021]当前现有
ETL
处理软件的缺点主要包括：软件安装复杂，操作流程繁琐，且对使用人员的技术要求较高；不支持分布式部署，对大数据量的处理能力欠缺；无法处理实时数据；不支持数据断点续传；软件使用成本较高，没有很好的技术支持
。
[0022]为了解决上述技术问题，本申请提供了如下技术方案：
[0023]根据本公开实施例，提供了一种数据处理方法，需要说明的是，在附图的流程图示出的步骤可以本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种数据处理方法，包括：在操作界面的第一显示区域中显示多个第一组件，其中，所述多个第一组件包括：源数据库组件
、
目标数据库组件和多个运算组件，每个运算组件用于对输入至该运算组件的数据进行目标运算以得到运算结果；响应作用于所述多个第一组件中目标组件的拖动操作，将所述目标组件从所述第一显示区域移动至所述操作界面的第二显示区域；响应作用于所述第二显示区域中的触控操作，在所述第二显示区域中显示数据处理模型，其中，所述数据处理模型通过所述第二显示区域中显示的多个第二组件进行连接得到，所述多个第二组件包括：所述源数据库组件
、
所述目标数据库组件和至少一个运算组件
。2.
根据权利要求1所述的方法，其中，在将所述目标组件从所述第一显示区域移动至所述操作界面的第二显示区域之后，所述方法还包括：响应于作用于所述目标组件的触控操作，在所述操作界面中显示所述目标组件对应的配置界面；响应作用于所述配置界面中的配置指令，在所述配置界面中显示所述目标组件的组件参数，其中，所述组件参数用于对所述目标组件进行配置
。3.
根据权利要求1所述的方法，其中，在所述第二显示区域中显示数据处理模型之后，所述方法还包括：确定所述源数据库组件对应的原始数据是否出现更新；响应于所述原始数据出现更新，读取出现更新的目标数据；利用所述数据处理模型对所述目标数据进行处理，得到处理结果；将所述处理结果存储至所述目标数据库组件对应的目标数据库
。4.
根据权利要求3所述的方法，其中，确定所述源数据库组件对应的原始数据是否出现更新包括如下之一：响应于定时时间到达，检测所述原始数据是否出现更新；对所述源数据库组件对应的数据库增量日志进行解析，确定所述原始数据是否出现更新
。5.
根据权利要求3所述的方法，其中，利用所述数据处理模型对所述目标数据进行处理，得到所述处理结果包括：将所述目标数据存储至第一分布式消息队列；利用所述数据处理模型对所述第一分布式消息队列中存储的第一数据进行处理，得到所述处理结果
。6.
根据权利要求3所述的方法，其中，将所述处理结果存储至所述目标数据库组件对应的目标数据库包括：将所述处理结果存储至第二分布式消息队列；将所述第二分布式消息队列中存储的第二数据写入所述目标数据库
。7.
一种数据处理装置，包括：组件显示模块，用于在操作界面的第一显示区域中显示多个第一组件，其中，所述多个第一组件包括：源数据库组件
、
目标数据库组件和多个运算组件，每个运算组件用于对输入至该运算组件的数据进行目标运算以得到运算结果；
组件拖动模块，用于响应作用于所述多个第一组件中目标组件的拖动操作，将所述目标组件从所述第一显示区域移动至所述操作界面的第二显示区域；模型显示模块，用于响应作用于所述第二显示区域中的触控操作，在所述第二显示区域中显示数据处理模型，其中，所述数据处理模型通过所述第二显示区域中显示的多个第二组件进行连接得到，所述多个第二组件包括：所述源数据库组件
、
所述目标数据库组件和至少一个...

【专利技术属性】
技术研发人员：陈建辉，
申请(专利权)人：阿波罗智行科技广州有限公司，
类型：发明
国别省市：