一种在线数据处理方法、系统、电子设备及存储介质技术方案

技术编号:45058603 阅读:21 留言:0更新日期:2025-04-22 17:41
本公开涉及一种基于Flink的在线数据处理方法,处理方法包括:在可视化页面中选择数据源、数据处理目标和数据处理方法的图标进行连接;基于不同图标对应的预设代码生成Flink SQL代码;将Flink SQL代码提交至Flink集群,通过Flink集群对Flink SQL代码进行解析得到数据源表、数据目标表和对应的数据处理方法;基于Flink集群,通过数据目标表和数据处理方法对数据源表中各个数据源的待处理数据进行处理,得到数据处理结果。本方案提供高效、灵活的在线数据处理方式,提供图形化配置进行流程控制,提高了开发效率和数据处理效率,只需要很少配置就能实现高吞吐率和低延迟。

【技术实现步骤摘要】

本公开属于数据处理,尤其涉及一种基于flink的在线数据处理方法、系统、电子设备及存储介质


技术介绍

1、在大数据时代,数据的处理和分析变得尤为重要。传统的数据处理方式是批量处理,即先将数据存储在磁盘上,然后进行批量计算。但是,随着数据量的不断增加和数据处理需求的不断增长,这种处理方式已经无法满足实时性要求。

2、而随着数据处理的情况越来越复杂,技术人员需要编写、调试大量的代码,且针对不同数据源对应的不同的场景,适用于不同场景的数据处理方法的代码的工作量非常大,占用大量的资源。


技术实现思路

1、为解决上述问题,本公开提供了一种基于flink的在线数据处理方法、系统、电子设备及存储介质。本方案提供高效、灵活的在线数据处理方式,提供图形化配置进行流程控制,提高了开发效率和数据处理效率,只需要很少配置就能实现高吞吐率和低延迟。

2、为了解决上述技术问题,本专利技术第一方面提出一种基于flink的在线数据处理方法,所述方法包括:

3、在可视化页面中选择数据源的图标、数据处理目标本文档来自技高网...

【技术保护点】

1.一种基于Flink的在线数据处理方法,其特征在于,所述处理方法包括:

2.根据权利要求1所述的处理方法,其特征在于,所述在可视化页面中选择数据源的图标、数据处理目标的图标和数据处理方法的图标进行连接;基于不同图标对应的预设代码,通过数据源的图标、数据处理目标的图标、数据处理方法的图标以及连接关系生成FlinkSQL代码,包括:

3.根据权利要求2所述的处理方法,其特征在于,所述处理方法还包括:

4.根据权利要求1所述的处理方法,其特征在于,基于所述Flink集群,通过所述数据目标表和所述数据处理方法对所述数据源表中各个数据源的待处理数据进行处理,得...

【技术特征摘要】

1.一种基于flink的在线数据处理方法,其特征在于,所述处理方法包括:

2.根据权利要求1所述的处理方法,其特征在于,所述在可视化页面中选择数据源的图标、数据处理目标的图标和数据处理方法的图标进行连接;基于不同图标对应的预设代码,通过数据源的图标、数据处理目标的图标、数据处理方法的图标以及连接关系生成flinksql代码,包括:

3.根据权利要求2所述的处理方法,其特征在于,所述处理方法还包括:

4.根据权利要求1所述的处理方法,其特征在于,基于所述flink集群,通过所述数据目标表和所述数据处理方法对所述数据源表中各个数据源的待处理数据进行处理,得到数据处理结果,包括:

...

【专利技术属性】
技术研发人员:赵超华雷海钊袁埜王路王莉原李博一刘剑超黄小东刘乐谢亚荣
申请(专利权)人:中国民航信息网络股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1