【技术实现步骤摘要】
本公开属于数据处理,尤其涉及一种基于flink的在线数据处理方法、系统、电子设备及存储介质。
技术介绍
1、在大数据时代,数据的处理和分析变得尤为重要。传统的数据处理方式是批量处理,即先将数据存储在磁盘上,然后进行批量计算。但是,随着数据量的不断增加和数据处理需求的不断增长,这种处理方式已经无法满足实时性要求。
2、而随着数据处理的情况越来越复杂,技术人员需要编写、调试大量的代码,且针对不同数据源对应的不同的场景,适用于不同场景的数据处理方法的代码的工作量非常大,占用大量的资源。
技术实现思路
1、为解决上述问题,本公开提供了一种基于flink的在线数据处理方法、系统、电子设备及存储介质。本方案提供高效、灵活的在线数据处理方式,提供图形化配置进行流程控制,提高了开发效率和数据处理效率,只需要很少配置就能实现高吞吐率和低延迟。
2、为了解决上述技术问题,本专利技术第一方面提出一种基于flink的在线数据处理方法,所述方法包括:
3、在可视化页面中选择数据源
...【技术保护点】
1.一种基于Flink的在线数据处理方法,其特征在于,所述处理方法包括:
2.根据权利要求1所述的处理方法,其特征在于,所述在可视化页面中选择数据源的图标、数据处理目标的图标和数据处理方法的图标进行连接;基于不同图标对应的预设代码,通过数据源的图标、数据处理目标的图标、数据处理方法的图标以及连接关系生成FlinkSQL代码,包括:
3.根据权利要求2所述的处理方法,其特征在于,所述处理方法还包括:
4.根据权利要求1所述的处理方法,其特征在于,基于所述Flink集群,通过所述数据目标表和所述数据处理方法对所述数据源表中各个数据源的待
...【技术特征摘要】
1.一种基于flink的在线数据处理方法,其特征在于,所述处理方法包括:
2.根据权利要求1所述的处理方法,其特征在于,所述在可视化页面中选择数据源的图标、数据处理目标的图标和数据处理方法的图标进行连接;基于不同图标对应的预设代码,通过数据源的图标、数据处理目标的图标、数据处理方法的图标以及连接关系生成flinksql代码,包括:
3.根据权利要求2所述的处理方法,其特征在于,所述处理方法还包括:
4.根据权利要求1所述的处理方法,其特征在于,基于所述flink集群,通过所述数据目标表和所述数据处理方法对所述数据源表中各个数据源的待处理数据进行处理,得到数据处理结果,包括:
...
【专利技术属性】
技术研发人员:赵超华,雷海钊,袁埜,王路,王莉原,李博一,刘剑超,黄小东,刘乐,谢亚荣,
申请(专利权)人:中国民航信息网络股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。